Shalat tarawih berubah keadaannya ketika Umar bin Khattab berinisatif untuk menggelarnya secara berjamaah, setelah menyaksikan umat Islam shalat tarawih yang tampak tak kompak, sebagian shalat secara sendiri-sendiri, sebagian lain berjamaah. Sebuah hadits shahih memaparkan:
"Dari 'Abdirrahman bin 'Abdil Qari', beliau berkata: 'Saya keluar bersama Sayyidina Umar bin Khattab radliyallahu 'anh ke masjid pada bulan Ramadhan. (Didapati dalam masjid tersebut) orang yang shalat tarawih berbeda-beda. Ada yang shalat sendiri-sendiri dan ada juga yang shalat berjamaah. Lalu Sayyidina Umar berkata:
'Saya punya pendapat andai mereka aku kumpulkan dalam jamaah satu imam, niscaya itu lebih bagus." Lalu beliau mengumpulkan kepada mereka dengan seorang imam, yakni sahabat Ubay bin Ka'ab. Kemudian satu malam berikutnya, kami datang lagi ke masjid.
