Ketika masuk awal tahun ke 14 H Khalifah Umar bin al-Khaththab memotivasi kaum muslimin untuk berjihad di Bumi Irak. Yakni ketika sampai kepadanya berita terbunuhnya Abu Ubaid pada peperangan di Jembatan sungai Eufrat, dan menguatnya kembali kekuatan Persia di bawah pimpinan Yazdigrid dari kalangan Raja Persia. Ditambah lagi dengan pengkhianatan ahlu Dzimmah di Irak terhadap kesepakatan yang mereka buat dengan kaum muslimin. Mereka telah melepaskan ketaatan mereka terhadap pemerintah Islam, dengan menyakiti kaum muslimin dan mengusir para gubernur wilayah yang ditunjuk Umar dari tempat mereka. Maka Umar memerintahkan kepada seluruh pasukannya untuk keluar dari wilayah Persia dan berkumpul di penghujung negeri-negeri jajahan Persia.
Ibnu Jarir meriwayatkan, maka pada awal bulan Muharram tahun ini Umar berangkat dari Madinah membawa pasukannya dan singgah di sebuah tempat yang banyak airnya disebut dengan Shirar di tempat itu Umar memerintahkan pasukannya untuk berhenti.
Sementara dia telah bertekad untuk memimpin sendiri peperangan melawan Irak. Dia telah menunjuk Ali bin Abi Thalib sebagai penggantinya di Madinah. Dalam keberangkatan ini dia membawa senior sahabat seperti Utsman bin Affan dan lain-lainnya. Kemudian dia menggelar musyawarah untuk membicarakan keinginannya tersebut.
Mereka berkumpul untuk shalat, sementara Umar telah mengirim utusan kepada Ali untuk turut menghadiri pertemuan tersebut. Maka Ali segera datang dari Madinah. Ketika semua telah berkumpul, Umar mengutarakan maksud hatinya. Seluruhnya yang hadir menyetujui usulnya untuk berangkat sendiri menuju Irak kecuali Abdurrahman bin Auf yang memberikan usulan lain padanya. Ia berkata, "Aku khawatir jika engkau kalah, maka kaum muslimin di seluruh penjuru bumi akan menjadi lemah, maka aku mengusulkan agar engkau mengutus seseorang dan engkau kembali ke Madinah." Akhirnya Umar dan seluruh sahabat menerima dan membenarkan usul Abdurrahman ini.
Umar berkata padanya, "Siapa menurutmu yang akan kita kirim sebagai panglima ke Irak?"
Abdurrahman menjawab, "Aku telah menemukannya."
Umar berkata, "Siapa dia?"
Abdurrahman menjawab, "Singa yang mencengkram dengan kukunya, Sa'ad bin Malik az-Zuhri."
Maka Umar membenarkan usulannya ini dan segera mengirim Sa'ad sebagai Panglima tertinggi untuk wilayah Irak.