Pertempuran di Qadisiyah adalah pertempuran terbesar yang tidak pernah terjadi sebelumnya di Irak. Ketika dua pasukan telah berhadap-hadapan, Sa'ad tertimpa penyakit irqunnisa dan bisul-bisul yang tumbuh di sekujur tubuhnya hingga tidak dapat mengendarai kudanya. Dia hanya dapat menyaksikan pertempuran di dalam benteng dengan bersandar di atas dadanya yang terletak di atas bantal sambil mengatur tentaranya. Dia telah mewakilkan urusan perang ini kepada Khalid bin Urfuthah, di sayap kanan dia menempatkan Jarir bin Abdillah al-Bajili, dan di sayap kiri dia mengangkat Qais bin Maksyuh. Qais dan al-Mughirah adalah pasukan bantuan yang dikirimkan Abu Ubaidah dari Syam selesai pertempuran di Yarmuk.
Sa'ad melaksanakan shalat zuhur dengan pasukannya kemudian dia berpidato memberikan wejangan kepada kaum muslimin serta memberi semangat untuk berjihad dan ia membacakan ayat,
"Dan sesungguhnya telah Kami tulis di dalam Zabur sesudah (Kami tulis dalam) Lauh Mahfuzh, bahwasanya bumi ini dipusakai hamba-hamba-Ku yang shalih." (QS. Al-Anbiya: 105)
Dia membacakan ayat Jihad dan surat yang berkenaan dengan masalah itu. Setelah itu Sa'ad bertakbir empat kali, selesai takbir keempat mereka langsung maju menyerbu musuh hingga malam tiba. Kemudian mereka berhenti bertempur, sementara dari kedua belah pihak telah banyak yang menjadi korban.
Pada pagi harinya pertempuran kembali berkobar hingga larut malam pertempuran masih terus berjalan setelah itu mereka berhenti. Pada pagi hari berikutnya mereka kembali bertempur hingga sore tiba. Esok harinya (hari ketiga) mereka kembali bertempur hingga sore hari, dan malam ini disebut dengan malam al-Harir.
Pada pagi hari yang keempat mereka bertempur dengan sengitnya. Hari itu kaum muslimin mengalami kesulitan disebabkan pasukan bergajah musuh membuat kuda-kuda Arab berlarian menghindarinya. Maka para sahabat berusaha menghabisi seluruh gajah-gajah dengan para pengendara yang mengandalikannya. Mereka berhasil melukai dan membutakan mata-mata gajah ini. Beberapa orang dari tentara kaum muslimin benar-benar menunjukkan kebolehannya dalam bertempur mati-matian memerangi musuh, seperti Thulaihah al-Asadi, Amr bin Ma'di Karib, al-Qa'qa bin Amr, Jarir bin Abdillah al-Bajili, Dhirar bin al-Khaththab, Khalid bin Urfuthah dan lain-lainnya.
Pada waktu matahari tergelincir di hari ini –disebut dengan hari Qadisiyah tepatnya hari senin bulan Muharram tahun 14 H. Sebagaimana yang dikatakan Saif bin Umar at-Tamimi– tiba-tiba angin berhembus sangat kencang hingga menerbangkan tenda-tenda tentara Persia dari tempatnya. Bahkan berhasil menerbangkan dan menjatuhkan singgasana Rustam yang biasa didudukinya. Rustam segera menaiki kudanya dan melarikan diri, namun kaum muslimin segera mengejarnya dan berhasil membunuhnya. Mereka juga berhasil membunuh Jalinius yang berada di posisi depan pasukannya.
Akhirnya tentara Persia mengalami kekalahan telak. Mereka melarikan diri kocar-kacir sementara kaum muslimin dengan leluasa mengejar dan membunuh mereka, maka tentara Islam berhasil membunuh 30.000 pasukan musuh pada hari itu, dan sebelumnya mereka telah membunuh 10.000 tentara Persia, adapun jumlah pasukan Islam yang terbunuh pada hari ini dan hari sebelumnya 2500 orang –semoga Allah merahmati mereka–. Kaum muslimin terus mengejar pasukan persia hingga mereka masuk ke dalam kota al-Madain tempat kediaman raja dan istana kekaisarannya.
Yang berhasil membunuh Rustam adalah Hilal bin Ullafah at-Taimi dan yang menghabisi Jalinius adalah Zuhrah bin Hawaiah as-Sa'di.
Adapun Sa'ad radhiallahu 'anhu tidak dapat turut bertempur disebabkan penyakitnya. Namun dia terus menerus memantau perkembangan pasukannya sambil memberikan instruksi untuk kebaikan pasukannya, meski demikian dia tidak menutup pintu istana karena keberaniannya, hingga andaikata tenteranya lari pasti dengan mudah tentara Persia dapat menangkapnya dengan tangan mereka tanpa ada perlawanan darinya, dan ketika itu dia membawa Istrinya Salma binti Khasafah yang sebelumnya adalah istri dari al-Mutsanna bin Haritsah.
Ketika sebagian kuda berlari di hari itu istrinya sangat kaget dan takut seraya berkata, "Aduhai al-Mutsanna… mungkin aku tidak lagi memiliki al-Mutsanna setelah hari ini," Maka Sa'ad marah mendengarnya dan menampar wajahnya. Istrinya menjawab, "Alangkah pengecutnya dirimu" –dia mencelanya karena hanya duduk di istana pada waktu peperangan berkecamuk– ini adalah suatu bentuk pembangkangan darinya padahal dialah yang lebih mengerti udzur suaminya tidak dapat bertempur disebabkan penyakit yang menghalanginya.
Kepahlawanan dan Keberanian Abu Mihjan
Waktu itu Abu Mihjan berada di dalam istana. Ia dipenjarakan karena minum Khamr, dan sebelumnya dia telah berkali-kali didera disebabkan perbuatannya tersebut. Maka kali ini Sa'ad memerintahkan agar dia diikat dan ditahan di dalam istana. Ketika dia melihat kuda-kuda berputar-putar di sekitar istana, maka bangkitlah kemarahan dan semangatnya bertempur. Dia adalah salah seorang dari pahlawan yang paling pemberani dalam peperangan. Maka Abu Mihjan bersyair menceritakan kesedihannya:
Alangkah sedihnya hati melihat kuda-kuda perang berkeliling sekitar istana
Sementara aku ditinggalkan sendiri dalam keadaan terbelenggu kuat
Jika aku berdiri namun penjara besi ini tertutup
Sementara orang-orang lain yang telah terbunuh dalam peperangan seakan-akan memanggilku
Aku sebelumnya adalah orang yang banyak harta dan saudara
Tetapi sekarang mereka meninggalkanku seolah-olah aku tidak lagi memiliki saudara
Setelah itu dia bermohon kepada Zubara –Ummu Walad- milik Sa'ad agar melepaskannya dan meminjamkan Kuda Sa'ad kepadanya. Dia bersumpah akan kembali lagi pada sore hari dan akan kembali meletakkan kakinya dalam belenggu, maka wanita itu akhirnya melepaskannya.
Dia segera mengendarai kuda Sa'ad dan keluar turut bertempur dengan gagah berani di medan perang. Sa'ad heran melihat kudanya yang keluar antara percaya dan tidak menyaksikan penunggang kuda itu adalah Abu Mihjan, karena sepengetahuannya Abu Mihjan berada di dalam istana dalam keadaan terbelenggu. Ketika sore hari tiba Abu Mihjan kembali dan meletakkan belenggu di kakinya. Maka Sa'ad turun dan mendapati kudanya penuh dengan peluh keletihanm, maka dia berkata, "Kenapa begini?" Maka mereka menyebutkan padanya kisah Abu Mihjan, maka Sa'ad senang mendengarnya dan melepaskannya –semoga Allah meridhai keduanya-.