Peperangan ini berlangsung imbang sehingga kemudian kedua belah pihak setuju untuk berunding dengan ditengahi seorang juru runding. Pertempuran dan perundingan membuat posisi Ali bin Abi Thalib melemah tetapi tidak membuat ketegangan yang melanda kekhalifahan mereda. Oleh penganut aliran Syiah, Ali bin Abi Talib dianggap sebagai Imam pertama. Oleh penganut aliran Sunni, Ali bin Abi Thalib adalah khulafaur rasyidin yang ke empat dan Muawiyah adalah khalifah pertama dari Dinasti Umayyah. Kejadian kejadian disekitar pertempuran Shiffin sangatlah kontroversial untuk Sunni dan Syiah dan menjadi salah satu penyebab perpecahan di antara keduanya.
Awalnya, Setelah pasukan Syam dan Kufah sampai di wilayah Shiffin, kedua pihak mengambil posisi masing-masing. Utusan keduanya sibuk melakukan perundingan, dengan mengharap pertempuran bisa terhindar.
Diriwayat yang lain juga disebutkan, bahwa Abu Darda' dan Abu Umamah mendatangi Muawiyah, dengan isi percakapan yang hampir sama dengan riwayat sebelumnya. Setelah itu keduanya kembali kepada Ali bin Abi Thalib, dan dia mengatakan, "Mereka adalah orang-orang yang kalian maksudkan." Maka keluarlah banyak orang, dan mengatakan, "Kami semua yang telah membunuh Utsman, siapa yang berkehendak maka silahkan dia melemparkan kami."
Dinukil juga bagaimana sikap para pendukung Muawiyah, mengapa mereka tidak membaiat Ali. "Kami jika membaiat Ali, maka pasukannya akan mendzalimi kami, sebagaimana mereka mendzalimi Utsman, sedangkan Ali tidak mampu melakukan pembelaan terhadap kami.
Dari periwayatan di atas semakin jelas, bahwa memang kedua belah pihak, baik Ali dan Muawiyah tidak berselisih mengenai jabatan kekhalifahan, dan keduanya memang tidak bermaksud menyerang satu sama lain.
Berbagai upaya menghentikan peperangan dilakukan kedua belah pihak.
Para utusan terus melakukan perundingan, dan pasukan kedua belah pihak sama-sama menahan diri untuk melakukan serangan, hingga berakhirnya bulan-bulan haram pada tahun itu (37 H). Pasukan Kufah menyeru kepada pasukan Syam, "Amirul Mukminin telah menyeru kepada kalian, aku telah memberi tenggang waktu untuk kalian, agar kembali kepada al haq, dan saya telah menegakkan atas kalian hujjah, akan tetapi kalian tidak menjawab."
Pasukan Syam menyambut seruan itu, dengan mempersiapkan diri di shafnya masing-masing. Pada hari Rabu, tanggal 7 pada bulan Safar, pertempuran berlangsung pada hari Rabu, Kamis, Jumat serta malam Sabtu. Disebutkan bahwa kedua pihak bersepakat bahwa mereka yang terluka harus dibiarkan, begitu pula mereka yang melarikan diri tidak boleh dikejar, mereka yang meletakkan senjata akan aman, tidak boleh mengambil benda milik mereka yang meninggal, serta mereka mendoakan dan menshalati jenazah yang berada di antara kedua belah pihak.
Mayoritas sahabat tidak ikut serta dalam pertempuran ini. Pada saat itu jumlah mereka sekitar 10 ribu, akan tetapi yang ikut serta tidak lebih dari 30 sahabat saja.
Riwayat mengenai jumlah pasukan yang terbunuh di kedua belah pihak berbeda satu sama lain, akan tetapi Ibnu Katsir menyebutkan bahwa pasukan Kufah berjumlah 120 ribu orang, terbunuh 40 ribu, sedangkan pasukan Syam berjumlah 60 ribu, dan yang terbunuh dari mereka 20 ribu orang, namun menurut Joesoef Sou'yb, pasukan Ali bin Abi Thalib berjumlah 95.000 Prajurit dan yang terbunuh 35.000,sedangkan dari Pasukan Syam berjumlah 85.000 dan yang terbunuh berjumlah 45.000 Prajurit.