Sayyidina Ali memegang erat sabda Nabi Muhammad SAW yang melarang untuk meminta-minta jabatan. Titah inilah yang membuat Sayyidina Ali menolak ketika para sahabat memintanya untuk menjadi Khalifah keempat, menggantikan Sayyidina Utsman yang wafat akibat pemberontakan.
Dalam buku Ali bin Abi Thalib, sampai kepada Hasan dan Husain yang ditulis Ali Audah, Sayyidina Ali menolak beberapa kali ketika ditujuk menjadi Khalifah keempat. Dikisahkan, sesaat setelah Utsman bin Affan terbunuh, para sahabat senior Rasulullah dari kalangan Muhajirin dan Anshar seperti Thalhah bin Ubaidillah, Zubair bin Awwam, dan lainnya mendatangai rumah Sayyidina Ali.
Mereka meyakinkan bahwa yang paling pantas dan berhak menjadi Khalifah keempat adalah Sayyidina Ali. Mereka mendesak pria bernama asli Assad bin Abu Thalib itu agar bersedia dibaiat. Umat tidak boleh terlalu lama tanpa pemimpin. Terlebih setelah terjadi pemberontakan terhadap Khalifah Utsman bin Affan.
Sayyidina Ali dipilih karena kedudukan dan hubungannya yang begitu dekat dengan Nabi Muhammad. Di samping dia termasuk golongan pertama yang masuk Islam (assabiqunal awwalun). Namun pada saat itu, Sayyidina Ali menolak untuk dibaiat.
"Jangan! Lebih baik saya menjadi wazir daripada amir," katanya mengelak.
Penolakan Sayyidina Ali malah membuat umat Islam dari berbagai penjuru wilayah kekuasaan Islam, tidak hanya dari Madinah datang ke rumahnya. Mereka terus mendesak agar Sayyidina Ali bersedia dibaiat menjadi Khalifah keempat. Mereka tidak hanya datang ke rumah Sayyidina Ali sekali atau dua kali, tapi beberapa kali.
"Biarkan saya, carilah yang lain," lagi-lagi Sayyidina Ali menolak.
"Kami tidak akan meninggalkan tempat ini sebelum Anda kami baiat," balas mereka.
Desakan yang begitu kuat dan dorongan yang begitu deras membuat Sayyidina Ali tidak bisa mengelak lagi. Akhirnya dia bersedia dibaiat untuk menjadi Khalifah keempat.
Ia meminta tempat pembaiatannya dilakukan di Masjid Nabawi secara terbuka dan diikuti oleh umat Islam. Maka pada Senin 21 Zulhijjah 25 H/20 Juni 656 M, Sayyidina Ali pergi ke masjid untuk dibaiat. Orang pertama yang membaiatnya adalah Thalhah bin Ubaidillah, kemudian disusul Zubair bin Awwam.
Dikutip dari nu.or.id, riwayat lain menyebutkan bahwa yang pertama kali membaiat adalah para pemuka yang menentang pemerintahan Khalifah Utsman bin Affan. Sementara Thalhah bin Ubaidillah dan Zubair bin Awwam baru bersedia membaiat Sayyidina Ali setelah ada kejelasan tentang penyelesaian kasus pembunuhan Khalifah Utsman bin Affan.