Pada waktu itu menjelang wafatnya, Umar bin Khattab menoleh kepada Ali, "Hai Ali, boleh jadi kaum itu mengaku kelebihan engkau dan hak engkau, kerabat engkau dengan Rasulullah dan kemuliaan turunan engkau di sisi Rasulullah. Mereka ketahui pula kelebihan ilmu dan faham engkau di dalam agama, lalu mereka jadikan engkau menjadi khalifah. Maka jika sekiranya hal itu kejadian dan engkau mengatur pekerjaan ini, maka takutlah engkau kepada Allah ya Ali, dan janganlah engkau beri hati bani Hasyim bersewenang-wenang menekan kepala manusia."
Setelah itu, Umar menoleh kepada Utsman dan berkata, "Hai Utsman, boleh jadi orang-orang itu mengakui kelebihan engkau sebab engkau menantu Rasulullah. Mereka mengetahui kelebihan usia engkau, lalu mereka pilih engkau menjadi khalifah. Maka jika kejadian engkau memegang pekerjaan besar ini, sekali-kali janganlah engkau beri hati kaummu bani Umaiyah menekan kuduk manusia."
Setelah Umar bin Khattab meninggal, maka kaum Muslimin, setelah melalui musyawarah, memutuskan Utsman bin Affan yang menjadi khalifahnya. Dan, Ali pun iku membai'at Utsman menjadi khalifah.