MERASA ajalnya semakin dekat, Umar bin Khattab mewasiatkan kepada para sahabat agar memilih salah seorang dari enam orang yang ditunjuk untuk menggantikannya nanti. Keenam orang tersebut adalah:
1. Usman bin Affan
2. Ali bin Abi Thalib
3. Sa'ad Abi Waqas
4. Zubair bin Awwam
5. Abdurrahman bin Auf
6. Thalhah bin Ubaidilah
Tiga hari setelah peristiwa itu, Umar bin Khattab meninggal dunia dalam usia 63 tahun, pada hari Ahad, tanggal 1 Muharam 23 H atau 644 M. Umar bin Khattab memerintah selama 10 tahun 6 bulan, yaitu tahun 13-23 H atau 634-644 M.
Utsman bin Affan menuturkan akhir hayat Umar bin Khattab, "Aku adalah orang terakhir yang menemui Umar bin al-Khattab. Aku masuk menemuinya, saat itu kepalanya berada di pangkuan anaknya, Abdullah bin Umar."
Umar berkata pada anaknya, "Letakkanlah pipiku di atas tanah."
"Pahaku dan tanah sama saja." jawab Ibnu Umar.
Umar berkata hingga tiga kali, lalu menambahkan, "Letakkan pipiku di tanah, tiada ibu bagimu."
Setelah itu, Umar melipat kakinya dan Utsman mendengarnya berkata, "Celakalah aku, celakalah ibuku jika Allah tidak mengampuniku."
Ia tak henti-hentinya mengucapkan itu hingga ruhnya mengalir keluar dari jasad.
Demikianlah, salah seorang sahabat yang telah diberi kabar gembira oleh Rasulullah shallallahu 'alaihi wasallam akan masuk Surga, ia sangat khawatir dan takut akan dosa-dosa yang pernah dilakukan. Umar meminta agar pipinya ditempelkan ke tanah sebagai bentuk kehinaan dirinya di hadapan Allah.
Bahkan kalimat terakhir yang dilafalkannya adalah, "Celakalah aku jika Allah tidak mengampuniku."