Muawiyah meninggal karena sakit di Damaskus pada Rajab 60 H (April–Mei 680 M), pada usia sekitar 80 tahun. Catatan abad pertengahan bervariasi mengenai tanggal spesifik kematiannya, dengan Hisham bin al-Kalbi (w. 819) menempatkannya pada 7 April, al-Waqidi pada 21 April dan al-Mada'ini pada 29 April. Yazid, yang berada jauh dari Damaskus pada saat kematian ayahnya, dipegang oleh Abu Mikhnaf (w. 774) untuk menggantikannya pada 7 April, sedangkan penulis sejarah Nestorian, Elia dari Nisibis (w. 1046) mengatakan itu terjadi pada 21 April. Dalam wasiat terakhirnya, Muawiyah berpesan kepada keluarganya "Takutlah kepada Tuhan Yang Maha Esa dan Agung, karena Tuhan, pujilah Dia, lindungi siapa pun yang takut kepada-Nya, dan tidak ada pelindung bagi orang yang tidak takut akan Tuhan". Dia dimakamkan di sebelah gerbang Bab ash-Shaghir kota dan salat jenazah dipimpin oleh Adh-Dhahak bin Qais, yang meratapi Muawiyah sebagai "tongkat orang Arab dan pedang orang Arab, oleh yang dengannya Allah, Yang Mahakuasa dan Agung, menghentikan perselisihan, yang Dia jadikan berdaulat atas umat manusia, yang dengannya dia menaklukkan negara-negara, tetapi sekarang dia telah mati".
Makam Muawiyah adalah situs kunjungan hingga akhir abad ke-10. Al-Mas'udi berpendapat bahwa sebuah makam dibangun di atas kuburan dan terbuka untuk pengunjung pada hari Senin dan Kamis. Ibnu Taghribirdi menegaskan bahwa Ahmad bin Tulun, penguasa otonom Mesir dan Suriah abad ke-9, mendirikan sebuah struktur di kuburan pada tahun 883 atau 884 dan mempekerjakan anggota masyarakat untuk secara teratur membaca Al-Qur'an dan menyalakan lilin di sekitar makam.