Pengangkatan Muawiyah sebagai pemimpin baru umat Islam menggantikan Ali bin Abi Thalib dipenuhi dengan berbagai intrik politik. Pihak Muawiyah mengawali pemerintahannya dengan menolak pemerintahan Khalifah Ali, kemudian berperang melawan Khalifah Ali, dan melakukan perdamaian (tahkim) dengan Khalifah Ali.
Secara politik, cara Muawiyah tersebut sangat menguntungkan pihak Muawiyah karena kekuasan mereka seharusnya sudah hancur jika Ali bin Abi Thalib tidak menerima tahkim tersebut. Pihak Muawiyah pun diuntungkan dengan pemberontakan yang dilakukan oleh orang-orang Khawarij, terutama ketika mereka berhasil membunuh Khalifah Ali R.A.
Pada masa awal pemerintahan Muawiyah, umat Islam telah mengenal peradaban Persia dan Bizantium. Sehingga Muawiyah berencana mengadopsi cara kepemimpinan yang ada di Persia dan Bizantium, yaitu sistem kerajaan (monarki), tetapi gelar pemimpin tidak disebut raja. Muawiyah tetap menggunakan gelar khalifah dengan beberapa perubahan makna di dalamnya.
Jika pada masa empat pemimpin sebelumnya, khalifah yang dimaksudkan adalah Khalifah Rasul SAW (Khalifat Al-Rasul), atau penggati Rasul sebagai pemimpin rakyat.
Sedangkan pada masa Bani Umayyah, yang dimaksud dengan khalifah adalah Khalifah Allah, yaitu pemimpin atau penguasa yang diangkat oleh Allah SWT.
Pemerintahan Bani Umayyah dinisbatkan kepada Umayyah bin Abd Syams bin Abdu Manaf, seorang tokoh penting Suku Quraisy pada masa Jahiliyah. Ia dan pamannya, Hasyim bin Abdu Manaf selalu berselisih memperebutkan kekuasaan.
Jabatan Khalifah setelah Ali bin Abi Thalib wafat dilanjutkan oleh putranya, Hasan bin Ali. Tetapi karena tidak memiliki dukungan pemerintahan yang kuat, posisi Hasan bin Ali sebagai khalifah sangat terancam oleh pihak Muawiyah yang semakin kuat kekuasannya di kalangan umat Islam.
Muawiyah pun kemudian melakukan perjanjian dengan Hasan bin Ali. Perjanjian itu berisi penggantian pemimpin akan diserahkan kepada umat Islam setelah masa Muawiyah berakhir.
Perjanjian itu dibuat pada 661 M, dan tahun tersebut dikenal dengan nama "am jama'ah" karena penjanjian itu mempersatukan kembali umat Islam dalam satu kepemimpinan politik. Muawiyah kemudian mengganti sistem khalifah menjadi kerajaan.
Setelah Islam datang, perselisihan antara keduanya terlihat semakin terbuka. Bani Umayyah secara tegas melakukan perlawanan terhadap Rasulullah SAW dan dakwahnya, sedangkan Bani Hasyim mendukung Rasulullah SAW dan mengikutinya.
Bani Umayyah baru masuk Islam setelah penaklukan Kota Mekah, karena keadaan ketika itu memaksa mereka melakukan hal itu.