Terlepas segala capaiannya, kekacauan politik di Iraq masih menjadi tantangan berat bagi 'Abdul Malik. Dia menarik mundur pasukan Syria dan menyerahkan pada Iraq sendiri terkait pertahanan Bashrah dalam melawan ancaman Khawarij. Meski demikian, banyak penduduk Iraq merasa lelah dengan pertikaian dengan Khawarij yang dirasa tidak memberikan apapun kepada mereka selain kesulitan dan kerugian. Penduduk Kufah yang telah terbiasa dengan kehidupan sejahtera di rumah mereka tidak berminat turut serta dalam perang yang membuat mereka jauh dari keluarga adalah permasalahan yang selalu dihadapi penguasa Iraq. Keinginan 'Abdul Malik untuk menguasai Iraq dengan menunjuk anggota keluarganya sebagai gubernur juga tidak berhasil mengatasi permasalahan di kawasan tersebut, menjadikan Al-Hajjaj kemudian ditetapkan sebagai gubernur di sana. 'Abdul Malik menggabungkan Kufah dan Bashrah ke dalam satu provinsi yang dipimpin Al-Hajjaj yang sejak awal menunjukkan komitmen kuat untuk memerintah Iraq secara efektif. Al-Hajjaj kemudian mendukung kepala Bani Azad, Al-Muhallab bin Abi Shufrah dalam perang melawan Azariqah, salah satu cabang Khawarij paling keras, pada tahun 697 dan memperoleh kemenangan. Hal ini membuka jalan bagi Al-Muhallab untuk memulai ulang penaklukan Muslim atas Asia Tengah. Di tempat lain, pemberontakan Khawarij berkobar di jantung Iraq, mengambil alih Al-Madain dan mengepung Kufah. Al-Hajjaj menanggapi penduduk Iraq yang tidak mau dan tidak mampu berperang dengan mendapatkan 4.000-6.000 pasukan Syria dari 'Abdul Malik yang kemudian berhasil menyingkirkan kaum Khawarij dari Kufah dan membunuh pemimpinnya pada 697.
Demi menghemat pengeluaran, Al-Hajjaj kemudian memotong gaji pasukan Iraq lebih rendah daripada pasukan Syria. Lebih jauh, Al-Hajjaj mengancam dengan hukuman mati bagi pasukan Iraq yang menolak turut serta dalam melawan pemberontakan Khawarij. Dengan keadaan ini, Al-Hajjaj hampir membuat pasukan Iraq melakukan pemberontakan dan hal itu benar-benar terjadi saat pada 699, Al-Hajjaj memerintahkan bangsawan Iraq dan Gubernur Kirman, 'Abdurrahman bin Muhammad bin Asy'ats, untuk memimpin perang melawan Gubernur Zabul di Sistan yang menolak membayar pajak kepada khalifah. Banyak dari pasukan 'Abdurrahman adalah orang kaya dan bangsawan terkemuka dan merasa tersinggung atas seringnya teguran Al-Hajjaj dan sulitnya medan tempat mereka ditugaskan berperang. 'Abdurrahman kemudian melakukan pemberontakan dan merebut Kufah pada 701. 'Abdul Malik berusaha menghentikan pemberontakan dengan menawarkan penggantian Al-Hajjaj dengan 'Abdurrahman sebagai gubernur dan memberikan pasukan Iraq upah yang setara dengan pasukan Syria. Lantaran penolakan dari pendukungnya, 'Abdurrahman menolak tawaran tersebut. Al-Hajjaj mengambil inisiatif dan melangsungkan peperangan dengan pihak 'Abdurrahman pada Perang Dayrul Jamajim pada April atau Juli. Banyak pasukan Iraq beralih ke pihak Al-Hajjaj setelah dijanjikan pengampunan, sedangkan 'Abdurrahman dan pendukung setianya mundur ke Zabulistan.[42] Penundukkan pemberontakan ini menjadi akhir bagi suku Arab Iraq di militer dan dimulainya dominasi angkatan militer Syria di Iraq[39][43] yang berubah menjadi kelas penguasa di kawasan tersebut. Lebih jauh, kelebihan pajak dari tanah Sawad di Iraq yang kaya akan hasil panen yang semula diserahkan kepada pasukan Iraq dialihkan langsung ke perbendaharaan 'Abdul Malik yang digunakan untuk mendanai pasukan Syria. Hal ini menunjukkan upaya 'Abdul Malik untuk menguatkan kendalinya atas kekhalifahan.