Runtuhnya kedaulatan Umayyah setelah mangkatnya Mu'awiyah bin Abu Sufyan dipandang 'Abdul Malik sebagai bukti bahwa sistem desentralisasi yang diterapkan Bani Sufyani tidak cocok diterapkan di kekhalifahan, sehingga 'Abdul Malik menggunakan kebijakan sentralisasi dalam pemerintahannya. Berbeda dengan gaya pemerintahan Sufyani yang lebih bebas, 'Abdul Malik memerintah dengan ketat atas para pejabatnya. Menanggapi kebijakan 'Abdul Malik, Ibnu Khaldun menyatakan bahwa dia "mengikuti jejak 'Umar bin Khattab dalam mengelola urusan negara. Pemusatan kekuasaan di tangan 'Abdul Malik dan keluarganya juga belum pernah terjadi dalam sejarah kekhalifahan sebelumnya dan pada satu masa, saudara dan putranya memegang hampir semua jabatan gubernur provinsi. Di Damaskus, istananya juga lebih dipenuhi dengan kerabatnya dari Umayyah dibandingkan pada masa Sufyani sebelumnya.
Dalam bidang militer, 'Abdul Malik juga lebih menggunakan tentara terorganisir daripada mengandalkan relawan suku-suku Arab. Bangsawan Arab yang dulunya mendapat kekuasaan melalui kedudukannya di suku dan hubungan pribadi dengan khalifah mulai diganti dengan anggota militer yang naik pangkat. Dalam sistem pembayaran, 'Abdul Malik sangat membatasi upah hanya bagi yang aktif di ketentaraan. Hal ini mengakhiri sistem sebelumnya yang dicanangkan Khalifah 'Umar yang memberikan pensiun bagi veteran penaklukan Muslim awal dan keturunannya.
Dalam masa pemerintahannya, 'Abdul Malik juga melakukan Islamisasi di berbagai hal.Setelah pihak Romawi menambahkan gambar Yesus di koin mereka, 'Abdul Malik mulai menghentikan penggunaan mata uang Romawi dan mulai memperkenalkan mata uang Islam, dinar, pada 693. Awalnya mata uang baru ini berisi gambar khalifah sebagai pemimpin umat dan panglima tertinggi. Namun koin ini kurang diterima sehingga diganti pada 696 atau 697 dengan koin tanpa gambar, bertuliskan ayat Al-Qur'an atau kalimat Islami lain seperti tahlil. Sebagaimana dinar, mata uang dirham bergaya Sasania yang sebelumnya digunakan umat Muslim juga dirombak oleh 'Abdul Malik dengan menghilangkan gambar Kaisar Sasania pada tahun 698/699. 'Abdul Malik juga mulai menyebarkan Islam di wilayah Romawi.
Di Al-Quds, 'Abdul Malik membangun Kubah Shakhrah yang mulai dibangun beberapa saat setelah menjadi khalifah dan diselesaikan pada tahun 691. Meski putra-putranya juga memerintahkan berbagai pekerjaan pembangunan, sebagian besar pembangunan 'Abdul Malik dikhususkan di wilayah Al-Quds, seperti memperluas tapal batas Masjid Al-Aqsha sampai memasukkan Ash-Shakhrah yang mana Kubah Shakhrah dibangun menaunginya, membangun dua gerbang di Masjid Al-Aqsha, dan memperbaiki jalan-jalan kota. Terdapat beberapa pendapat yang menyatakan alasan dibangunnya Kubah Shakhrah. Sebagian pendapat menyatakan bahwa bangunan tersebut didirikan untuk merayakan kemenangan umat Islam atas umat Kristen dan menunjukkan kekhasan Islam atas agama samawi yang lain. Pendapat lain menyatakan bahwa 'Abdul Malik membangunnya untuk mengalihkan perhatian umat Muslim dari Ka'bah yang saat itu masih dikuasai 'Abdullah bin Zubair. Sebagian besar sejarawan modern menolak pendapat terakhir lantaran hal tersebut bersumber dari pendapat anti-Umayyah.
'Abdul Malik juga melakukan proses Arabisasi di kekhalifahan. Pada sekitar tahun 700, 'Abdul Malik mengeluarkan maklumat untuk menggantikan bahasa Mesir dan Koptik dengan bahasa Arab di pemerintahan di Syria dan Mesir. Al-Hajjaj sendiri sudah memulainya di Iraq tiga tahun sebelumnya. Hal ini menjadikan bahasa Arab sebagai bahasa resmi tunggal di negara. Dalam penerapannya, bahasa Arab baru menjadi bahasa pemerintahan di provinsi timur jauh pada sekitar tahun 740, pada masa-masa terakhir kekuasaan Umayyah di Syria.Pada masa pemerintahannya, gerakan penerjemahan buku-buku berbahasa Persia dan Romawi ke bahasa Arab mengalami perkembangan yang pesat.
Di masanya, Al-Hajjaj bin Yusuf menjadi salah satu tokoh penting dalam sejarah kekhalifahan dan lebih sering dibicarakan dalam sumber-sumber Abad Pertengahan daripada khalifah sendiri. Dia merupakan salah satu pendukung Umayyah paling setia. Keluarganya dan keluarga khalifah saling terikat pernikahan satu sama lain. Meski termasuk sosok yang cakap dalam urusan militer dan pemerintahan, dia kerap dipandang buruk oleh sejarawan Muslim lantaran kekejamannya, juga pembunuhan atas beberapa sahabat Nabi. Meski begitu, 'Abdul Malik masih mampu mengekangnya dan para gubernurnya yang lain saat mereka dirasa terlampau tinggi dalam menetapkan pajak, berlebih-lebihan dalam menggunakan sumber daya, atau menumpahkan darah lebih dari yang seharusnya. Hal ini berbeda dengan penerus 'Abdul Malik, Al-Walid, yang lebih memberikan Al-Hajjaj kebebasan lantaran merasa berhutang budi telah mendukungnya untuk naik takhta.