Pemerintahan Bani Umayyah memeiliki pertahanan keamanan yang disebut An-Nidzamul Harby, lembaga pertahan ini memiliki 3 angkatan terdiri angkatan darat, angkatan laut, dan angkatan kepolisian. Untuk mendukung keamanan dalam negeri, dibentuk pasukan kepolisian dan pasukan khusus pengawal raja yang disebut Al- Hijabah. Seluruh prajurit yang tergabung dalam kekuatan militer Dinasti Umayyah digaji dengan anggaran yang resmi dari negara. Merekapun secara teratur mendapat pelatihan keahlian yang rutin. Sehingga, untuk kepentingan keamanan dalam maupun luar negeri, Dinasti Bani Umayyah benar-benar mendapat kawalan kekuatan militer yang tangguh. Dalam bidang kemiliteran, Dinasti Umayyah lebih maju daripada pemerintahan zaman Khulafaurrasyidin. Selain mereka belajar dari kekuarangan masa lalu, merekapun banyak mengadopsi sistem keamanan Persia dan Bizantium.

Besarnya kekuatan militer dimasa Daulah Bani Umayyah antara lain:

1. Masa Khalifah Muawiyah bin Abi Sufyan

a. Jumlah armada yang dikirim ke Laut Tengah sebanyak 1.700 kapal laut dengan puluhan ribu tentara angkatan laut dan darat untuk menundukkan Konstantinopel

b. Jumlah pasukan tentara yang dikirim ke Afrika Utara sebanyak 10.000 pasukan berkuda dibawah pimpinan Uqbah bin Nafi untuk menundukkan Lybia dibawah kekuasaan Romawi.

2. Masa Khalifah Abdul Malik bin Marwan.

Mengirim pasukan berjumlah 30.000 orang yang dipimpin oleh Abdullah bin Zaid untuk menumpas pemberontakan Syiah di Kufah Irak.

3. Masa Khalifah Walid bin Abdul Malik

Mengirim pasukan berjumlah 7.000 orang yang terdiri dari bangsa Barbar dengan panglima terkenal bernama Tharik bin Ziyaddan berhasil menguasai Spanyol melalui Selat Jabal Tharik atau Gibraltar tahun 711 M.

4. Masa Khalifah Sulaiman bin Abdul Malik.

Khalifah mengirim 100.000 tentara dengan kapal lautnya sejumlah 1.800 buah dipimpin oleh Musailamah bin Abdul Malik untuk menaklukkan Konstantinopel (Romawi Timur) yang ketiga kalinya.