Kaum Khawarij adalah kaum yang dulunya pengikut Ali namun keluar dari barisan karena peristiwa tahkim itu.
Mereka mengakui kekhalifahan Abu Bakr dan Umar bin Khattab karena diangkat dan tidak menyeleweng dari Islam, sedangkan Usman telah menyeleweng daari ajaran Islam sejak tahun ke-7 kekhalifahannya dan Ali menyeleweng setelah peristiwa tahkim itu. Sehingga Usman, Ali, Muawiyah, Amr, Abu Musa dan orang-orang yang melanggar Islam disebut kafir.
Beberap sekte al-Khawarij, yakni;
1) al-Muhakkimah adalah golongan asli khawarij dan terdiri dari pengikut-pengikut Ali. Menurutnya Ali, Muawiyah, Amr, Abu Musa dan orang-orang berdosa besar (seprti perzinahan dan pembunuhan) adalah kafir.
2) Al-Azariqah
Golongan yang dapat menyusun barisan baru, besar san kuat sesudah muhakkimah hancur adalah azariqah. Mereka lebih radikal dibanding muhakkimah, mereka tak lagi menggunakan term kafir, namun term musyrik (pooytheist). Khalifah pertama mereka adalah Nafi Ibn Al-Azraq (w. 686 M).
Mereka memandang musyrik ialah semua orang Islam yang tak sepaham dengan mereka, yang sepaham namun tak berada dilingkungan mereka, sehingga boleh/wajib dibunuh.
2) al-Najdat
Mereka berpendapat orang berdosa besar yang menjadi kafir dan kekal di dalamnya hanyalah orang Islam yang tak sepaham dengan golongannya. Dosa kecil akan menjadi dose besar jika dilakukan terus menerus dan yang mengerjakannya menjadi musyrik.
3) al-‘Ajariyah
Mereka bersikap lebih lunak karena menurut mereka berhijrah bukanlah suatu kewajiban tetapi hanya kebajikan. Mereka mempunyai paham puritanisme. Surat Yusuf dalam Al-Quran membawa cerita cinta dan Al-Quran sebagai kitab suci tidak mungkin mengakui surat Yusuf sebagai bagian dari Al-Quran.
4) al-Sufriah
Pandangannya dekat dengan golongan Azariqah, mereka berpendapat bahwa mereka tidak berpendapat bahwa anak-anak kaum musyrik boleh dibunuh.