Saat terjadi Perang Shiffin, umat islam meyadari bahwa pertikaian bukan murni soal permusuhan, namun lebih tepatnya dipaksa oleh keadaan, saat itulah dari kubu Sayyidina Mu’awiyah RA menawarkan “tahkim”, yakni memilih jalur damai dengan merujuk kembali kepada Al-Quran.
Waktu itu terdapat perselisihan dari kubu Sayyidina Ali RA, antara menerima atau menolaknya, namun pada akhirnya Sayyidina Ali pun memutuskan untuk menerima tawaran tersebut. Dari kubu Sayyidina Mu’awiyah diutus Sayyidina ‘Amr bin ‘Ash sebagai delegasi, dan Sayyidina Ali mengirimkan Sayyidina Abu Musa al-Asy’ari sebagai delegasi perundingan.
Melihat keputusan itu, para pasukan Sayyidina Ali yang berasal dari Kabilah Tamim memberikan penolakan. Mereka merasa keberatan dengan kebijakan Sayyidina Ali karena kejadian perkaranya sudah jelas jika dilihat dalam Al-Qur’an. Maka sikap tahkim, bagi mereka, sama halnya dengan menerima pembacaan akan Al-Qur’an yang masih meragukan dari kedua belah pihak.
Sebab itu, mereka pilih membelot dari pasukan Sayyidina Ali. Mereka berjanji akan kembali kepada Sayyidina Ali asalkan beliau berkenan mencabut keputusan tersebut. Tapi Sayyidina Ali tidak menerima tawaran itu, karena bagaimana mungkin seorang mukmin yang berjanji akan membatalkan perjanjian yang dibuatnya.
Sejak saat itulah mereka resmi memisahkan diri dan menjadi kelompok sempalan yang kemudian dikenal dengan Khawarij dengan jargonnya yang sangat terkenal, “la hukma illa lillah“, yakni tiada hukum kecuali milik Allah SWT.
Karena Khawarij terus membangkang maka Sayyidina Ali pun memerangi mereka sebagaimana yang dikenal dengan peristiwa Nahrawan. Banyak yang jatuh berguguran dari kelompok Khawarij, namun hal itu tidak sama sekali mengurangi simpatisan maupun pemikiran mereka. Bahkan kebencian terhadap Sayyidina Ali semakin bertambah hingga puncaknya salah satu anggota kelompok mereka Ibnu Muljam menikam Sayyidina Ali RA.
Tidak sampai disitu saja, rupanya Khawarij menjadi gelombang pemberontakan berlanjut pada masa Daulah Umawiyah hingga pada Daulah Abbasyah.
Dalam waktu singkat kelompok ini mendapat pengikut dalam jumlah besar. Kekuasannya terbagi menjadi dua. Pertama, terletak di kawasan Irak dan sekitarnya. Kedua, kekuasannya menjangkau beberapa titik semenanjung Arab, mulai dari Yamamah, Hadromaut, Yaman dan Thaif.
Dari sini kita melihat bahwa Khawarij menjadi sekte dengan pasukan militer yang cukup besar. Ahmad Amin, dalam bukunya berjudul Fajr al-Islam mencatatkan, bahwa meski awal mula kelompok ini murni bermotif politik, namun pada akhirnya ia pun berkembang menjadi kelompok ideologi-teologis (lahutiyah).
Secara internal, Khawarij terbagi menjadi beberapa kelompok. Adapun yanh terkenal ialah kelompok Azariqoh, yakni para pengikut yang menisbatkan diri mereka kepada Nafi bin Azraq. Diantara pemikiran mereka ialah mengafirkan seluruh umat Islam yang tidak sesuai dengan mazhab mereka, tidak boleh solat berjamaah dengan kelompok selain mereka, tidak diperbolehkan makan hewan yang disembelih oleh selain kelompok mereka, tidak boleh menikahi perempuan selain kelompok mereka, kaum muslim yang diluar mazhab mereka seperti kafir Quraisy dan para penyembah berhala, maka hukum negara mereka adalah dâr al-kufr wa dâr al-harb (negara kafir).
Adapun pemikiran Khawarij yang begitu fatal ialah pemaknaan mereka atas keimanan. Bagi mereka, amal adalah bagian dari iman itu sendiri. Artinya, barangsiapa meyakini bahwa tiada tuhan selain Allah SWT dan Nabi Muhammad SAW adalah utusannya, namun jika tidak menjalankan amalan yang bersifat fardlu ‘ain seperti solat dan puasa, atau juga melakukan dosa besar (murtakib al-kabair), maka orang tersebut adalah kafir
Ahmad Amin menuliskan, bahwa karakter dari kelompok Khawarij itu ada dua. Pertama, mereka adalah orang yang berlebihan dalam beribadah. Sebagaimana dikatakan oleh al-Syahrestani, bahwa kaum Khawarij begitu rajin dalam salat dan berpuasa. Mereka tak mau membebaskan diri pada kemaksiatan. Ketika membaca Al-Qur’an, saat menemui ayat yang bercerita tentang surga, mereka menangis karena saking rindunya. Dan ketika bertemu ayat-ayat yang bercerita tentang neraka, mereka juga menangis tersedu-sedu seolah neraka jahanam nampak di depan matanya.
Lalu ciri yang kedua, mereka akan mati-matian memperjuangkan akidahnya. Mengenai ini, Umar bin Abdul Aziz pernah berkata kepada salah seorang Khawarij: “Sebenarnya aku telah mengerti bahwa kalian bisa seperti ini bukanlah untuk mendapatkan kesenangan ataupun harta benda, melainkan karena kalian salah dalam memilih jalan.”
Karena begitu totalitasnya dalam beragama serta memperjuangkan prinsip-prinsipnya, ada satu hal yang musti dicatat, bahwa dalam hal dakwahnya, kaum Khawarij dikenal sebagai kelompok yang pandai menyusun kata-kata. Diceritakan pada suatu ketika Abdul Malik bin Marwan sedang berdialog dengan salah seorang Khawarij. Setelah itu, sang khalifah memberi kesan yang menarik: ” Hampir saja terbesit dalam benakku bahwa surga benar-benar diciptakan untuk mereka, dan aku akan berjihad bersama mereka, lalu aku ingat kembali sebuah hujjah yang Allah berikan kepadaku, sehingga aku bisa berpegang teguh pada kebenaran dalam hatiku. “
Apa yang terbaca dari cerita singkat diatas adalah kesan bahwa sejak dulu orang bisa beragama secara nekat, tanpa butuh validasi dari manhaj yang diakui sebagai otoritas: ahlussunnah wal jamaah; kelompok mayoritas kaum muslimin yang dinash oleh nabi sebagai mereka yang selamat (firqah nâjiyah). Secara logika, bagaimana mungkin orang yang hidup dimasa para sahabat yang tangguh bagai raksasa keilmuan itu, ternyata ada sekelompok manusia badui yang dengan percaya diri mengakui pikirannya. Sebenarnya dalam islam, perselisihan itu tidak diharamkan, boleh saja ada tapi dengan satu syarat, persoalan itu bersifat furu’ dan ijtihadi. Bilamana persoalannya menyangkut usul (akidah), apalagi sampai mengkafirkan orang islam sendiri – dan Khawarij telah jauh melampaui itu karena berani mengkafirkan Sayyidina Ali—maka perselisihan itu sudah tidak sehat lagi.
Satu lagi, orang-orang seperti itu pandai beretorika. Karena memang niatnya yang begitu tulus—meskipun cara dan sikapnya jauh dari kebenaran—ditambah dengan bumbu-bumbu dalil kitab suci, maka hal itu menciptakan rasa getar yang kian menarik bagi pendengar atau lawan bicaranya. Oleh karena itulah kadang orang-orang yang berpendidikan dan aparatur negara terpengaruh oleh ajakan semacam ini. Tiba-tiba saja mereka membenci Pancasila dan sekejap saja menjadi pembela negara islam.
