Perang Shiffin
Setelah api fitnah pasukan Jamal berhasil dipadamkan, pemerintahan Imam Ali as kembali diguncang oleh pemberontakan pasukan Syam pimpinan Muawiyah bin Abi Sufyan. Perang ini terjadi setelah Muawiyah yang menjabat sebagai gubernur Syam sejak masa khalifah Umar bin Khatthab, menolak berbaiat dan tidak bersedia tunduk kepada pemerintahan Imam Ali as. Saat Imam Ali melalui sepucuk surat memintanya untuk berbaiat, Muawiyah mengumpulkan warga Syam di masjid dan mengatakan bahwa ia akan menuntut darah khalifah Usman yang dibunuh oleh para pemberontak.
Muawiyah mendapat dukungan warga Syam yang siap melakukan pembalasan atas darah khalifah. Pasukan Syam telah disiagakan untuk memberontak. Berita akan kesiapan pasukan Syam sampai ke telinga Imam Ali as. Beliau segera memanggil para sahabatnya untuk meminta pendapat mereka mengenai rencana serangan ke Syam. Sebagian besar sahabat mendukung rencana itu, bahkan beberapa diantaranya mencaci pasukan Syam. Imam melarang mereka dan mengatakan bahwa beliau tidak menyukai orang yang suka mencaci. Ammar bin Yasir, salah seorang sahabat besar Nabi SAW dan pengikut setia Imam Ali as turut menyatakan dukungan.
Setelah Imam Ali as yakin bahwa Muawiyah hanya mengenal bahasa kekerasan, beliau mengumumkan rencananya menyerang Syam kepada seluruh warga. Al-Hasan dan Al-Husein as, dua putra Imam Ali as memikul tugas mengajak masyarakat untuk menyertai pasukan Kufah menuju Syam.
Mendengar kesiapan pasukan Kufah, Muawiyah mengumpulkan warga Syam di masjid. Di atas mimbar masjid Syam, dia mengangkat tinggi-tinggi sebuah baju yag berlumur darah seraya mengatakan, "Inilah baju khalifah Usman yang masih berlumur darah." Muawiyah mengajak warga Syam untuk menyertai pasukannya menyerang pasukan Irak yang dipimpin oleh Imam Ali as.
Dua pasukan besar Syam dan Kufah bertemu. Kepada para sahabatnya, Imam Ali berpesan untuk tidak memulai perang sebelum pasukan Syam menyerang. Tanggal 1 Shafar tahun 37 hijriyah, kedua pasukan terlibat pertempuran sengit. Perang yang dikenal dengan nama perang Shiffin ini berlangsung cukup lama. Korban berjatuhan dari kedua belah pihak. Diantara mereka yang gugur di pasukan Imam Ali adalah Ammar bin Yasir, Khuzaimah yang disebut nabi dengan nama dzu syahadatain atau orang memiliki dua syahadah, Uwais Al-Qarani, seorang arif yang dipuji Nabi serta sejumlah sahabat besar lainnya.
Ketika Muawiyah menyaksikan keletihan dan ketidakmampuan pasukannya untuk melanjutkan perang, ia memerintahkan orang-orangnya untuk mengangkat Al-Qur'an di atas tombak seraya memekikkan suara gencatan senjata. Tipu muslihat itu berhasil membuat pasukan Kufah ragu melangkah. Mereka tertipu oleh tipu daya ini dan tidak lagi mengacuhkan perintah Imam Ali as untuk melanjutkan perang. Ketidakpatuhan pasukan Kufah kepada pemimpinnya memaksa Imam Ali as untuk menerima ajakan damai yang sebenarnya hanyalah tipu muslihat Muawiyah untuk lolos dari kekalahan yang sudah di depan mata dalam perang Shiffin.
Gencatan senjata dilanjutkan dengan masing-masing pasukan mengirimkan juru runding. Muawiyah menunjuk Amr bin Ash yang dikenal licik ke meja perundingan. Sementara Imam Ali menunjuk Abdullah bin Abbas yang di kalangan Quresy dikenal sebagai orang cerdik dan arif. Tetapi lagi-lagi, pasukan Irak menentang keputusan Imam Ali. Dengan berdalih bahwa Ibnu Abbas adalah anggota pasukan Irak, maka dia tidak berhak duduk di meja perundingan. Mereka lantas memilih Abu Musa Al-Asy'ari yang tidak terlibat dalam perang Shiffin. Imam Ali yang kecewa dengan sikap pasukannya yang tidak lagi menghiraukan pemimpin mereka mengatakan, "Silahkan lakukan apa yang kalian inginkan."
Dalam perundingan itu, Amr bin Ash dan Abu Musa sepakat untuk bersama-sama mengumumkan pencabutan jabatan Imam Ali dan dan Muawiyah. Setelah terlebih dahulu Abu Musa menyatakan keputusan menurunkan Ali dari khilafah, Amr dengan licik menyatakan bahwa dia menunjuk Muawiyah untuk menjadi pemimpin dan khalifah atas umat Islam.
Perang Nahrawan
Peristiwa hakamiyyah atau perundingan setelah perang Shiffin menjadi percikan awal munculnya kelompok baru yang dinamakan Khawarij. Kelompok ini mengangkat slogan "Tidak ada keputusan kecuali keputusan Allah." Dengan slogan ini mereka menyatakan penentangan atas keputusan Imam Ali yang bersedia berunding dengan Muawiyah. Setelah mendengar jawaban dan keterangan dari khalifah ini, sebagian besar orang yang semula bergabung dengan kelompok itu memisahkan diri dan kembali ke barisan Imam Ali as.
Tak lama kemudian Khawarij membentuk pasukan dan memilih salah seorang diantara mereka sebagai pemimpin. Pasukan ini bergerak ke arah daerah bernama Nahrawan. Siapa saja yang ditemui dan menyatakan mendukung kepemimpinan Imam Ali as tidak selamat dari tebasan pedang mereka. Keberingasan Khawarij membulatkan tekad Imam Ali untuk menghabisi mereka.
Saat dua pasukan berhadapan, sekali lagi Ali menasehati mereka untuk kembali ke jalan yang benar. Kelompok demi kelompok memisahkan diri dari pasukan khawarij, sampai jumlah mereka berkurang menjadi hanya 1.800 penunggang kuda dan 1.500 pejalan kaki. Imam Ali berpesan kepada pasukannya yang berjumlah 14 ribu orang untuk tidak memulai perang. Khawarij secepat kilat menyerang dengan beringas dan dengan cepat pula barisan mereka kucar kacir. Pasukan ini lumpuh hanya beberapa saat setelah perang dimulai. Dari barisan Imam Ali hanya kurang dari 10 orang yang gugur. Peristiwa ini terjadi pada tanggal 9 Shafar tahun 38 hijriyah.
Warga Kufah Khianati Khalifah
Hasil keputusan perundingan antara Amr bin As dan Abu Musa Al-Ashari tidak bisa diterima oleh Imam Ali. Beliau segera mengeluarkan pengumuman tentang rencana menyerang kembali Syam. Akan tetapi hasutan orang-orang semisal Asyats bin Qais membuat orang-orang yang berada di barisan Imam Ali mengambil keputusan untuk kembali ke Kufah dengan alasan letih menghadapi peperangan. Hanya sekitar 300 orang yang memenuhi panggilan khalifah untuk berkumpul di kamp Nukhailah bersama beliau.
Ketidakloyalan warga Kufah kepada pemimpin mereka cukup memukul perasaan Imam Ali. Beliau terpaksa kembali ke Kufah dan urung menyerang Syam dengan jumlah pasukan yang hanya segelintir orang saja. Imam Ali kecewa dan mengecam sikap warga Kufah tersebut.
