Sejarah Islam Masa Rasulullah dan Khulafa'urrasyidin


BAB I
PENDAHULUAN

A. LATAR BELAKANG MASALAH
Perkembangan Islam pada zaman Nabi Muhammad SAW dan Para Sahabat adalah merupakan zaman keemasan, hal itu bisa terlihat bagaimana kemurnian Islam itu sendiri dengan adanya pelaku dan faktor utamanya yaitu Rasulullah SAW. Kemudian pada zaman selanjutnya yaitu zaman para sahabat, terkhusus pada zaman Khalifah empat atau yang lebih terkenal dengan sebutan Khulafaur Rasyidin, Islam berkembang dengan pesat dimana hampir 2/3 bumi yang kita huni ini hampir dipegang dan dikendalikan oleh Islam.
Hal itu tentunya tidak terlepas dari para pejuang yang sangat gigih dalam mempertahankan dan juga dalam menyebarkan islam sebagai agama Tauhid yang diridhoi. Perkembangan islam pada zaman inilah merupakan titik tolak perubahan peradaban kearah yang lebih maju. Maka tidak heran para sejarawan mencatat bahwa islam pada zaman Nabi Muhammad dan Khulafaur Rasyidin merupakan islam yang luar biasa pengaruhnya. Namun yang terkadang menjadi pertanyaan adalah kenapa pada zaman sekarang ini seolah kita melupakannya. Sekaitan dengan itu perlu kiranya kita melihat kembali dan mengkaji kembali bagaimana sejarah islam yang sebenarnya.

B. PERUMUSAN MASALAH
Agar tidak terjadi kesimpang siuran dalam penyusunan makalah ini, maka saya merumuskan masalah sebagai berikut:
1.      Islam masa Rasulullah di Mekkah.
2.      Rasulullah SAW Membangun Masyarakat Islam di Madinah.
3.      Pengertian Khulafaur Rasyidin.
4.      Kepemimpinan Khalifah Abu Bakar as-Siddiq.
5.      Kepemimpinan Khalifah Umar Bin Khottob.
6.      Kepemimpinan Khalifah Utsman Bin Affan.
7.      Kepemimpinan Khalifah Ali Bin Abi Thalib


BAB  II
PEMBAHASAN
A. ISLAM MASA RASULULLAH DI MEKKAH
Nabi Muhammad dilahirkan pada hari senin tanggal 12 Rabiul awal, tahun gajah, kira-kira 571 masehi. Dinamakan tahun Gajah karena pada waktu kelahiran beliau, ada seorang gubernur dari keraan Nasrani Abisinia yang memerintah di Yaman bermaksud menghancurkan Ka’bah dengan bala tentaranya yang mengendarai Gajah. Belum tercapai tujuannya tentara tersebut, Allah telah menghancurkan mereka dengan mengirimkan burung Ababil. Karena pasukan itu menggunakan Gajah, maka tahun tersebut dinamakan tahun Gajah.
Disamping tidak pernah berbuat dosa (ma’shum), nabi Muhammad SAW juga selalu beribadah dan berkhalwat di gua Hira. Sehingga pada tanggal 17 Ramadhan, beliau menerima wahyu pertama kali yaitu surat Al-Alaq ayat 1-5.

1. Bacalah dengan (menyebut) nama Tuhanmu yang Menciptakan,
2. Dia telah menciptakan manusia dari segumpal darah.
3. Bacalah, dan Tuhanmulah yang Maha pemurah,
4. yang mengajar (manusia) dengan perantaran kalam[1589],
5. Dia mengajar kepada manusia apa yang tidak diketahuinya.
[1589] Maksudnya: Allah mengajar manusia dengan perantaraan tulis baca.

Pada saat itu pula Nabi dinobatkan sebagai Rasulullah atau utusan Allah SWT kepada seluruh umat manusia untuk menyampaikan risalah-Nya. Ini terjadi menjelang usia Rasulullah yang ke 40 tahun. Setelah sekian lama wahyu kedua tidak muncul, timbul rasa rindu dalam dada Rasulullah SAW. Akan tetapi tak lama kemudian turunlah wahyu yang kedua yaitu surat al-Mudatsir ayat 1-7. Dengan turunnya surat tersebut mulailah Rasulullah berdakwah.
Dakwah pertama beliau adalah pada keluarga dan teman-temannya. Dengan turunnya wahyu ini, maka jelaslah apa yang harus Rasulullah kerjakan dalam menyampaikan risalah-Nya yaitu mengajak umat manusia menyembah Allah SWT yang maha Esa, yang tiada beranak dan tidak pula diberanakkan serta tiada sekutu bagi – Nya.
1. Penyiaran Islam secara Sembunyi-Sembunyi.
Ketika wahyu pertama turun, Nabi Muhammad SAW  belum diperintah untuk menyeru umat manusia menyembah dan mengesakan Allah SWT. Jibril tidak lagi datang untuk beberapa waktu lamanya. Pada saat sedang menunggu itulah kemudian turun wahyu yang kedua (Qs. Al-Mudatstsir:1-7) :

1. Hai orang yang berkemul (berselimut),
2. bangunlah, lalu berilah peringatan!
3. dan Tuhanmu agungkanlah!
4. dan pakaianmu bersihkanlah,
5. dan perbuatan dosa tinggalkanlah,
6. dan janganlah kamu memberi (dengan maksud) memperoleh (balasan) yang lebih banyak.
7. dan untuk (memenuhi perintah) Tuhanmu, bersabarlah.
Dengan perintah Ayat tersebut, Rasulullah SAW mulai berdakwah secara sembunyi-sembunyi. Dakwah pertama beliau adalah pada keluarga dan sahabat-sahabatnya. Orang pertama yang beriman kepada-Nya ialah Siti Khodijah (isteri Nabi), disusul Ali bin Abi Thalib (putra paman Nabi) dan Zaid bin Haritsah (budak Nabi yang dijadikan anak angkat). Setelah itu beliau menyeru Abu Bakar (sahabat karib Nabi). Kemudian dengan perantaraan Abu Bakar banyak orang-orang yang masuk Islam.
2. Menyiarkan Islam secara Terang-Terangan.
Penyiaran secara sembunyi-sembunyi berlangsung selama 3 tahun, sampai kurun waktu berikutnya yang memerintahkan dakwah secara terbuka dan terang-terangan.3 Ketika wahyu tersebut beliau mengundang keluarga dekatnya untuk berkumpul dibukit Safa, menyerukan agar berhati-hati terhadap azap yang keras di kemudian hari (Hari Kiamat) bagi orang-orang yang tidak mengakui Allah sebagai tuhan Yang Maha Esa dan Muhammad sebagai utusan-Nya.
Tiga tahun lamanya Rasulullah SAW melakukan dakwah secara rahasia. Kemudian turunlah firman Allah SWT, surat Al-Hijr:94 yang memerintahkan agar Rasulullah berdakwa secara terang terangan. Pertama kali seruan yang bersifat umum ini beliau tujukan pada kerabatnya, kemudian penduduk Makkah baik golongan bangsawan, hartawan maupun hamba sahaya. Setelah itu pada kabilah-kabilah Arab dari berbagai daerah yang datang ke Makkah untuk mengerjakan haji. Sehingga lambat laun banyak orang Arab yang masuk Agama Islam.
Demikianlah perjuangan Nabi Muhammad SAW dengan para sahabat untuk meyakinkan orang Makkah bahwa agama Islamlah yang benar dan berasal dari Allah SWT, akan tetapi kebanyakan orang-orang kafir Qurais di Mekkah menentang ajaran Nabi Muhammad SAW tersebut. Dengan adanya dakwah Nabi secara terang-terangan kepada seluruh penduduk Makkah, maka banyak penduduk Makkah yang mengetahui isi dan kandungan al-Qur’an yang sangat hebat, memiliki bahasa yang terang (fasihat) serta menarik. Sehingga lambat laun banyak orang Arab yang masuk Agama Islam. Dengan usaha yang serius pengikut Nabi SAW bertambah sehingga pemimpin kafir Quraisy yang tidak suka bila Agama Islam menjadi besar dan kuat berusaha keras untuk menghalangi dakwah Nabi dengan melakukan penyiksaan-penyiksaan terhadap orang mukmin. Banyak hal yang dilakukan para pemimpin Quraisy untuk mencegah dakwah Nabi. Pada mulanya mereka mengira bahwa kekuatan Nabi terletak pada perlindungan dan pembelaan Abu Thalib. Mereka mengancam dan menyuruh Abu Thalib untuk memilih dengan menyuruh Nabi berhenti berdakwa atau menyerahkannya pada orang kafir Quraisy.
 Karena cara–cara diplomatik dan bujuk rayu gagal dilakukan, akhirnya para pemimpin Quraisy melakukan tindakan fisik yang sebelumnya memang sudah dilakukan namun semakin ditingkatkan. Apabila orang Quraisy tahu bahwa dilingkungannya ada yang masuk Islam, maka mereka melakukan tindakan kekerasan semakin intensif lagi. Mereka menyuruh orang yang masuk Islam meskipun anggota keluarga sendiri atau hamba sahaya untuk di siksa supaya kembali kepada agama sebelumnya (murtad). Kekejaman yang dilakukan oleh peduduk Mekkah terhadap kaum muslimin mendorong Nabi SAW untuk mengungsikan sahabat–sahabatnya keluar Makkah. Sehingga pada tahun ke 5 kerasulan Nabi Muhammad SAW menetapkan Habsyah (Etiophya) sebagai negeri tempat untuk mengungsi, karena rajanya pada saat itu sangat adil. Namun kafir Quraisy tidak terima dengan perlakuan tersebut, maka mereka berusaha menghalangi hijrah ke Habsyah dengan membujuk raja Habsyah agar tak menerima kaum muslimin, namun gagal. Ditengah-tengah sengitnya kekejaman itu dua orang kuat Quraisy masuk Islam yaitu Hamzah dan Umar bin khattab sehingga memperkuat posisi umat Islam. Hal ini memperkeras reaksi kaum Quraisy Mereka menyusun strategi baru untuk melumpuhkan kekuatan Muhammad SAW yang bersandar pada perlindungan Bani Hasyim. Cara yang ditempuh adalah pemboikotan. Mereka memutuskan segala bentuk hubungan dengan suku ini. Persetujuan dilakukan dan ditulis dalam bentuk piagam dan disimpan dalam ka’bah. Akibatnya Bani Hasyim mengalami kelaparan, kemiskinan dan kesengsaraan yang tiada bandingnya. Hal ini terjadi pada tahun ke –7 ke Nabian dan berlangsung selama 3 tahun yang merupakan tindakan paling menyiksa dan melemahkan umat Islam. Pemboikotan ini berhenti setelah para pemimpin Quraisy sadar terhadap tindakan mereka yang terlalu. Namun selang beberapa waktu Abu Thalib meninggal Dunia, tiga hari kemudian istrinya, Siti Khodijah pun wafat.
Tahun itu merupakan tahun kesedihan bagi Nabi (Amul Huzni). Sepeninggal dua orang pendukung tersebut kaum Quraisy tak segan–segan melampiaskan amarahnya. Karena kaum Quraisy tersebut Nabi berusaha menyebarkan Islam keluar kota, namun Nabi malah di ejek, di sorak bahkan dilempari batu hingga terluka di bagian kepala dan badan. Untuk menghibur Nabi, maka pada tahun ke –10 keNabian, Allah mengisra’mi’rajkannya. Berita ini sangat menggemparkan masyarakat Makkah.
Bagi orang kafir hal itu dijadikan sebagai propaganda untuk mendustakan Nabi, namun bagi umat Islam itu merupakan ujian keimanan. Setelah peristiwa ini dakwah Islam menemui kemajuan, sejumlah penduduk Yastrib datang ke Makkah untuk berhaji, mereka terdiri dari suku Khozroj dan Aus yang masuk Islam dalam tiga golongan :
a.       Pada tahun ke –10 keNabian. Hal ini berawal dari pertikaian antara suku Aus dan Khozroj, dimana mereka mendambakan suatu perdamaian.
b.      Pada tahun ke -12 ke-Nabian. Delegasi Yastrib (10 orang suku Khozroj, 2 orang Aus serta seorang wanita) menemui Nabi disebuah tempat yang bernama Aqabah dan melakukan ikrar kesetiaan yang dinamakan perjanjian Aqabah pertama. Mereka kemudian berdakwah dengan ini di temani seorang utusan Nabi yaitu Mus’ab bin Umar.
c.       Pada musim haji berikutnya. Jama’ah haji Yastrib berjumlah 73 orang, atas nama penduduk Yastrib mereka meminta Nabi untuk pindah ke Yastrib, mereka berjanji untuk membelah Nabi, perjanjian ini kemudian dinamakan Perjanjian Bai’ah Aqabah II. Setelah mengetahui perjanjian tersebut, orang kafir Quraisy melakukan tekanan dan intimidasi secara lebih gila lagi terhadap kaum muslimin. Karena hal inilah, akhirnya Nabi memerintahkan sahabat–sahabatnya untuk hijrah ke Yastrib. Dalam waktu dua bulan, ± 150 orang telah meninggalkan kota Makkah. Hanya Ali dan Abu Bakar yang tetap bersama Nabi, akhirnya ia pun hijrah ke Yastrib bersama mereka karena kafir Quraisy sudah merencanakan pembunuhan terhadap Nabi SAW. Adapun cara-cara yang dilakukan orang Quraisy dalam melancarkan permusuhan terhadap Rasulullah SAW dan pengikutnya sebagai berikut:
1)      Mengejek, menghina dan menertawakan orang-orang Muslim dengan maksud melecehkan kaum muslimin.
2)      Mengejek ajaran Nabi, membangkitkan keraguan, menyebarkan anggapan-anggapanyang menyangsikan ajaran Nabi.
3)      Melawan Al-Qur’an dengan dongeng-dongeng orang-orang terdahulu.
d.Menyodorkan beberapa tawaran pada orang Islam yang mau menukar keimanannya dengan kepercayaan orang kafir Quraisy.
Menurut Ahmad Syalabi, ada lima faktor yang menyebabkan orang-orang kafir Quraisy berusaha menghalangi dakwah Islam yaitu: Pertama, Orang kafir Quraisy tidak dapat membedakan antara keNabian dan kekuasaan. Mereka menganggap bahwa tunduk pada seruan Muhammad berarti tunduk kepada kepemimpinan bani Abdul Muthallib. Kedua, Nabi Muhammad SAW menyerukan persamaan antara bangsawan dan hamba sahaya. Ketiga, Para pemimpin Quraisy tidak dapat menerima adanya hari kebangkitan kembali dan hari pembalasan di akhirat. Keempat, Taklid pada nenek moyang adalah kebiasaan yang berakar pada bangsa Arab. Kelima, Pemahat dan penjual patung menganggap Islam sebagai penghalang rezeki mereka.
B. RASULULLAH SAW MEMBANGUN MASYARAKAT ISLAM DI MADINAH
Setiap musim haji tiba, banyak kabilah yang datang ke Mekah. Begitu juga nabi Muhammad SAW. Dengan giat menyampaikan dakwah islam. Diantara Kabilah yang menerima Islam adalah Khajraj dari Yatrib (Madinah). Setelah kembali ke negerinya, mereka mengabarkan adanya Nabi terakhir.
Pada tahun ke 12 kenabiannya, datanglah orang-orang Yastrid di musim haji ke Mekah dan menemui nabi di Bai’atul Akabah. Di tempat ini mereka mengadakan bai’at (perjanjian) yang isinya bahwa mereka setia pada nabi, tidak menyekutukan Allah, tidak mencuri, tidak berzina, tidak membunuh anak kecil, tidak memfitnah, dan ikut menyebarkan islam. Perjanjian ini dikenal dengan Bai’atul Akabah Ula (Perjanjian Akabah Pertama) karena dilaksanakan di bukit akabah atau disebut Bai’atun Nisa’ (perjanjian wanita) karena didalamnya terdapat seorang wanita ‘Afra binti ‘Abid bin Tsa’labah.6
Ketika beliau sampai di Madinah, disambut dengan syair-syair dan penuh kegembiraan oleh penduduk Madinah. Hijrah dari Makkah ke Madinah bukan hanya sekedar berpindah dan menghindarkan diri dari ancaman dan tekanan orang kafir Quraisy dan penduduk Makkah yang tidak menghendaki pembaharuan terhadap ajaran nenek moyang mereka, tetapi juga mengandung maksud untuk mengatur potensi dan menyusun srategi dalam menghadapi tantangan lebih lanjut, sehingga nanti terbentuk masyarakat baru yang didalamnya bersinar kembali mutiara tauhid warisan Ibrahim yang akan disempurnakan oleh Nabi Muhammad SAW melalui wahyu Allah SWT.
 Islam mendapat lingkungan baru di kota Madinah. Lingkungan yang memungkinkan bagi Nabi Muhammad SAW untuk meneruskan dakwahnya, menyampaikan ajaran Islam dan menjabarkan dalam kehidupan sehari-hari[1] (Syalaby,1997:117-119). Setelah tiba dan diterima penduduk Yastrib, Nabi diangkat menjadi pemimpin penduduk Madinah. Sehingga disamping sebagai kepala/ pemimpin agama, Nabi SAW juga menjabat sebagai kepala pemerintahan / Negara Islam. Kemudian, tidak beberapa lama orang-orang Madinah non Muslim berbondongbondong masuk agama Islam. Untuk memperkokoh masyarakat baru tersebut mulailah Nabi meletakkan dasar-dasar untuk suatu masyarakat yang besar, mengingat penduduk yang tinggal di Madinah bukan hanya kaum muslimin, tapi juga golongan masyarakat Yahudi dan orang Arab yang masih menganut agama nenek moyang, maka agar stabilitas masyarakat dapat terwujudkan Nabi mengadakan perjanjian dengan mereka, yaitu suatu piagam yang menjamin kebebasan beragama bagi kaum Yahudi. Setiap golongan masyarakat memiliki hak tertentu dalam bidang politik dan keagamaan. Di samping itu setiap masyarakat berkewajiban mempertahankan keamanan negeri dari serangan musuh. Adapun dasar-dasar tersebut adalah:
1. Mendirikan Masjid
Setelah agama Islam datang Rasulullah SAW mempersatukan seluruh suku-suku di Madinah dengan jalan mendirikan tempat peribadatan dan pertemuan yang berupa masjid dan diberi nama masjid “Baitullah”. Dengan adanya masjid itu, selain dijadikan sebagai tempat peribadatan juga dijadikan sebagai tempat pertemuan, peribadatan, mengadiliperkara dan lain sebagainya.
2. Mempersaudarakan antara Anshor dan Muhajirin
Orang-orang Muhajirin datang ke Madinah tidak membawa harta akan tetapi membawa keyakinan yang mereka anut. Dengan itu Nabi mempersatukan golongan Muhajirin dan Anshor tersebut dalam suatu persaudaraan dibawah satu keyakinan yaitu bendera Islam.
3. Perjanjian bantu membantu antara sesama kaum Muslim dan non Muslim
                   Setelah Nabi resmi menjadi penduduk Madinah, Nabi langsung mengadakan perjanjian untuk saling bantu-membantu atau toleransi antara orang Islam dengan orang non Islam. Selain itu Nabi mengadakan perjanjian yang berbunyi “kebebasan beragama terjamin buat semua orang-orang di Madinah”.
4. Melaksanakan dasar politik, ekonomi dan sosial untuk masyarakat baru.
Dengan terbetuknya masyarakat baru Islam di Madinah, orang-orang kafir Quraisy bertambah marah, maka terjadi peperangan yang pertama yaitu perang Badar pada tanggal 8 Ramadlan, tahun 2 H. Kemudian disusul dengan perang yang lain yaitu perang Uhud, Zabit dan masih banyak lagi. Pada tahun 9 H dan 10 H (630–632 M) banyak suku dari berbagai pelosok mengirim delegasi kepada Nabi bahwa mereka ingin tunduk kepada Nabi, serta menganut agama Islam, maka terwujudlah persatuan orang Arab pada saat itu. Dalam menunaikan haji yang terakhir atau disebut dengan Haji Wada tahun 10 H (631 M) Nabi menyampaikan khotbahnya yang sangat bersejarah antara lain larangan untuk riba, menganiaya, perintah untuk memperlakukan istri dengan baik, persamaan dan persaudaraan antar manusia harus ditegakkan dan masih banyak lagi yang lainnya. Setelah itu Nabi kembali ke Madinah, ia mengatur organisasi masyarakat, petugas keamanan dan para da’i dikirim ke berbagai daerah, mengatur keadilan, memungut zakat dan lain-lain. Lalu 2 bulan kemudian Nabi jatuh sakit, kemudian ia meninggal pada hari Senin 12 Rabi’ul Awal 11 H atau 8 Juni 632 M[2].
Dengan terbentuknya negara Madinah Islam bertambah kuat sehingga perkembangan yang pesat itu membuat orang Makkah risau, begitu juga dengan musuh–musuh Islam.
Untuk menghadapi kemungkinan gangguan–gangguan dari musuh, Nabi Muhammad SAW sebagai kepala pemerintahan mengatur siasat dan membentuk pasukan tentara. Banyak hal yang dilakukan Nabi dalam rangka mempertahankan dan memperkuat kedudukan kota Madinah diantaranya adalah mengadakan perjanjian damai dengan berbagai kabilah di sekitar Madinah, mengadakan ekspedisi keluar kota sebagai aksi siaga melatih kemampuan calon pasukan yang memang mutlak diperlukan untuk melindungi dan mempertahankan negara yang baru dibentuk tersebut. Akan tetapi, ketika pemeluk agama Islam di Madinah semakin bertambah maka persoalan demi persoalan semakin sering terjadi, diantaranya adalah rongrongan dari orang Yahudi, Munafik dan Quraisy. Namun berkat keteguhan dan kesatuan ummat Islam, mereka dapat mengatasinya.
C. PERADABAN ISLAM PADA MASA KHULAFAUR RASYIDIN
1. Masa  ABU BAKAR ASH- SHIDDIQ (11- 13 H/632 634 M)
Abu Bakar lahir pada tahun 573 M dari sebuah keluarga terhormat. Abu Bakar adalah nama gelar yang diberikan oleh kaum muslim kepadanya. Nama aslinya adalah Abdullah abu quhafah. Lalu ia mendapat gelar Ash- Shiddiq setelah masuk islam karena ia dengan segera membenarkan nabi dalam berbagai peristiwa, terutama isra’ wal mi’raj.
Sebagai seorang pemimpin umat islam setelah rasul. Abu Bakar disebut khalifah rasulillah (pengganti rasul) yang dalam perkembanganya disebut khalifah saja. Sedangkan pengertian dari khalifah adalah seorang pemimpin yang diangkat setelah nabi wafat untuk menggantikan beliau melanjutkan tugas- tugas sebagai pemimpin agama dan kepala pemerintahan. Dalam hal ini perlu dijelaskan bahwa sesungguhnya kedudukan nabi tidak bisa digantikan. Karena tidak ada seorang pun yang menerima ajaran tuhan setelah nabi Muhammad SAW. Sebagai penyampai wahyu yang diturunkan dan sebagai utusan tuhan yang tidak dapat diambil alih oleh seorngpun. Menggantikan rasul hanyalah perjuangan nabi.
Hal menarik dari Abu Bakar adalah pidato yang disampaikan sehari setelah pengangkatanya, menegaskaan totalitas kepribadian dan komitmen abu Bakar terhadap nilai- nilai islam dan strategi meraih keberhasilan tertinggi bagi ummat sepeninggal rasulullah SAW. Di bawah ini adalah kutipan dari pidato Abu Bakar.
“Wahai manusia! Aku telah diangkat untuk mengendalikan urusanmu, padahal aku bukanlah orang yang terbaik diantaramu. Maka jikalau aku dapat menunaikan tugasku dengan baik, bantulah (ikutlah) aku, tetapi jika aku berlaku salah, maka luruskanlah……..”
Pada masa awal pemerintahannya, khalifah Abu Bakar telah dihadapkan pada tiga peristiwa penting yang memerlukan solusi segera. Pertama adalah orang yang murtad, kedua adalah munculnya nabi-nabi palsu dan ketiga, orang yang enggan membayar zakat.
Pada waktu kepemimpinan Abu Bakar  terjadi beberapa masalah bagi masyarakat muslim. Beberapa orang arab yang masih lemah imanya, justru menyatakan murtad. Mereka melepaskan diri kesetiaan dengan menolak memberi baiat kepada khalifah yang baru dan bahkan menentang agama islam.
Dengan adanya pembangkangan orang arab tersebut, khalifah dengan tegas melancarkan operasi pembersihan terhadap mereka. Mula- mula hal itu di maksudkan sebagai tekanan untuk mengajak mereka kembali kejalan yang benar, lalu berkembang menjadi perang merebut kemenangan. Tindakan pembersihan juga dilakukan untuk menumpas nabi- nabi palsu dan orang- orang yang enggan membayar zakat.
Dengan berbagai permasalahan tersebut, maka khalifah Abu Bakar mengirimkan pasukan untuk menumpas para pemberontak di Yamamah. Dengan operasi penumpasan yang dipimpin oleh panglima perang Khalid Bin Walid telah gugur sebanyak 73 orang sahabat dekat Rasulullah. Dan para penghafal Al- Qur’an. Kenyataan ini menyebabkan umat islam telah kehilangan sebagian para penghafal Al- Qur’an. Dan jika hal ini tidak diperhatikan, maka lama kelamaan sahabat- sahabat penghafal Al-Qur’an  akan habis dan akhirnya akan terjadi perselisihan dikalangan umat islam tentang kitab suci mereka. Oleh karena itu sahabat Umar Bin Khathab mengusulkan kepada khalifah supaya seger mengumpulkan ayat-ayat suci Al-Qur’an dari hafalan-hafalan para sahabat Nabi penghafal Al-Qur’an yang masih tersisa.[3]
Khalifah Abu Bakar menjadi khalifah hanya dua tahun tiga bulan sebelas hari. Pada tahun 634 M ia meninggal. Masa sesingkat itu habis untuk menyelesaikan masalah atau persoalan dalam negeri terutama tantangan yang di timbulkan oleh suku bangsa arab yang tidak mau tunduk lagi kepada pemerintah Madinah. Tampaknya, kekuasaan yang dijalankan oleh khalifah Abu Bakar, sebagaimana Rasulullah, bersifat sentral,. Kekuasaan legislative, eksekutif, dan yudikatif terpusat di tangan khalifah. Dan dalam pemerintahanya pula sang khalifah Abu Bakar selalu mengajak para sahabat- sahabatnya untuk bermusyawarah dalam menjalankan roda kepemerintahanya, juga dalam menjalankan hukum.[4]
Selain keberhasilanya menegakan kekuatan hukum dan politik islam, banyak pula yang dicapai pada msa kepemimpinan Abu Bakar Ash- Shiddiq, seperti:   perbaikan sosial kemasyarakatan,   pengumpulan ayat- ayat Al- Qur’an, perluasan dan penyebaran agama islam.
Selain itu, terdapat usaha lain yang dilakukan oleh khalifah Abu Bakar dalam upaya pencapian kebesaran peradapan islam, misal perluasan wilayah islam ke luar jazirah arab. Perluasan dan penyebaran agama islam tersebut mulai dilkukan khalifah Abu Bakar ke wilayah irak, Persia, dan syiria.[5]
Faktor penting lainya dari pengiriman pasukan besar- besaran ke syiria ini sehingga dipimpin oleh empat panglima sekaligus adalah karena umat  islam arab memandang syiria sebagai bagian integral dari semenanjung arab. Negeri itu didiami oleh suku bangsa arab yang berbicara menggunakan bahasa arab. Dengan demikian baik untuk keamanan umat islam (arab) maupun untuk pertalian nasional dengan orang- orang syiria adalah sangat penting bagi kaum muslimin (arab). Ketika pasukan islam sedang mengancam palestina, iraq, dan kerajaan Hirah, dan telah meraih beberapa kemenangan yang dapat memberikan kepada mereka beberapa kemungkinan besar bagi keberhasilan selanjutnya, khalifah Abu  Bakar meninggal dunia pada usia 63 tahun hari senin, 23 agustus 624 M setelah lebih kurang 15 hari terbaring ditempat tidur.
a. Masa Khalifah Abu Bakar (11-13 H / 632-634 M)
Sebagai khalifah pertama, Abu Bakar menghadapi masalah ummat yang cukup serius, yang harus diselesaikan dengan cara yang tegas dan pasti. Kesulitan-kesulitan yang dihadapi Abu Bakar itu sebagai berikut :
-         Kaum murtad
-         Orang yang mengaku dirinya sebagai Nabi beserta para pendukungnya
-         Kaum yang tidak mau membayar zakat.
 Adapun sebab-sebab mereka berbuat demikian adalah :
-  Ajaran Islam belum dipahami benar
- Motivasi Islamnya bukan karena kesadaran dan keinsyafan iman yang sungguh-sungguh tapi karena pertimbangan politik dan ekonomi.
-  Rasa kesukuan yang mendalam, mereka menganggap Islam menempatkan mereka dibawah kekuasaan bangsa Quraisy.
-         Kesalahan memahami ayat-ayat al-Qur'an yang menimbulkan anggapan bahwa dengan wafatnya Rasulullah SAW mereka tidak mempunyai kewajiban melaksanakan ajaran agama Islam.
b. Perekonomian Pada Masa Abu Bakar
Setelah nabi Muhammad Wafat, Abu Bakar Ash – Shidiq RA terpilih sebagai kholifah islam yang pertama, pada masa pemerintahannya yang hanya berlangsung dua tahun.
Kebijakan umum kholifah Abu Bakar RA dibidang ekonomi
- menegakan hukum dengan memerangi mereka yang tidak mau membayar    
  zakat.
- Tidak menjadikan akhli badar ( orang –orang yang berzihad pada perang badar)
  sebagai pejabat negara.
-  Tidak mengistimewakan ahli badar dalam pembagian kekayaan negara.
-  Mengelolah barang tambang ( rikaz ) yang terdiri dari emas, perak, perunggu,    
   besi, dan baja sehingga menjadi sumber pendapatan negara.
-  Tidak merubah kebijakan rasullah SAW dalam masalah jizyah. Sebagaimana Rasullah Saw Abu Bakar RA tidak membuat ketentuan khusus tentang jenis dan kadar jizyah, maka pada masanya, jizyah dapat berupa emas, perhiasan, pakaian, kambing, onta, atau benda benda lainya.
c.       Penerapan prinsif persamaan dalam distribusi kekayaan negara.
               Dalam usahanya meningkatkan kesejatrahan masyarakat, khalifah abu Bakar RA melaksanakan kebijakan ekonomi sebagaimana yang dilakukan Rasullah SAW. Ia memperhatikan skurasi penghitungan Zakat.hasil penghitungan zakat dijadiakn sebagai pendapatan negara yang disimpan dalam Baitul Mal dan langsung di distribusikan seluruhnya pada kaum muslimin.
d.      Wafatnya kholifah Abu Bakar RA
                    Al – Waqidi dan Al- Hakim meriwayatkan dari aisyah, ia berkata ”awal sakit ayahku ialah pada saat beliau mandi pada hari senin tanggal 7 jumadil akhir. Kemudian ia merasa kedinginan seharian. Beliau terkena demam selama 15 hari yang membuatnya tidak bisa menghadiri shalat jamaah. Ayahku meninggal pada malam selasa tanggal 22 jumadil akhir, akhir tahun ke 13 H dalam usia 63 tahun. Menjelang ajalnya menurut ibnu asaikar dari yasir bin hamzah – abu bakar Ra, berkata ,” Sesungguhnya saya telah mewasiatkan sesutu tentang penggantiku, apakah kalian rela dengan apa yang aku lakukan?” orang – orang itu berkata, kami rela kecuali yang engkau tentukan sebagai penggantimu adalah umar !” khalifah Abu Bakar berkata, Ya. Dia memeng umar.” dengan demikian, khalifah Abu Bakar Ra wafat dengan mewasiatkan pengangkatan Umar sebagai penggantinya.
      2.    UMAR BIN KHATHTHAB (13-23 H/ 634-644 M)
Umar bin Khaththab lahir pada tahun 513 M. nama lengkapnya adalah Umar bin Khaththab bi Nufail. Ayahnya bernama Nufail ibnu Abdul ‘uzza al- Quraisyi dan berasal dari suku bani Adi. Sedangkan ibunya bernama Hantamah binti Hasyim ibnu mughirah ibnu Abdillah. Silsilahnya berhubungan dengan Nabi Muhammad SAW pada generasi kedelapan yaitu Fihr. Umar dilahirkan di makkah empat tahun sebelum kelahiran Nabi SAW. Ia adalah seorang yang berbudi luhur, fasih, dan adil serta pemberani.
Ternyata waktu dua tahun belumlah cukup untuk menciptakan stabilitas keamanan. Maka Khalifah Abu Bakar menunjuk Umar untuk menggantikanya. Penunjukan itu dimaksudkan untuk mencegah terjadinya perselisihan dikalangan umat islam. Setelah umar menjadi khalifah, ia berkata kepada umatnya:
“Orang- orang arab seperti halnya seekor unta yang keras kepala dan ini akan bertalian dengan pengendara dimana jalan yang akan dilalui, dengan nama Allah SWT, begitulah aku akan menunjukan kepada kamu kejalan yang harus engkau lalui.”
Meskipun pengangkatan Umar sebagai Khalifah itu merupakan fenomena yang baru, tetapi harus tetap dicatat bahwa proses peralihan kepemimpinan tetap dalam bentuk musyawarah. Yaitu berupa usulan atau rekomendasi dari Abu Bakar yang diserahkan kepada persetujuan umat islam. Pada awalnya terdapat berbagai keberatan mengenai pengangkatan Umar. Sahabat thalhah misalnya, segera menemui Abu Bakar untuk menyampaikan rasa kecewanya itu. Namun karena Umar adalah orang yng tepat untuk menduduki kursi kekhalifahan, maka pengangkatan Umar mendapat persetujuan dan baiat dari semua masyrakat islam. Umar bin Khaththab menyebut dirinya “Khalifah Khalifati Rasulillah” (Pengganti dari pengganti Rasulullh). Ia juga mendapat gelar Amir al- Mukminin (Komandan orang- orang beriman) sehubungan dengan penaklukan- penaklukan yang berlangsung pada masa pemerintahanya.[6]
Karena Negara islam sudah menyebar luas keluar jazirah Arab, maka pusat pendidikan bukan saja di Madinah tetapi tersebar juga di kota-kota besar lainya. Pada waktu itu juga, sarana-sarana pendidikan yang berbentuk halaqoh telah tumbuh  dengan baik. Menurut sebagian riwayat bahwa khuttab sebagai lembaga pendidikan untuk mengajarkan membaca Al-Qur’an dan pokok-pokok agama islam telah tumbuh pada masa khulafa’ Al-Rasyidin.[7]
Pada masa khulafa’ Al-Rasyidin sebenarnya sudah ada tingkat pengaajaran. Hamper seperti masa sekarang, tingkat pertama ialah kuttab, yaitu tempat anak-anak belajar menulis dan membaca atau menghafal Al-Qur’an serta belajar pokok-pokok agama islam. Setelah tamat Al-Qur’an, mereka meneruskan pelajaran ke masjid. Pelajaran di masjid ini terdiri dari tingkat menengah dan tingkat tinggi.
Umar memerintah selama sepuluh tahun (13- 23 H/ 634- 644 M). masa jabatanya berakhir dengan kematian. Ia di bunuh oleh seorang budak dari Persia bernama Abu Lu’lu’a yang secara tiba- tiba menyerang dengan tikaman pisau tajam kearah khalifah yang hendak mendirikan sholat subuh yang telah di tunggu oleh jamaahnya di masjid nabawi di pagi buta itu. Umar terluka parah , dari pembaringanya ia mengangkat syura’ yang akan memilih penerus tongkat kekhalifahan umar. Umar wafat tiga hari setelah penikaman atas dirinya yakni 1 muharram 23 H/ 644M.  Untuk menentukan penggantinya, Umar tidak menempuh jalan yang dilakukan oleh Abu Bakar. Ia menunjuk enam orang sahabat dan memintak kepada mereka untuk memilih salah satu dari mereka untuk menjadi khalifah menggantikan Umar. Enam orang tersebut adalah Usman, Ali, Thalhah, Zubair, Sa’ad ibn Abi Waqas, dan Abdurrahman bin ‘Auf.[8]
a.      Ekspedisi ke Utara
Selepas berjaya mengurangkan golongan riddah, Syaidina Abu Bakar mula menghantar panglima-panglima perang Islam ke utara untuk memerangi Byzantine (Rom Timur) dan Empayar Parsi. Khalid Al-Walid berjaya menawan Iraq dalam hanya satu kempen ketenteraan. Beliau juga menempuh kejayaan dalam beberapa ekspedisi ke Syria. Menurut seorang orientalis Barat, kempen Saidina Abu Bakar hanyalah sebuah lanjutan daripada Perang Riddah. Hal ini jelas salah memandangkan kebanyakan golongan riddah terletak di selatan Semenanjun Arab dan bukannya di utara.
b.    Pengumpulan Al-Quran
Menurut ahli sejarah Islam, selepas Perang Riddah ramai orang yang mahir menghafaz Al Quran terbunuh. Saidina Umar Al-Khatab (khalifah yang berikutnya) meminta Saidina Abu Bakar untuk mula menjalankan aktviti pengumpulan semula ayat-ayat Al Quran. Saidina Uthman Affan kemudiannya melengkapkan aktiviti pengumpulan Al Quran semasa beliau menjadi khalifah.
    c.       Kewafatan Saidina Abu Bakar As-Siddiq
Saidina Abu Bakar wafat pada 23 Ogos 634 di Madinah iaitu dua tahun selepas menjadi khalifah. Ada dua pendapat mengenai sebab kematian Saidina Abu Bakar. Ada yang mengatakan disebabkan keracunan dan ada pula yang mengatakan Saidina Abu Bakar meninggal dunia secara biasa. Sebelum kewafatannya, Saidina Abu Bakar mengesa masyarakat menerima Saidina Umar Al-Khatab sebagai khalifah yang baru. Saidina Abu Bakar dikebumikan di sebelah makam Nabi Muhammad s.a.w. di Masjid an-Nabawi yang terletak di Madinah
d.       Masa Khalifah Umar bin Khattab (13-23 H / 634-644 M)
Setelah Abu Bakar wafat, kemudian digantikan oleh Umar bin Khattab. Usaha memperluas wilayah Islam yang telah dilakukan oleh Abu Bakar dilanjutkan oleh Umar dengan hasil yang gemilang. Wilayah pada masa Umar meliputi Iraq, Persia, Syam, Mesir dan Barqah. Bangsa-bangsa tersebut sebelum Islam masuk ke negaranya telah memiliki kebudayaan dan peradaban lama.
Semangat berda’wah dan pendidikan dari kaum muslimin yang berada di daerah-daerah baru menunjukkan kekuatan yang sangat tinggi. Thomas W. Arnold mengatakan ketentuan-ketentuan khusus mengenai metode dan materi pendidikan dan pengajaran agama bagi para penduduk yang baru masuk Islam segera disusun, demi mencegah kesimpang siuran pemahaman agama, baik yang menyangkut dasar-dasar pokok iman maupun mengenai ibadah dan muamalah. Langkah-langkah pencegahan ini perlu, mengingat derasnya arus penduduk yang berbondong-bondong masuk Islam. Oleh karena itu, Khalifah Umar bin Khattab mengangkat dan menunjuk guru-guru untuk setiap negeri, yang bertugas mengajarkan kepada penduduk setempat tentang isi al-Qur'an dan soal-soal lain yang berhubungan dengan masalah agama.
e.       Perekonomian Pada Masa Umar
1)      Pendirian Lembaga Baitul Mal
2)      Departemen Pelayanan Militer. Departemen ini berfungsi untuk mendistribusikan dana bantuan kepada orang-orang yang terlibat dalam peperangan.
3)      Departemen Kehakiman dan Eksekutif. Bertanggung jawab atas pembayaran gaji para hakim dan pejabat eksekutif.
4)      Departemen Pendidikan dan Pengembangan Islam. Departemen ini mendistribusikan bantuan dana bagi penyebar dan pengembang ajaran Islam beserta keluarganya, seperti guru dan juru dakwah.
5)      Departemen Jaminan Sosial. Berfungsi untuk mendistribusikan dana bantuan kepada seluruh fakir miskin dan orang-orang yang menderita.
3. USMAN BIN AFFAN (23-36 H/ 644-656 M)
Di masa pemerintahan Usman (644- 655 M), Armenia, Tunisia, Cyprus, Rhodes, dan bagian yang tersisa dari Persia, Transoxania, dan Tabaristan berhsil direbut ekspansi islam pertama berhenti disini.[9]
Masa pemerintahan khallifah Utsman tidak terputus dengan rangkaian penaklukan yang dilakukan kaum Muslimin pada masa pemerintahan khalifah Umar. Ketika itu Armenia, Afrika, dan Cyprus telah dikuasai. Kaum muslimin terus memperkokoh kekuatan di Persia yang telah takluk ditangan mereka sebelumnya. Perluasan itu meliputi bagian pesisir pantai atau kelautan, karena pada saat itu kaum muslimin telah memiliki armada laut.
pada pemerintahan Utsman negri Tabaristan berhasil ditaklukan oleh Sa`id bin Ash. Dikatakan , bahwa tentara Islam dalam penaklukan ini telah meyertakan Al-Hasan dan Al-Husain, kedua putra Ali, begitu pula Abdullah bin Al-Abbas, `Amr bin Ash, dan zubair bin Awwam. Pada masa pemerintahan usman pun kaum muslimin berhasil memaksa raja Jurjun untuk memohon berdamai dari Sa`ad bin Ash dan untk ini ia bersedia menyerahkan upeti senilai 200.000 dirham setiap tahun kepadanya. Termasuk juga menumpas pendurhakaan dan pemberontakan yang terjadi dibeberapa  negri yang telah masuk kebawah kekuasaan Islam dizaman Umar. Pendurhakaaan itu ditimbulkan oleh pendukung- pendukung pemerintah yang lama atau dengan kata lain pemerintahan sebelum daerah itu berada dalam kekuasaan Islam, mereka hendak mengembalikan kekuasaannya. Daerah tersebut antara lain adalah Khurasan dan Iskandariah.
Karya monumental Usman lain yang dipersembahkan kepada umat islam adalah penyusunan kitab suci Al- Qur’an. Maksud dari penyusunan itu ialah untuk mengakhiri perbedaan- perbedaan serius dalam bacaan Al- Qur’an. Yang padam waktu itu di ketuai oleh Zaid bin Tsabit, sedangkan yang mengumpukan tulisan- tulisan Al- Qur’an adalah dari habsyah, salah seorang istri Nabi SAW. Kemudian dewan itu membuat beberapa salinan naskah Al- Qur’an untuk di sebarkan ke berbagai daerah atau wilayah kegubernuran sebagai pedoman yang benar untuk masa selanjutnnya.
a.      Perluasan Islam dimasa Utsman bin Affan
Masa pemerintahan khallifah Utsman tidak terputus dengan rangkaian penaklukan yang dilakukan kaum Muslimin pada masa pemerintahan khalifah Umar. Ketika itu Armenia, Afrika, dan Cyprus telah dikuasai. Kaum muslimin terus memperkokoh kekuatan di Persia yang telah takluk ditangan mereka sebelumnya. Perluasan itu meliputi bagian pesisir pantai atau kelautan, karena pada saat itu kaum muslimin telah memiliki armada laut.
Pada pemerintahan Utsman negri Tabaristan berhasil ditaklukan oleh Sa`id bin Ash. Dikatakan , bahwa tentara Islam dalam penaklukan ini telah meyertakan Al-Hasan dan Al-Husain, kedua putra Ali, begitu pula Abdullah bin Al-Abbas, `Amr bin Ash, dan zubair bin Awwam. Pada masa pemerintahan usman pun kaum muslimin berhasil memaksa raja Jurjun untuk memohon berdamai dari Sa`ad bin Ash dan untk ini ia bersedia menyerahkan upeti senilai 200.000 dirham setiap tahun kepadanya.
Termasuk juga menumpas pendurhakaan dan pemberontakan yang terjadi dibeberapa  negri yang telah masuk kebawah kekuasaan Islam dizaman Umar. Pendurhakaaan itu ditimbulkan oleh pendukung- pendukung pemerintah yang lama atau dengan kata lain pemerintahan sebelum daerah itu berada dalam kekuasaan Islam, mereka hendak mengembalikan kekuasaannya. Daerah tersebut antara lain adalah Khurasan dan Iskandariah.[10]
Pada tahu 25 H. Penguasa di Iskandariyah mengingkari perjanjiaan dengan Islam, karena mereka dihasut oleh bangsa Romawi yang menjanjikan mereka bermacam-macam janji yang muluk-muluk. Maka Utsman memerintahkan gubernur Amru bin Ash yang ketika itu menjabat sebagi penguasa di Mesir untuk memerangi Iskandariyah, sehingga Akhirnya penguasanya mengutus dutanya untuk membuat perjanjain dan kembali tunduk kepada kerajaan Islam di Madinah.
Pada tahun 31H Utsman mengirim Abdullah bin Amir, gubernur Basrah, bersama sejumlah besar tentara untuk menaklukkan kembali mereka. Terjadilah perang antara tentara Islam dengan penduduk Merw, Naisabur, Nama, Hirang, Fusang, Bigdis, Merw As-Syahijan, dan lain-lain dari penduduk wilayah Khurasan. Dalam perang ini kaum muslimin berhasil menaklukan kembali wilayah Khurasan. Secara singkat daerah-daerah selain dari dua ini  yang telah dikuasai pada masa Utsman  adalah: Azerbaijan, Arminiyah, Sabur, Afrika Selatan, Undulus ( Spain), Cyprus, Persia, dan Tabristan.
b.       Masa Khalifah Usman bin Affan (23-35 H / 644-656 M)
                        Dalam menjalankan tugas kepiminpinannya Usman bin Affan banyak menghadapi masalah politik yang sangat gawat. Masa enam tahun pertama kebijaksanaannya nampak baik, tapi masa enam tahun terakhir kelemahan-kelemahan pribadinya mulai nampak, sehingga berdampak negatif bagi pemerintahannya.
Pada masa Utsman ada orang-orang yang murka kepadanya. Karena Utsman suka memperhatikan dan mengontrol mereka, baik sahabat atau bukan sahabat. Utsman meminta pertanggung jawaban atas pekerjaan mereka dan menanyai mereka mengenai masalah tersebut. Orang-orang yang tidak suka  kepada Utsman ada juga dari kalangan borjuis. Sebab, pada masa Utsman aneka bentuk hura-hura telah menjalar. Lalu Utsman mengasingankan mereka ke luar Madinah dan terputus sama sekali dengan kehidupan Madinah, sehingga membuat mereka murka kepadanya.
Di antara mereka juga ada pegawai-pegawai yang di berhentikan dari jabatannya seperti `Amru bin Ash, sehingga tersingung pada Utsman. Begitu juga kebencian mulai tersebar kesejumlah orang yang cemburu pada bani Umayyah yang mendapatkan posisi bagus, sehingga mereka itu dendam pada Utsman karena menggunakan kaum kerabatnya. Selain kebijakan politik, kebijakan keagamaan dan ijtihad Khalifah dalam beberapa kasus hukum ibadah juga menimbulkan reaksi negatif yang keras. Ath Thabari mengutup riwayai Al-Waqidy yang bersumber dari ibn Abbas.
Inilah ringkasan mengenai sebab-sebab timbulnya fitnah (kekisruhan) seperti di kemukakan literatur-liratur sejarah. Namun pertanyaan yang muncul ialah, apakah hal-hal di atas dirasa cukup menjadi pemicu timbulnya fitnah yang sangat ironis itu? Tentu saja tidak. Karena sesungguhnya apa yang terjadi pada Utsman, juga bisa terjadi pada orang lain, seperti Umar bin Khatab misalnya, padahal tidak semua orang setuju dengan Umar karena ia bersikap lebih keras kepada mereka dengan apa yang dilakukan Utsman.
c.       Terbunuhnya kahlifah Usman
Terbunuhnya Khalifah Ustman di tangan para demonstran menyisakan banyak teka-teki sejarah yang tak kunjung terjawab secara memuaskan. Terutama mengenai surat rahasia itu, siapa sebenarnya yang paling mungkin menulisnya? Demikian juga mengenai orang yang paling bertanggung jawab sebagai eksekutor dalam pembunuhan Utsman, sehingga lebih pantas untuk di Qishas kepadanya? Kemudian, mungkinkah ada aktor intelektual yang bekerja secara sistematis di belakang layar dari jaringan gerakan pembangkangan terhadap Khalifah Utsman itu, sebagaimana di sebut-sebut adanya tokoh misterius Abdullah bin Saba, seorang Yahudi yang kemudian berpura-pura mauk Islam dan kemudia membawa paham-paham aneh ke tubuh Umat?
4.     ALI BIN ABI THALIB (36-41 H/ 656-661 M)
Setelah khalifah Usman wafat, masyarakat secara beramai- ramai membaiat Ali ibn Abi Thalib untuk menjadi Khalifah pada waktu itu. Dengan begitu, Ali menjadi khalifah keempat dari kekhalifahan islam. Ali merupakan keponakan sekaligus menantu Nabi SAW. Ali adalah putra dari Abi Thalib bin Abdul Muthalib. Ia adalah sepupu Nabi yang telah ikut sejak bahaya kelaparan  mengancam kota
Ali adalah orang yang memiliki banyak kelebihan. Selain itu ia adalah pemegang kekuasaan . beberapa hari pembunuhan Usman, stabilitas keamanan kota Madinah menjadi rawan. Galiqi bin Harb memegang kekuasaan ibu kota islam itu selama kurang lebih lima hari sampai terpilihnya khalifah yang baru kemudian Ali bin Abi Thalib tampil menggantikan Usman. Dan mendapat baiat dari sejumlah kaum muslimin.
Tugas pertama yang dilakukan oleh khalifah Ali adalah menghidupkan cita- cita Abu Bakar, Umar untuk menarik kembali semua tanah dan hibah yang telah dibagikan Usman kepada kaum kerabatnya kedalaam kepemilikan Negara. Ali juga menurunkah gubernur yang tidak disenangi oleh rakyat.
Oposisi terhadap khalifah secara terang- terangan dimulai oleh Aisyah, , Thalhah, dan zubair. Mereka memiliki alasan tersendiri. Mereka menuntut Ali untuk menghukum para pembunuh Usman.  Akan tetapi tuntutan mereka tidak mungkin dikabulkan oleh Ali.
Pertama, karena tugas utama yang mendesak dilakukan dalam situasi kritis yang penuh intimidasi seperti saat itu ialah memulihkan ketertiban dan mengonsolidasikan kedudukan kekhalifahan.
Kedua, menghukum para pembunuh bukanlah perkara yang mudah. Khalifah Usman tidak dibunuh oleh hanya satu orang, melainkan banyah orang dari mesir, irak, dan arab secara langsung terlibat pembunuhan itu.
Bersamaan dengan itu, kebijakan- kebijakan Ali juga menimbulkan perlawanan dari para gubernur di Damaskus, Mu’awiyah yang didukung bekas pejabat tinggi yang merasa kehilangan kedudukan dan kejayaan. Setelah Ali berhasil mengalahkan Zubair  dan kawan- Kawan,  Ali kemudian bergerak ke Kuffah menuju Damaskus dengan sejumlah tentaranya. Pasukanya bertemu dengan pasukan mu’awayah di siffin. Dan pertempuran pun terjadi di daerah ini. Yang kemudian kita kenal dengan peristiwa perang siffin. Peperangan ini diakhiri dengan Arbitrase, tetapi hal itu tidak menyelesaikan masalah. Malah menimbulkan pihak ketiga. Yaitu Al- Khawarij yakni orang yang keluar dari golongan Ali. Dengan munculnya kelompok Al- Khawarij, menjadikan tentara Ali semakin lemah. Sementara posisi mu’awayah semakin kuat. Dan pada tanggal 20 Ramadhan 40 H (660 M) Ali terbunuh oleh salah seorang dari golongan khawarij.
 Dalam suatu kisah diceritakan bahwa kematian khalifah di akibatkan oleh pukulan pedang beracun Abdurrahman Ibn Muljam, sebagaimana yang dijelaskan oleh Philip K. Hitty, bahwa: “ pada tanggal 24 januari 661 M, ketika Ali sedang dalam perjalanan menuju masjid kuffah ia terkena hantaman pedang beracun di dahinya. Pedang yang mengenai otaknya tersebut di ayunkan oleh seorang pengikut khawarij, Abd Ar-Rahman Ibn Muljam, yang ingin membalas dendam atas kematian keluarga seorang wanita temanya yang terbunuh di Nahrawan. Tempat terpencil di kuffah yang menjadi makam Ali, kini masyhad Ali di Najaf, berkembang menjadi salah satu pusat ziarah terbesar dalam agama islam[11].
Sebelum Kholifah Ali bin Abi Tholib meninggal dunia, beliau masih sempat berwasiat kepada kedua putera beliau, yaitu Hasan dan husain sebagai berikut:
1)      hendaklah kamu bertaqwa kepada Alloh
2)       Jangan kamu pentingkan dunia dan jangan kamu tangisi apa yang hilang di dunia ini;
3)      Kasihanilah dan bantulah anak yatim;
4)       Bantulah orang yang teraniaya;
5)      Berkatalah yang haq walaupun sebagai akibatnya, kamu akan mendapatkan celaan;
6)      Beramallah menurut al-Qur’an;
7)      Kerjakan Sholat pada waktunya;
8)      Bayarlah zakat bilamana datang waktunya;
9)      Berwudhulah dengan sempurna karena tidak sah sholat tanpa berwudhu;
10)  Hendaklah engkau selalu meminta ampun kepada Alloh SWT;
11)   Tahanlah amarahmu;
12)  Hendaklah hubungkan kasih sayang/silaturrohmi;
13)  Ajarkan kaum Muslimin beragama;