मुहम्मद के ससुर अबु बक्र सिद्दीक़ र.अ. मुसलमानों के पहले खलीफा (सरदार) ६३२ में बनाये गये। कई प्रमुख मुसलमानों ने मिल के उनका खलीफा होना स्वीकार किया। सुन्नी मुसलमानों (80-90%) के अनुसार अबु बक्र सिद्दीक की खिलाफ़त के सम्बंध में कोई विवाद नहीं हुआ अपितु सभी ने उन्हे खलिफ़ा स्वीकार कर लिया था, सुन्नी मान्यताओं के अनुसार हजरत मुहम्मद साहब ने स्वयं अपने स्वर्गवास से पूर्व ही अबु बक्र सिद्दीक को अपने स्थान पर इमामत करने सलात (फ़ारसी में "नमाज") पढ़ाने का कार्य भार देकर अबु बक्र सिद्दीक के खलिफ़ा होने का संकेत दे दिया था । सन् ६३२ में मुहम्म्द साहब ने अपने आखिरी हज में ख़ुम्म सरोवर के निकट अपने साथियों को संबोधित किया था। शिया विश्वास के अनुसार इस ख़िताब में उन्होंने अपने दामाद अली को अपना वारिस बनाया था। सुन्नी इस घटना को हजरत अली (अल्०) की प्रशंसा मात्र मानते है और विश्वास रखते हैं कि उन्होंने हज़रत अली को ख़लीफ़ा नियुक्त नहीं किया। इसी बात को लेकर दोनो पक्षों में मतभेद शुरु होता है।

हज के बाद मुहम्मद साहब (स्०) बीमार रहने लगे। उन्होंने सभी बड़े सहाबियों को बुला कर कहा कि मुझे कलम दावात दे दो कि में तुमको एसा नविश्ता लिख दूँ कि तुम भटको नहीं तो उमर ने कहा कि ये हिजयान कह रहे हे और नहीं देने दिया (देखे बुखारी, मुस्लिम)। शिया इतिहास के अनुसार जब पैग़म्बर साहब की मृत्यु का समाचार मिला तो भी ये वापस न आकर सकिफा में सभा करने लगे कि अब क्या करना चाहिये। जिस समय हज़रत मुहम्मद (स्०) की मृत्यु हुई, अली और उनके कुछ और मित्र मुहम्मद साहब (स्०) को दफ़नाने में लगे थे, अबु बक़र मदीना में जाकर ख़िलाफ़त के लिए विमर्श कर रहे थे। मदीना के कई लोग (मुख्यत: बनी ओमैया, बनी असद इत्यादि कबीले) अबु बकर को खलीफा बनाने प‍र सहमत हो गये। ध्यान रहे कि मोहम्मद साहेब एवम अली के कबीले वाले यानि बनी हाशिम अली को ही खलीफा बनाना चाहते थे। पर इस्लाम के अब तक के सबसे बड़े साम्राज्य (उस समय तक संपूर्ण अरबी प्रायद्वीप में फैला) के वारिस के लिए मुसलमानों में एकजुटता नहीं रही। कई लोगों के अनुसार अली, जो मुहम्मद साहब के चचेरे भाई थे और दामाद भी (क्योंकि उन्होंने मुहम्मद साहब की संतान फ़ातिमा से शादी की थी) ही मुहम्मद साहब के असली वारिस थे। परन्तु अबु बक़र पहले खलीफा बनाये गये और उनके मरने के बाद उमर को ख़लीफ़ा बनाया गया। इससे अली (अल्०) के समर्थक लोगों में और भी रोष फैला परन्तु अली मुसलमानों की भलाई के लिये चुप रहे। परन्तु शिया मुस्लिम (10-20%)के अनुसार मुहम्मद के चाचा जाद भाई, अली, जिन का मुसलमान बहुत आदर करते थे ने अबु बक्र को खलीफा मानने से इन्कार कर दिया। लेकिन यह विवाद इस्लाम की तबाही को रोक्ने के लिए वास्तव में हज़रत अली की सूझ बुझ के कारण टल गया अबु बक्र के कार्यकाल में पूर्वी रोमन साम्राज्य और ईरानी साम्राज्य से मुसलमान फौजों की लड़ाई हूई। यह युद्ध मुहम्मद के ज़माने से चली आ रही दुश्मनी का हिस्सा थे। अबु बक्र के बाद उमर बिन खत्ताब को ६३४ में खलीफा बनाया गया। उनके कार्यकाल में इस्लामी साम्राज्य बहुत तेज़ी से फैला और समपूर्ण ईरानी साम्राज्य और दो तिहाई पूर्वी रोमन साम्राज्य पर मुसलमानों ने कबजा कर लिया। पूरे साम्राज्य को विभिन्न प्रदेशों में बाट दिया गया और और हर प्रदेश का एक राज्यपाल नियुक्त कर दिया गया जो की खलीफा का अधीन होता था।

उमर बिन खत्ताब के बाद उसमान बिन अफ्फान ६४४ में खलीफा बने। यह भी मुहम्मद के प्रमुख साथियों में से थे। उसमान बिन अफ्फान पर उनके विरोधियों ने ये आरोप लगाने शुरु किये कि वो पक्षपात से नियुक्तियाँ करते हैं और अली (मुहम्मद साहिब के चाचा जाद भाई) ही खलीफा होने के सही हकदार हैं। तभी मिस्र में विद्रोह की भावना जागने लगी और वहाँ से १००० लोगों का एक सशस्त्र समूह इस्लामी साम्राज्य की राजधानी मदीना आ गया। उस समय तक सभी खलीफा आम लोगों की तरह ही रहते थे। इस लिये यह समूह ६५६ में उसमान की हत्या करने में सफल हो गया। कुछ प्रमुख मुसलमानों ने अब अली को खलीफा स्वीकार कर लिया लेकिन कुछ प्रमुख मुसलमानों का दल अली के खिलाफ भी हो गया। इन मुसलमानों का मानना था की जबतक उसमान के हत्यारों को सज़ा नहीँ मिलती अली का खलीफा बनना सही नहीं है। यह इस्लाम का पहला गृहयुद्ध था। शुरु में इस दल के एक हिस्से की अगुआई आयशा, जो की मुहम्मद की पत्नी थी, कर रही थीं। अली और आश्या की सेनाओं के बीच में जंग हुई जिसे जंग-ए-जमल कहते हैं। इस जंग में अली की सेना विजय हुई। अब सीरिया के राज्यपाल मुआविया ने विद्रोह का बिगुल बजाया। मुआविया उसमान के रिश्तेदार भी थे मुआविया की सेना और अली की सेना के बीच में जंग हूई पर कोई परिणाम नहीं निकला। अली ने साम्राज्य में फैली अशांति पर काबू पाने के लिये राजधानी मदीना से कूफा में (जो अभी ईराक़ में है) पहले ही बदल दी थी। मुआविया की सेनाऐं अब पूरे इस्लामी साम्राज्य में फैल गयीं और जल्द ही कूफा के प्रदेश के सिवाये सारे साम्राज्य पर मुआविया का कब्जा हो गया। तभी एक कट्टरपंथी ने ६६१ में अली की हत्या कर दी।

देवदूत
धार्मिक ग्रन्थ
(तक़दीर)
राशिदून खलीफा और गृहयुद्ध