इसका उद्गम स्पष्ट नहीं है। दक्षिण भारत में, हीरों से जुड़ी कई कहानियां रहीं हैं, परन्तु कौन सी इसकी है, कहना मुश्किल है।

कई स्रोतों के अनुसार, कोहिनूर हीरा, लगभग ५००० वर्ष पहले, मिला था और यह प्राचीन संस्कृत इतिहास में लिखे अनुसार स्यमंतक मणि नाम से प्रसिद्ध रहा था। हिन्दू कथाओं के अनुसार, भगवान श्रीकृष्ण ने स्वयं यह मणि, जाम्वंत से ली थी, जिसकी पुत्री जामवंती ने बाद में श्री कृष्ण से विवाह भी किया था। जब जाम्वंत सो रहे थे, तब श्रीकृष्ण ने यह मणि चुरा ली थी। एक अन्य कथा अनुसार, यह हीरा नदी की तली में मिला था, लगभग ३२०० ई.पू.।

ऐतिहासिक प्रमाणों के अनुसार, यह गोलकुंडा की खान से निकला था, जो आंध्र प्रदेश में, विश्व की सवसे प्राचीन खानों में से एक हैं। सन १७३० तक यह विश्व का एकमात्र हीरा उत्पादक क्षेत्र ज्ञात था। इसके बाद ब्राजील में हीरों की खोज हुई। शब्द गोलकुण्डा हीरा, अत्यधिक श्वेत वर्ण, स्पष्टता व उच्च कोटि की पारदर्शिता हे लिये प्रयोग की जाती रही है। यह अत्यधिक दुर्लभ, अतः कीमती होते हैं।

इस हीरे के बारे में, दक्षिण भारतीय कथा, कुछ पुख्ता लगती है। यह सम्भव है, कि हीरा, आंध्र प्रदेश की कोल्लर खान, जो वर्तमान में गुंटूर जिला में है, वहां निकला था। दिल्ली सल्तनत में खिलजी वंश का अंत १३२० में होने के बाद गियासुद्दीन तुगलक ने गद्दी संभाली थी। उसने अपने पुत्र उलुघ खान को १३२३ में काकातीय वंश के राजा प्रतापरुद्र को हराने भेजा था। इस हमले को कड़ी टक्कर मिली, परन्तु उलूघ खान एक बड़ी सेना के साथ फिर लौटा। इसके लिये अनपेक्षित राजा, वारंगल के युद्ध में हार गया। तब वारंगल की लूट-पाट, तोड़-फोड़ व हत्या-काण्ड महीनों चली। सोने-चांदी व हाथी-दांत की बहुतायत मिली, जो कि हाथियों, घोड़ों व ऊंटों पर दिल्ली ले जाया गया। कोहिनूर हीरा भी उस लूट का भाग था। यहीं से, यह हीरा दिल्ली सल्तनत के उत्तराधिकारियों के हाथों से मुगल सम्राट बाबर के हाथ १५२६ में लगा।

इस हीरे की प्रथम दृष्टया पक्की टिप्पणी यहीं सन १५२६ से मिलती है। बाबर ने अपने बाबरनामा में लिखा है, कि यह हीरा १२९४ में मालवा के एक (अनामी) राजा का था। बाबर ने इसका मूल्य यह आंका, कि पूरे संसार को दो दिनों तक पेट भर सके, इतना महंगा। बाबरनामा में दिया है, कि किस प्रकार मालवा के राजा को जबरदस्ती यह विरासत अलाउद्दीन खिलजी को देने पर मजबूर किया गया। उसके बाद यह दिल्ली सल्तनत के उत्तराधिकारियों द्वारा आगे बढ़ाया गया और अन्ततः १५२६ में, बाबर की जीत पर उसे प्राप्त हुआ। हालांकि बाबरनामा १५२६-३० में लिखा गया था, परन्तु इसके स्रोत ज्ञात नहीं हैं। उसने इस हीरे को सर्वदा इसके वर्तमान नाम से नहीं पुकारा है। बल्कि एक विवाद के बाद यह निष्कर्ष निकला कि बाबर का हीरा ही बाद में कोहिनूर कहलाया।

बाबर एवं हुमायुं, दोनों ने ही अपनी आत्मकथाओं में, बाबर के हीरे के उद्गम के बारे में लिखा है। यह हीरा पहले ग्वालियर के कछवाहा शासकों के पास था, जिनसे यह तोमर राजाओं के पास पहुंचा। अंतिम तोमर विक्रमादित्य को सिकन्दर लोदी ने हराया, व अपने अधीन किया, तथा अपने साथ दिल्ली में ही बंदी बना कर रखा। लोधी की मुगलों से हार के बाद, मुगलों ने उसकी सम्पत्ति लूटी, किन्तु राजकुमार हुमायुं ने मध्यस्थता करके उसकी सम्पत्ति वापस दिलवा दी, बल्कि उसे छुड़वा कर, मेवाड, चित्तौड़ में पनाह लेने दिया। हुमायुं की इस भलाई के बदले विक्रमादित्य ने अपना एक बहुमूल्य हीरा, जो शायद कोहिनूर ही था, हुमायुं को साभार दे दिया। परन्तु हुमायुं का जीवन अति दुर्भाग्यपूर्ण रहा। वह शेरशाह सूरी से हार गया। सूरी भी एक तोप के गोले से जल कर मर गया। उसका पुत्र व उत्तराधिकारी जलाल खान अपने साले द्वारा हत्या को प्राप्त हुआ। उस साले को भी उसके एक मंत्री ने तख्तापलट कर हटा दिया। वह मंत्री भी एक युद्ध को जीतते जीतते आंख में चोट लग जाने के कारण हार गया, व स्ल्तनत खो बैठा। हुमायुं के पुत्र अकबर ने यह रत्न कभी अपने पास नहीं रखा, जो कि बाद में सीधे शाहजहां के खजाने में ही पहुंचा। शाहजहां भी अपने बेटे औरंगज़ेब द्वारा तख्तापलट कर बंदी बनाया गया, जिसने अपने अन्य तीन भाइयों की हत्या भी की थी।

उद्गम व आरम्भिक इतिहास
कोहिनूर हीरा काटना
भारत वापसी प्रयास
प्रचलित मीडिया में कोहिनूर