नौशाद द्वारा सुरबद्ध गीत "तेरा खिलौना टूटा" (फ़िल्म "अनमोल घड़ी", 1946) से रफ़ी को प्रथम बार हिन्दी जगत में ख्याति मिली। इसके बाद "शहीद", "मेला" तथा "दुलारी" में भी रफ़ी ने गाने गाए जो बहुत प्रसिद्ध हुए। 1951 में जब नौशाद फ़िल्म "बैजू बावरा" के लिए गाने बना रहे थे तो उन्होने अपने पसंदीदा गायक तलत महमूद से गवाने की सोची थी। कहा जाता है कि उन्होने एक बार तलत महमूद को धूम्रपान करते देखकर अपना मन बदल लिया और रफ़ी से गाने को कहा। "बैजू बावरा" के गानों ने रफ़ी को मुख्यधारा गायक के रूप में स्थापित किया। इसके बाद नौशाद ने रफ़ी को अपने निर्देशन में कई गीत गाने को दिए। लगभग इसी समय संगीतकार जोड़ी शंकर-जयकिशन को उनकी आवाज पसंद आयी और उन्होंने भी रफ़ी से गाने गवाना आरंभ किया। शंकर जयकिशन उस समय राज कपूर के पसंदीदा संगीतकार थे, पर राज कपूर अपने लिए सिर्फ मुकेश की आवाज पसन्द करते थे। बाद में जब शंकर जयकिशन के गानों की मांग बढ़ी तो उन्होंने लगभग हर जगह रफ़ी साहब का प्रयोग किया। यहाँ तक की कई बार राज कपूर के लिए रफी साहब ने गाया। जल्द ही संगीतकार सचिन देव बर्मन तथा उल्लेखनीय रूप से ओ पी नैय्यर को रफ़ी की आवाज़ बहुत रास आयी और उन्होने रफ़ी से गवाना आरंभ किया। ओ पी नैय्यर का नाम इसमें स्मरणीय रहेगा क्योंकि उन्होने अपने निराले अंदाज में रफ़ी-आशा की जोड़ी का काफी प्रयोग किया और उनकी खनकती धुनें आज भी उस जमाने के अन्य संगीतकारों से अलग प्रतीत होती हैं। उनके निर्देशन में गाए गानो से रफ़ी को बहुत ख्याति मिली और फिर रवि, मदन मोहन, गुलाम हैदर, जयदेव, सलिल चौधरी इत्यादि संगीतकारों की पहली पसंद रफ़ी साहब बन गए।

दिलीप कुमार, भारत भूषण तथा देवानंद जैसे कलाकारों के लिए गाने के बाद उनके गानों पर अभिनय करने वालो कलाकारों की सूची बढ़ती गई। शम्मी कपूर, राजेन्द्र कुमार, जॉय मुखर्जी, विश्वजीत, राजेश खन्ना, धर्मेन्द्र इत्यादि कलाकारों के लिए रफ़ी की आवाज पृष्ठभूमि में गूंजने लगी। शम्मी कपूर तो रफ़ी की आवाज से इतने प्रभावित हुए कि उन्होने अपने हर गाने में रफ़ी का इस्तेमाल किया। उनके लिए संगीत कभी ओ पी नैय्यर ने दिया तो कभी शंकर जयकिशन ने पर आवाज रफ़ी की ही रही। "चाहे कोई मुझे जंगली कहे" ("जंगली"), "एहसान तेरा होगा मुझपर" ("जंगली"), "ये चांद सा रोशन चेहरा" ("कश्मीर की कली"), "दीवाना हुआ बादल" (आशा भोंसले के साथ, "कश्मीर की कली") शम्मी कपूर के ऊपर फिल्माए गए लोकप्रिय गानों में शामिल हैं। धीरे-धीरे इनकी ख्याति इतनी बढ़ गयी कि अभिनेता इन्हीं से गाना गवाने का आग्रह करने लगे। राजेन्द्र कुमार, दिलीप कुमार और धर्मेन्द्र तो मानते ही नहीं थे कि कोई और गायक उनके लिए गाए।।

ख्याति
गायन सफर
व्यक्तिगत जीवन
आरंभिक दिन