चूँकि नेहरू प्रधानमन्त्री होने के साथ-साथ विदेश मन्त्री भी थे, अतः कार्य की अधिकता होने के कारण यह सोचा गया कि विदेश विभाग के कार्य को देखने के लिये एक योग्य व्यक्ति को नियुक्त किया जाये जो उन्हें सही परामर्श दे सके। 1947 से 1964 तक (एक वर्ष 1952 को छोड़) विदेश विभाग का कार्य भार एक महासचिव (Secretary General) सर गिरिजा शंकर वाजपेयी पर था। नेहरू का इन पर अटूट विश्वास था और वे इनसे निरन्तर परामर्श लेते रहते थे। 1964 में प्रधानमन्त्री लाल बहादुर शास्त्री द्वारा सरदार स्वर्णसिंह के विदेशमन्त्री नियुक्त कर देने पर यह सोचा गया कि अब महासचिव की आवश्यकता नहीं है, अतः यह पद समाप्त कर दिया गया। विदेश सचिव ही विभाग का सर्वोच्च अधिकारी माना जाता है।

महासचिव
हिन्दी में कार्य
भारतीय विदेश मन्त्रालय का संगठन
विदेश मन्त्री