श्री अंसारी का जन्म पश्चिम बंगाल की राजधानी कोलकाता में 1 अप्रैल 1937 को हुआ था। उनकी शिक्षा-दीक्षा सेंट एडवर्डस हाई-स्कूल शिमला, सेंट जेवियर्स महाविद्यालय कोलकाता और अलीगढ मुस्लिम विश्वविद्यालय में हुई।

श्री अंसारी ने अपने कैरियर की शुरुआत भारतीय विदेश सेवा के एक नौकरशाह के रूप में 1961 में की थी जब उन्हें संयुक्त राष्ट्र संघ में भारत का स्थायी प्रतिनिधि नियुक्त किया गया था। वे आस्ट्रेलिया में भारत के उच्चायुक्त भी रहे। बाद में उन्होंने अफगानिस्तान, संयुक्त अरब अमीरात, तथा ईरान में भारत के राजदूत के तौर पर भी काम किय। 1984 में उन्हें पद्मश्री पुरस्कार से भी सम्मानित किया गया।. वे मई सन 2000 से मार्च 2004 तक अलीगढ मुस्लिम विश्वविद्यालय के उपकुलपति भी रहे। उन्हें सन गुजरत दंगों के पीड़ितों को मुआवजा दिलाने और सदभाव्ना के लिए उनकी भूमिका के लिए भी सराहा जाता है।

प्रारंभिक जीवन एवं कैरियर
2007 के उपराष्ट्रपति चुनाव
अल्पसंख्यक आयोग में उनका कार्य
विवाद