अप्रैल 6 (ग्रीस में तब उपयोग होने वाले जूलियन कैलेंडर के अनुसार मार्च 25) के दिन पहले ओलम्पियाड के खेलों का आधिकारिक तौर पर उद्घाटन हुआ था; यह दोनों पश्चिमी और पूर्वी ईसाई चर्चों के लिए ईस्टर सोमवार और ग्रीस की आज़ादी की वर्षगांठ का दिन था। पानाथिनाइको स्टेडियम ग्रीस के राजा जॉर्ज प्रथम, उनकी पत्नी ओल्गा और उनके बेटों सहित अनुमानित 80,000 दर्शकों से भरा हुआ था। अधिकांश प्रतिस्पर्धी मैदान पर अपनी राष्ट्रीयता के अनुसार समूहीकृत करके संरेखित किए गए थे। आयोजन समिति के अध्यक्ष, युवराज कॉन्स्टैन्टाइन, के भाषण के बाद, उनके पिता ने आधिकारिक तौर पर खेलों का उद्घाटन किया:
"मैं एथेंस में पहले अंतर्राष्ट्रीय ओलम्पिक खेलों के उद्घाटन की घोषणा करता हूँ। राष्ट्र की जय हो, यूनानी लोगों की जय हो।"

इसके पश्चात्, नौ बैंडो और 150 कोरस गायकों ने ओलम्पिक गीत पर कृत्य पेश की, जिसके रचयिता थे स्पिरिडिन सेमरस और बोल दिये थे कोसटिस पैलेमस ने। 1960 से पहले के ओलम्पिक खेलों में विभिन्न प्रकार की संगीतमय संरचनाओं ने उद्घाटन समारोह के लिए पृष्ठभूमि प्रदान की थी, परन्तु 1960 के खेलों से सेमरस/पैलेमस की रचना को, 1958 में आईओसी सत्र द्वारा लिए गए निर्णय के पश्चात्, आधिकारिक ओलम्पिक गान बना दिया गया था। मौजूदा ओलम्पिक उद्घाटन समारोह के अन्य तत्वों को बाद में शुरू किया गया: ओलम्पिक ज्वाला सबसे पहले 1928 में जलाई गई थी, 1920 के ग्रीष्मकालीन ओलम्पिक में पहली बार एथलीटों को शपथ दिलाई गई थी और पहली अधिकारियों की शपथ 1972 के ओलम्पिक खेलों में ली गई।

संगठन
खेलों का पुनर्जन्म
प्रतिस्पर्धाएँ
उद्घाटन समारोह