जोएल का जन्म द ब्रोंक्स, न्यूयॉर्क में हुआ और न्यूयॉर्क के हिक्सविले के लेविटन अनुभाग में वे बड़े हुए. उनके पिता, हावर्ड (जन्म के समय हेल्मुथ), कार्ल अम्सन जोएल नामक जर्मन-यहूदी व्यापारी और निर्माता के पुत्र थे, जो नाज़ी शासन के आने के बाद स्विट्जरलैंड चले गये और बाद में संयुक्त राज्य अमेरिका चले आये। बिली जोएल की मां, रोजालिंड नीमैन का जन्म इंग्लैंड के एक यहूदी परिवार (फिलिप और रेबेका नीमैन) में हुआ था। उनके माता-पिता का 1960 में तलाक हो गया और उनके पिता वियना, ऑस्ट्रिया चले गए। बिली की एक बहन है, जुडिथ जोएल और एक सौतेला भाई है, अलेक्जेंडर जोएल, जो यूरोप का एक प्रशंसित शास्त्रीय संगीतकार है, जो फिलहाल स्ट्राट्सथिएटर ब्राउनश्विक का प्रमुख संगीत निर्देशक है।

जोएल के पिता एक निपुण शास्त्रीय पियानोवादक थे। बिली ने अपनी मां के आग्रह पर अनिच्छा से कम उम्र में पियानो सीखना शुरू किया; उनके गुरुओं में विख्यात अमेरिकी पियानोवादक मोर्टन एसट्रिन और संगीतकार/गीतकार टिमोथी फोर्ड शामिल हैं। खेल के बजाय संगीत में उनकी रुचि के कारण शुरुआत में उन्हें चिढ़ाया जाता और बदमाशियां की जाती थी। (उन्होंने एक साक्षात्कार में कहा है कि उनकी पियानो प्रशिक्षक उन्हें बैले भी सिखाया करती थीं। उनका नाम फ्रांसिस नेइमैन था और वे एक जुलियार्ड प्रशिक्षित संगीतकार थीं। वे अपने घर के पीछे स्थित स्टूडियो में शास्त्रीय पियानो और बैले सिखाया करतीं, इससे पड़ोस के बदमाशों को लगा कि वे नृत्य सीख रहे हैं)। एक किशोर के रूप में, जोएल ने आत्मरक्षा में सक्षम होने के लिए मुक्केबाजी सीखनी शुरू की। कम समय में ही उन्होंने गैर-पेशेवर गोल्डेन ग्लोव्स दौर में सफलतापूर्वक मुक्केबाजी की, बाईस प्रतियोगिताएं जीती, लेकिन अपना चौबीसवां मैच खेलते समय उनकी नाक टूट जाने के कारण उन्होंने जल्द ही खेल छोड़ दिया। 

जोएल हिक्सविले हाई स्कूल (Hicksville High School) में 1967 की कक्षा में भर्ती हुए. पत्रकार बिल ओ'रेली दरअसल जोएल के साथ उनके करीब ही बड़े हुए. यस नेटवर्क के शो "सेंटरस्टेज" (CenterStage) में माइकल के साथ एक साक्षात्कार में ओ'रेली ने कहा कि जोएल "हिक्सविले अनुभाग में था - मेरी ही उम्र का - और वह उग्र था। वह इस तरह (अपने बाल) पीछे की ओर किया करता था। और हम उसे जानते थे, क्योंकि उसके दोस्त धूम्रपान किया करते थे और यह और वह सब किया करते और हमारे पास और भी जोक्स (jocks) थे।" हालांकि जोएल ने हिक्सविले से स्नातक नहीं किया। पियानो बार में काम करने के कारण स्नातक के लिए आवश्यक अंग्रेजी विषय की कमी रह गयी; संगीतकारों की देर रात वाली जीवनशैली की वजह से एक महत्वपूर्ण परीक्षा के दिन वे देर से उठे. उन्होंने डिप्लोमा लिए बिना ही हाई स्कूल छोड़ दिया और संगीत में कैरियर शुरू किया। "मैंने उनसे कहा, 'भांड में जाय. अगर मैं कोलंबिया युनि‍वर्सिटी नहीं जा रहा हूं, तो क्या, मैं कोलंबिया रिकार्डस जा रहा हूं और वहां आपको किसी हाई स्कूल डिप्लोमा की जरूरत नहीं पडती'." कोलंबिया, जो वास्तव में एक लेबल बन चुका था, ने अंततः उन्हें अनुबंधित कर लिया। 1992 में, उन्होंने स्कूल बोर्ड में अपने निबंध जमा किये और उनके स्कूल छोड़ने के 25 वर्ष बाद हिक्सविले हाई स्कूल के वार्षिक स्नातक समारोह में उन्हें डिप्लोमा से सम्मानित किया गया।

पुरस्कार और उपलब्धियां
प्रारंभिक जीवन
प्रभाव
राजनीति