"दी क्लाउड" टेलीफोनी से लिया गया एक शब्द है। 1990 के दशक तक, डेटा सर्किट (इनमें वो भी शामिल हैं जो इंटरनेट ट्रैफिक का वहन करते थे) गंतव्य स्थानों के बीच सख्त तारों से युक्त थे। बाद में, लंबे समय से चली आ रही टेलीफोन कंपनियों ने डेटा संचार के लिए वर्चुअल प्राइवेट नेटवर्क (VPN) सेवा की पेशकश करना शुरू किया। टेलीफोन कम्पनियां समान गारंटी युक्त बैंडविड्थ के साथ कम लागत पर एक निर्धारित परिपथ के रूप में VPN आधारित सेवाएं पेश करने में सक्षम थी। क्योंकि वे उपयोगिता को संतुलित करने के लिए ट्रैफिक को बदल सकती थीं, इस प्रकार से उन्होंने अपने समग्र नेटवर्क बैंड विड्थ को अधिक प्रभावी तरीके से काम में लिया। 

इस व्यवस्था के परिणाम स्वरुप, उपयुक्त तरीके से यह निर्धारित करना असंभव था कि ट्रेफिक को कौन से मार्ग पर भेजा जाये. 
इस प्रकार की नेट्वर्किंग का वर्णन करने के लिए शब्द "टेलीकोम क्लाउड" का उपयोग किया जाता था और क्लाउड कम्प्यूटिंग अवधारणात्मक रूप से कुछ मिलती जुलती है। 

क्लाउड कंप्यूटिंग वर्चुअल मशीनों (VMs) पर बहुत अधिक भरोसा करती है, जो उपयोगकर्ता की आवश्यकताओं को पूरा करने के लिए मांग पर उत्पन्न हुई हैं। 
क्योंकि ये आभासी उदाहरण मांग पर उत्पन्न हुए हैं, यह निर्धारित करना असम्भव है कि एक दिए गए समय में ऐसे कितने VMs चलेंगे.

चूंकि परिस्थिति की मांग के अनुसार VMs को किसी भी दिए गए कंप्यूटर पर उत्पन्न किया जा सकता है, साथ ही वे विशिष्ट स्थान पर स्थित होते हैं, यह स्थिति क्लाउड नेटवर्क से अधिक मिलती है। 

नेटवर्क आरेख में एक सामान्य वर्णन है एक क्लाउड का चित्रण.
क्लाउड कंप्यूटिंग की बुनियादी अवधारणा 1960 में आयी, जब जॉन मेककेर्थी ने राय दी कि "कम्प्यूटेशन को किसी दिन एक सार्वजनिक उपयोगिता के रूप में संगठित किय जा सकता है"; वास्तव में सर्विस ब्यूरो के साथ लक्षणों का साझा करती है जो 1960 में आये थे। 

शब्द "क्लाउड" पहले से ही 1990 के दशक के प्रारंभ में व्यावसायिक उपयोग में आ गया था, इसका उपयोग अतुल्यकालिक अंतरण विधा" " (ATM) नेटवर्क का उल्लेख करने के लिए किया जाता था।दुर्भाग्य पूर्ण तरीके से शुरू हुई जनरल मेजिक ने 1995 में कई दूरसंचार कंपनी सहयोगियों जैसे AT&T, की भागीदारी में एक कम आयु का क्लाउड कम्प्यूटिंग उत्पाद शुरू किया, इसे उपभोक्ता उन्मुख इंटरनेट के लोकप्रिय होने से ठीक पहले शुरू किया गया। 

21 वीं शताब्दी के अंत तक, शब्द "क्लाउड कंप्यूटिंग" अधिक व्यापक रूप से प्रकट होने लगा, यद्यपि उस समय अधिकांश ध्यान SaaS तक सीमित था।

1999 में, Salesforce.com की स्थापना मार्क बेनिओफ़, पारकर हेरिस और उनके सहयोगियों के द्वारा की गयी। 

उन्होंने गूगल और याहू! जैसी कम्पनियों के द्वारा विकसित कई तकनीकों को व्यावसायिक अनुप्रयोगों पर लागू किया। 

उन्होंने अपने वास्तविक और सफल ग्राहकों के साथ SaaS और "मांग पर" की अवधारणा भी प्रदान की. SaaS के बारे में महत्वपूर्ण बात यह है कि इसे सीमित तकनीकी सहायता की आवश्यकता के साथ ग्राहकों द्वारा अनुकूलित किया जा सकता है। 

2000 के दशक के प्रारंभ में, माइक्रोसॉफ्ट ने वेब सेवाओं के विकास के माध्यम से Saas की अवधारणा को विस्तृत किया। IBM (आईबीएम) ने 2001 में ऑटोनोमिक कम्प्यूटिंग घोषणा पत्र में इन अवधारणाओं का विवरण दिया, जिसने विषमांगी भंडारण, सर्वर, अनुप्रयोग, नेटवर्क, सुरक्षा तंत्र और ऐसे अन्य तत्वों के साथ जटिल IT (सूचना प्रोद्योगिकी) प्रणाली के प्रबंधन में उन्नत ऑटोमेशन तकनीकों जैसे स्व-नियंत्रण, स्व-चिकित्सा, स्व-विन्यास और स्व-अनुकूलन का वर्णन किया जिन्हें एक उद्यम में आभासीकृत किया जा सकता है। . 
एमैज़ोन(Amazon) ने नयी क्लाउड सरंचना के परिणाम स्वरुप महत्वपूर्ण आंतरिक प्रभाविता सुधार पाए जाने और डॉट-कोम बबल के बाद अपने डाटा केन्द्रों के आधुनिकीकरण के द्वारा क्लाउड कम्प्यूटिंग के विकास में महत्वपूर्ण भुमिका निभायी, इसके लिए उसने एक यूटिलिटी कम्प्यूटिंग आधार पर 2005 में अमेजन वेब सेवाओ के माध्यम से अपने सिस्टम उपलब्ध कराये. 

2007 में, गूगल, आईबीएम (IBM) और कई विश्वविद्यालयों ने बड़े पैमाने पर "क्लाउड कम्प्यूटिंग" अनुसन्धान परियोजना शुरू की, समय के साथ और टर्म के शुरू होने के बाद यह एक जाना माना विषय बन गया।

2008 के मध्य तक, क्लाउड कंप्यूटिंग को मुख्यधारा प्रेस में लोकप्रियता हासिल हुई और कई संबंधित घटनायें हुईं.
अगस्त 2008 में, गार्टनर के अनुसंधान ने प्रेक्षित किया कि "संगठन कम्पनी-स्वामित्व हार्डवेयर और सॉफ्टवेयर आस्तियों से प्रति-उपयोग सेवा-आधारित मॉडलों की ओर रुख कर रहे हैं" और यह पाया कि "क्लाउड कम्प्यूटिंग की दिशा में नियोजित स्थानान्तरण के परिणामस्वरूप कुछ क्षेत्रों में IT उत्पादों में बहुत अधिक वृद्धि होगी ओर अन्य क्षेत्रों में बहुत कमी आयेगी." 
कंपनियां
उपयोगकर्ता
इतिहास
प्रकार