भारतीय सेना की उत्पत्ति 1857 के भारतीय विद्रोह के के बाद के सालों में हुई, जब 1858 में ताज ने ईस्ट इण्डिया कम्पनी से सीधे ब्रिटिश भारत के प्रत्यक्ष शासन पर टेक ओवर कर लिया। 
1858 से पहले, भारतीय सेना की अग्रदूत इकाइयां कम्पनी के द्वारा नियंत्रित इकाइयां थीं, जिन्हें उनकी सेवाओं के लिए शुल्क का भुगतान किया जाता था। 
ये साथ ही ब्रिटिश सेना की इकाइयों का भी संचालन करती थीं, इनका वित्त पोषण भी लन्दन में ब्रिटिश सरकार के द्वारा किया जाता था।
प्राथमिक रूप से ईस्ट इण्डिया कम्पनी की सेनाओं में बंगाल प्रेसिडेंसी के मुसलमानों को भर्ती किया गया था, जिसमें बंगाल, बिहार और उत्तर प्रदेश के मुस्लिम शामिल थे, तथा उंची जाति के हिन्दुओं को अवध के ग्रामीण मैदानों से भर्ती किया गया। 
इनमें से कई सैन्य दलों ने भारतीय विद्रोह में हिस्सा लिया, जिसका उद्देश्य था दिल्ली में मुग़ल सम्राट बहादुर शाह द्वितीय को फिर से उसके सिंहासन पर बैठाना. आंशिक रूप से ऐसा ब्रिटिश अधिकारियों के असंवेदनशील व्यवहार के कारण हुआ था।
विद्रोह के बाद, विशेष रूप से राजपूतों, सिक्खों, गौरखाओं, पाश्तुनों, गढ़वालियों, अहीरों, मोहयालों, डोगरों, जाटों और बालुचियों में से सैनिकों की भर्ती पर स्विच किया गया। ब्रिटिश के द्वारा इन जातियों को "लड़ाकू जातियां" कहा जाता था।

शब्द "भारतीय सेना" का अर्थ समय के साथ बदल गया:

कर्मचारी
संगठन
द्वितीय विश्व युद्ध के बाद
भारतीय सेना का संचालन इतिहास