فکر تأسیس یک بانک جدید، با سرمایه و مدیریت ایرانی، قبل از انقلاب مشروطیت، یعنی ده سال قبل از تأسیس بانک شاهی ایران، به وجود آمد. در این زمان «حاج محمد حسین» که از صرافان بزرگ بود، پیشنهاد تأسیس بانکی با سرمایه مشترک دولت ایران و مردم را به ناصرالدین شاه ارائه داد، اما طرح مورد موافقت قرار نگرفت. پس از استقرار مشروطیت، نمایندگان اولین دوره مجلس، تأسیس بانک ملی را خواستار شدند، اما سرمایه لازم فراهم نیامد. در آغاز سال 1304ش. که هنوز آرامش در سراسر کشور و فعالیت‌های عمومی در شئون مختلف اجتماعی محسوس نشده بود و تأثیر شگرف عوامل اقتصادی و بازرگانی در حیات سیاسی مملکت نمودی نداشت، اولین بانک ایرانی به نام «بانک پهلوی قشون»، از محل وجوه بازنشستگی نظامیان و برای سامان دادن به امور مالی ارتش، با سرمایه 950/883/3 ریال در محلی محدود «چند باب مغازه» تأسیس شد.  در 24 اسفند همان سال نیز اولین شعبه آن، در رشت افتتاح گردید. سپس در سال 1306ش.، شعب بانک در مشهد و همدان نیز گشایش یافت و در سال های 1307 و 1308ش.، شعبه‌های دیگری در تبریز و قزوین آغاز به کار کردند. در تابستان سال 1307ش. کار بنای ساختمان مستقلی که برای محل مرکزی بانک در ابتدای خیابان سپه سابق آغاز شده بود، به اتمام رسید و افتتاح شد. چون در آن زمان امور حمل و نقل، به دلیل نبودن جاده و عدم امنیت، به خوبی صورت نمی‌گرفت، لذا بانک برای انجام این کار، با تهیه چند دستگاه اتومبیل و کامیون، تشکیلاتی را تحت عنوان «اتو بانک» به وجود آورد که کار حمل و نقل پست تهران، همدان، کرمانشاه وخانقین نیز به آن واگذار شد. در عرصه بین المللی، این بانک با ایجاد واحد، در کشورهایی چون آلمان، ایتالیا و فرانسه و همچنین بانک بین المللی سپه در انگلستان، در ارائه خدمات بانکی فعال شد. در سال 1305ش.، اساسنامه جدید بانک تحت عنوان «اساسنامه بانک پهلوی ایران» تهیه شد که در آن، ماهیت بانک به کلی تغییر کرد، زیرا در اساسنامه سال 1304ش.، مقصود از تشکیل بانک، ترفیه حال و رفع احتیاجات صاحب منصبان و افراد قشون بود، در حالی که در اساسنامه جدید، مقصود این بانک، رفع احتیاجات در امور تجاری و اقتصادی ذکر شده بود. در پانزدهم دی ماه سال 1316، نام این بانک، به بانک سپه تغییر یافت و پنج سال بعد ، یعنی در سال 1321ش.، مجدداً بانک سپه تغییر نام داد و بانک تعاونی سپه نام گرفت. سپس در دی ماه سال 1334، بانک تعاونی سپه به شرکت سهامی با سرمایه 370 میلیون ریال تبدیل شد و اجازه معاملات ارزی هم به آن داده شد. در اساسنامه جدید بانک که مشتمل بر 6 فصل و 38 ماده بود، نام بانک مجدداً به بانک سپه تغییر یافت. در سال 1340 ش.، تعداد شعبه‌های بانک سپه در سراسر کشور، 51 واحد و جمع معاملات آن، مبلغی حدود 4 میلیارد ریال بود. ده سال بعد، یعنی در سال 1351ش.، تعداد شعب این بانک، به 450 واحد، میزان معاملات آن به مبلغ 8/30 میلیارد ریال و سپرده‌های آن به مبلغی معادل 7/9 میلیارد ریال رسید. با افزایش قیمت نفت و درآمد حاصله از فروش آن، و رونق ظاهری اقتصاد ایران، از سال 1351 ش. به بعد، بانک سپه در صحنه رقابت بانک‌ها برای تحصیل سود بیشتر به فعالیت پرداخت. بعد از پیروزی انقلاب شکوهمند اسلامی ایران، که کلیه بانک‌ها ملی اعلام شدند، این بانک هم بدون این که در بانک دیگری ادغام شود، از ارتش (وزارت دفاع) منفک و مانند سایر بانک‌های کشور، به عنوان یک بانک تجاری و زیر نظر شورای عالی و مجمع عمومی بانک‌ها قرار گرفت. طبق اساسنامه مصوب مجمع عمومی بانک‌ها، بانک سپه طبق قانون ملی شدن بانک‌ها و لایحه قانونی شدن اداره امور بانک ها و مقررات مندرج در اساسنامه، اداره می‌شود و هدف آن ارائه خدمات بانکی در سراسر کشور، تسهیل امور بازرگانی داخلی و خارجی ذکر شده است