ساختار و تشکیلات سازمانی آرشیو فدارل آلمان به شرح زیر است:
1-اداره مركزي آرشيو:
- امور كاركنان، توسعه نيروي انساني و آموزش
- امور سازماني و نظارتي
- اداره حقوقي و ارزيابي
- امور ملكي و ساختماني، امنيت شغلي و خدمات داخلي
- بودجه و تداركات
- زيرساختهاي فناوري اطلاعات، سامانه‌ها، خدمات كاربران و پشتيباني داده
- اداره آرشيو و فناوري اطلاعات كلان ‌شهر برلين
(مقر اصلي اداره مركزي در كبلنز قرار دارد، اما دو بخش كمكي آن در برلين- ليشترفلد است)
2-اداره آرشيو و پژوهش و فناوري آرشيو:
- اداره مسئول هماهنگ ‌سازي مسايل كلي آرشيو روابط عمومي و ارتباطات بين‌المللي، مديريت برنامه ‌ريزي راهبردي و آمار آرشيوي
- بخش قانون‌ گذاري، تنظيم و توصيف اسناد، آموزش و تحصيلات آرشيوي، درآمدهاي آرشيوي
- بخش انتشارات علمي، پژوهشي و تاريخي آرشيو و نمايشگاه ها
3-اداره فناوري آرشيوي:
- مسايل كلي حفاظت و نگهداري، كارگاه ها و خدمات ذخيره‌ سازي در كبلنز و برلين، امور ساختماني آرشيو برلين
- توسعه، هماهنگي و مديريت برنامه ‌هاي كاربردي آرشيوي و علم اطلاعات
- آرشيو رقمي (دريافت، نگهداري، رقمي‌سازي، ارائه و نمايش)، آرشيو رقمي مياني
- مرمت و نگهداري فيلم
4-اداره جمهوري فدرال آلمان
(مسئول نگهداري اسناد مقامات، آرشيو سنت آگوستين- هانگلار، هوپ‌گارتن، بايرويت و لودويگزبرگ)
 و دیگر ادارات عبارتند از:
اداره آرشيو رايش آلمان؛ اداره آرشيو نظامي؛ اداره آرشيو فيلم؛ اداره آرشيو جمهوري دمكراتيك آلمان؛‌ بنياد آرشيوهاي احزاب و سازمان هاي بزرگ؛ كتابخانه پژوهشي و خدمات آرشيوي و در واقع كتابخانه تخصصي آرشيو فدرال.