プロイセン参謀本部、の名称が示す通りその起源はプロイセン王国軍時代にまで遡ることができる。第一次世界大戦後の戦間期、また第二次世界大戦後の再軍備までの連合国占領地時代、および連邦軍時代には参謀本部は名目上はなかったが、それと同等の機能を備えた組織は維持されてきた。それでそれらを含めると、一部重複するものの現在の参謀総長は45代目となっている。
参謀本部の歴史は、
プロイセン参謀本部も参照されたい。いずれにせよ、世界の歴史を通じてドイツ国家は軍事色の濃い時代が多く、また周辺国にフランス、イギリス、ロシア、オーストリアなどの大国が存在したため、軍において系統だった作戦を専門的に立案する組織は重要であった。参謀本部組織を初めて設置したのは17世紀初頭のスウェーデンであるとされているが、戦時の際に軍に設置されるもので、常設組織ではなかった。これに対しプロイセン参謀本部は世界で初めての常設参謀本部組織であり、近現代の主要な戦争に常に関係してきたため、現在では歴史とノウハウから来る幅広い知識を持った専門部署として、軍事的な観点から世界的な評価は極めて高い。一方で参謀総長は過去から現代に至るまで、まるで「作戦の神様」のようなタイプというよりは各軍間の調整を上手に図り、堅実なプランで手堅く成果を出すようなタイプの将官が多い。