律令制下の兵部省
律令制下では、兵部省(つわもののつかさ)という、内外の武官の人事考課、選叙、諸国の衛士の管理、武器の管理など、軍事防衛関連事項の一切を司る機関が設置された。しかし、鎌倉時代以降、軍事は朝廷から征夷大将軍に実権が移り、職務は限られていった。
明治初期の兵部省
王政復古の大号令によって、征夷大将軍が廃止されたことにより、その他の朝廷の省には、権威が復活することとなった。1869年(明治2年)の官制大改革により軍務官に代わって、軍事防衛を司る機関として改編された。兵部卿には小松宮彰仁親王が就いたが、実務は次官である兵部大輔が執り行った。1872年(明治5年)に政府の軍事防衛に対する方針の転換により廃止された。
兵部省廃止後、陸軍省と海軍省が新設された。
陸軍省・海軍省の統合
国防活動の調整は、1937年に最初に提出された。1941年には、国防に関する統合部門の設立が提案された。
1944年には、防衛省設置法により、陸軍省と海軍省を統合し、防衛省が設置され、防衛省には陸海空三軍に対する強大な権力が与えられた。