保安隊
1954年（昭和29年）3月に日米相互防衛援助協定が結ばれ、日本は「自国の防衛力の増強」という義務を負うことになった。これを受けて同年6月に自衛隊法と防衛庁設置法を成立させ、翌7月に陸上自衛隊・海上自衛隊・航空自衛隊の管理・運営を行う防衛庁が発足し、保安庁は発展的に廃止されて業務は防衛庁に引き継がれた。警察の補完組織だった保安隊が、国防を任務とする自衛隊になったために新任務にふさわしい宣誓が求められ、全隊員の6%にあたる約7,300人が宣誓拒否して退官した。大部分が陸上自衛官の任期制隊員とされる（1954年8月9日参院内閣委、木村篤太郎防衛庁長官）。警察予備隊から保安隊への移行にともない、警察予備隊の警察官は保安官となった。保安隊から陸上自衛隊へ移行した際、保安官は陸上自衛隊の自衛官（陸上自衛官）となった。
海兵隊
また、自衛隊創設後の1968年（昭和43年）6月の小笠原諸島返還を機に自衛隊に海兵隊を創設する事が検討され始め、後に西部方面総監となる中島直臣を中心に海兵隊に関する勉強が行われたが、海兵隊構想は頓挫したという。
陸上自衛隊の第13旅団（広島県海田町）は、海上自衛隊との連携によりLCACホバークラフト揚陸艇等に乗り込む訓練を行うなど、15ある師団、旅団の中において海上機動力を高めた部隊である。また、陸上自衛隊の離島防衛部隊である西部方面普通科連隊は、アメリカ海兵隊武装偵察部隊に類似した部隊であり、定期的に米海兵隊から直接指導を受けており、共同訓練の回数が近年増加している。