保安隊
1954年（昭和29年）3月に日米相互防衛援助協定が結ばれ、日本は「自国の防衛力の増強」という義務を負うことになった。これを受けて同年6月に自衛隊法と防衛庁設置法を成立させ、翌7月に陸上自衛隊・海上自衛隊・航空自衛隊の管理・運営を行う防衛庁が発足し、保安庁は発展的に廃止されて業務は防衛庁に引き継がれた。警察の補完組織だった保安隊が、国防を任務とする自衛隊になったために新任務にふさわしい宣誓が求められ、全隊員の6%にあたる約7,300人が宣誓拒否して退官した。大部分が陸上自衛官の任期制隊員とされる（1954年8月9日参院内閣委、木村篤太郎防衛庁長官）。警察予備隊から保安隊への移行にともない、警察予備隊の警察官は保安官となった。保安隊から陸上自衛隊へ移行した際、保安官は陸上自衛隊の自衛官（陸上自衛官）となった。
陸上自衛隊
1957年（昭和32年）に、初の防衛大学校（旧保安大学校）出身の隊員が入隊して以降、順次防衛大学校出身の幹部自衛官が増加していった。1986年（昭和61年）3月に中村守雄陸将（陸軍航空士官学校第61期）が退官したことにより、陸上自衛隊における旧陸軍出身者は皆無となった。ちなみに、陸海空自衛隊最後の旧軍出身者は翌1987年（昭和62年）12月に退官した、空自の森繁弘統幕議長たる空将（航士第60期）である。なお、旧陸軍軍人は陸上自衛隊（警察予備隊・保安隊）だけでなく、旧陸軍航空部隊出身者を中心に多くが航空自衛隊へも流れており、航空幕僚長就任者を旧軍の出身別に分けると陸軍11名・海軍5名と旧陸軍出身者が過半数を占め旧海軍出身者を凌駕している。