保安隊
1954年（昭和29年）3月に日米相互防衛援助協定が結ばれ、日本は「自国の防衛力の増強」という義務を負うことになった。これを受けて同年6月に自衛隊法と防衛庁設置法を成立させ、翌7月に陸上自衛隊・海上自衛隊・航空自衛隊の管理・運営を行う防衛庁が発足し、保安庁は発展的に廃止されて業務は防衛庁に引き継がれた。警察の補完組織だった保安隊が、国防を任務とする自衛隊になったために新任務にふさわしい宣誓が求められ、全隊員の6%にあたる約7,300人が宣誓拒否して退官した。大部分が陸上自衛官の任期制隊員とされる（1954年8月9日参院内閣委、木村篤太郎防衛庁長官）。警察予備隊から保安隊への移行にともない、警察予備隊の警察官は保安官となった。保安隊から陸上自衛隊へ移行した際、保安官は陸上自衛隊の自衛官（陸上自衛官）となった。
海上自衛隊
1951年（昭和26年）10月19日、吉田茂内閣総理大臣と連合国軍最高司令官（SCAP）マシュー・リッジウェイ大将の会談において、フリゲート（PF）18隻、上陸支援艇（LSSL）50隻を貸与するとの提案が正式になされ、吉田首相はこれをその場で承諾した。そしてこれらの船艇受入れと運用体制確立のため、内閣直属の秘密組織としてY委員会が設置されて検討にあたった。Y委員会の委員は旧海軍軍人と海上保安庁職員より選任されており、また、アメリカ側とも密に連携していた。Y委員会での検討の結果、これらの艦艇は、他の巡視船艇とは別個に、海上保安庁内に設置される専用の部局で集中運用されることとなり、サンフランシスコ平和条約発効直前である1952年（昭和27年）4月26日、海上警備隊が設置された。