沿岸警備隊
第二次世界大戦後、旧大日本帝国海軍の残余艦艇と人員をもとに初期の海上保安庁が創設された。連合国軍による日本の非武装化政策により、当初の人員は1万名以内、船舶は125隻5万トン以下、武装も小火器のみに限られている。創設直後には掃海活動も重要な任務の一つとされ、その一部は朝鮮戦争に出動しており、作業中の事故で1名が殉職している。1952年（昭和27年）4月26日に将来的な分離独立までの臨時的措置として海上保安庁内に旧海軍軍人主体の海上警備隊（Maritime Safety Security Force）が創設され、同年8月1日には掃海部隊も含めて保安庁の警備隊（Safety Security Force）となり、1954年（昭和29年）7月1日の防衛庁設置に伴い海上自衛隊に改編された。このとき、「海上公安局」へ再編される予定であった海上保安庁の本体部分（海上警備隊系統を除く部分）は、組織移行を免れそのまま海上保安庁として存続することとなった。
海上自衛隊
1951年（昭和26年）10月19日、吉田茂内閣総理大臣と連合国軍最高司令官（SCAP）マシュー・リッジウェイ大将の会談において、フリゲート（PF）18隻、上陸支援艇（LSSL）50隻を貸与するとの提案が正式になされ、吉田首相はこれをその場で承諾した。そしてこれらの船艇受入れと運用体制確立のため、内閣直属の秘密組織としてY委員会が設置されて検討にあたった。Y委員会の委員は旧海軍軍人と海上保安庁職員より選任されており、また、アメリカ側とも密に連携していた。Y委員会での検討の結果、これらの艦艇は、他の巡視船艇とは別個に、海上保安庁内に設置される専用の部局で集中運用されることとなり、サンフランシスコ平和条約発効直前である1952年（昭和27年）4月26日、海上警備隊が設置された。