Après avoir financé la création de la Federal Steel Company, il fusionne la Carnegie Steel Company et plusieurs autres entreprises sidérurgiques et sidérurgiques pour former la United States Steel Corporation en 1901.
J.P. a également fusionné plusieurs aciéries pour former la United States Steel Corporation.