1921 Bütçe ve Muhasebe Kanunu ile Kongre, kamu fonlarının alınması, ödenmesi ve uygulanması ile ilgili tüm konuları araştırmak ve kamu harcamalarında daha fazla ekonomi veya verimlilik arayan tavsiyelerde bulunmak üzere yasama organında GAO'yu kurdu.
Kongre, kamu harcamaları yönetimi alanında araştırmak ve önerilerde bulunmak amacıyla 1921 yılında GAO'yu yarattı.
GAO 1950'lerde komünizmle mücadele çabalarının bir parçası olarak kuruldu.