بعد الانتقال إلى مدينة نيويورك تدرب في البداية كفني راديو وأصبح مهتماً بالرياضيات. تخرج من جامعة كولومبيا بدرجة البكالوريوس في عام 1949 ودرجة الماجستير في عام 1950 ، كلاهما في الرياضيات ، وانضم إلى شركة IBM في عام 1950. خلال أول ثلاث سنوات له ، عمل على آلة الحساب الإلكترونية ذات التسلسل الانتقائي (SSEC) ؛ كان أول مشروع رئيسي له هو كتابة برنامج لحساب مواقف القمر. في عام 1953 ، طور باكوس لغة Speedcoding ، وهي أول لغة عالية المستوى تم إنشاؤها لجهاز كمبيوتر IBM ، للمساعدة في تطوير البرامج لجهاز كمبيوتر IBM 701. كان البرمجة صعبة للغاية في هذا الوقت ، وفي عام 1954 جمع باكوس فريقاً لتطوير وتعريف Fortran لجهاز كمبيوتر IBM 704. كان Fortran أول لغة برمجة عالية المستوى يتم استخدامها على نطاق واسع.
جامعة كولومبيا مع درجة البكالوريوس في عام 1949 ودرجة الماجستير في عام 1950، سواء في الرياضيات