Il a été l'un des principaux partisans de la création de l'Université de Birmingham et en a été le premier chancelier ; on peut y trouver ses documents à la bibliothèque, et la tour d'horloge de l'Université s'appelle la tour de l'horloge du monument de Joseph Chamberlain ou, plus couramment, le vieux Joe 'ou le "Big Joe".
L'Université de Birmingham, qu'il a aidé à démarrer, a une tour d'horloge avec son nom.