Abad Pertengahan
Penobatan Karel Agung menjadi kaisar pada hari Natal tahun 800 dianggap sebagai titik balik dalam sejarah Abad Pertengahan. Penobatan ini menandai kebangkitan kembali Kekaisaran Romawi Barat, karena kaisar yang baru ini memerintah atas sebagian besar wilayah yang dahulu kala dikuasai oleh para Kaisar Romawi Barat. Penobatan ini juga menjadi awal perubahan sifat hubungan antara Karel Agung dan Kekaisaran Bizantin, karena dengan menyandang gelar kaisar, raja-raja wangsa Karoling menyatakan dirinya setara dengan para penguasa Bizantium. Kekaisaran Karoling yang baru berdiri ini memiliki sejumlah perbedaan baik dengan Kekaisaran Romawi lama maupun dengan Kekaisaran Bizantin kala itu. Wilayah kekuasaan orang Franka bercorak pedesaan dan hanya memiliki beberapa kota kecil. Sebagian besar warganya adalah para petani yang menetap di lahan-lahan kecil. Kegiatan niaga hanya berskala kecil, dan sebagian besar dilakukan dengan kepulauan Inggris dan Skandinavia, jauh berbeda dari jaringan niaga Kekaisaran Romawi lama yang berpusat di Laut Tengah. Administrasi pemerintahan Kekaisaran Karoling diselenggarakan oleh suatu majelis keliling yang senantiasa berpindah-pindah mengikuti perjalanan jelajah kaisar, serta kurang lebih 300 pegawai kekaisaran yang disebut bupati (, , ), yang menadbir pemerintahan kabupaten (, , ), yakni satuan wilayah pemerintahan di Kekaisaran Karoling. Rohaniwan dan uskup-uskup setempat diberdayakan menjadi pamong praja maupun pegawai kekaisaran yang disebut para "missi dominici". Para "missi dominici" bekerja sebagai penilik keliling dan petugas penanggulangan masalah.
Kekaisaran Romawi Suci
Penyebutan kekaisaran ini berubah-ubah. Pada masa Franka Timur, wilayah kekuasaan dinamai "Regnum Teutonicum" ("Deutsches Reich", "Kerajaan Jerman"). Setelah penggabungan dengan Lombardia, kerajaan disebut sebagai "Imperium Romanum" ("Kekaisaran Romawi") karena ada wilayah bekas pusat Kekaisaran Romawi di dalamnya. Penamaan ini resmi dipakai pada masa kekuasaan Kaisar Konrad II (1034) setelah sebagian wilayah Kerajaan Burgundia ditaklukkan. Pada perkembangan selanjutnya, imperium dinamai "Sacrum Imperium" ("Kekaisaran Suci") sejak Kaisar Friedrich I Barbarossa, karena mulai saat itu Kaisar tidak lagi bergantung pada Paus dan merupakan wakil Tuhan di bumi. Penyebutan lengkap "Sacrum Romanum Imperium" baru dimulai secara resmi sejak 1254, dan terus berlaku hingga masa pembubaran. Nama "Sacrum Romanum Imperium Nationis Germaniae", "Kekaisaran Romawi Suci Bangsa Jerman", sempat dipakai setelah "Perdamaian Pfalz" selama sekitar 150 tahun hingga pertengahan abad ke-16, meskipun anggota-anggotanya tidak semuanya berasal dari puak-puak Germanik.
"Lihat pula: Kolonisasi daerah Timur oleh bangsa Jerman"
Setelah Perjanjian Verdun (843), Ludwig si Jerman, salah satu dari tiga anak laki-laki Karel Agung, memperoleh bagian Kerajaan Franka Timur yang meliputi wilayah puak-puak Germanik timur seperti Saksonia, Frankonia, Alemania, Bavaria, serta Karinthia. Secara kasar wilayahnya adalah bagian timur Sungai Rhein. Perluasan wilayah terjadi pada masa pemerintahan Heinrich I (919-936) dan anaknya Otto I Agung (936-973). Setelah Otto I menguasai Kerajaan Langobardia di Italia, ia merasa berhak menyandang gelar "Kaisar" ("Imperator") seperti pada masa Kekaisaran Romawi dulu dan dinobatkan oleh Paus pada 962.