Tötonlar Almanya'nın kökeni Şarlman'ın 800 yılında Kutsal Roma İmparatoru tacını giymesine kadar uzanır. Ölümüyle imparatorluk üç parçaya bölündü ve yavaş yavaş iki parçada birleşti: Fransa haline gelen batı Frank krallığı ve Almanya haline gelen doğu krallığı. Kutsal Roma İmparatoru unvanı onuncu yüzyılda soyu tükenene dek Şarlman'ın ailesinde kaldı. 919 yılında Saksonya Dükü Henry, diğer dükler tarafından Almanya'nın kralı seçildi. Oğlu Otto 962'de imparator oldu. I. Otto'nun yönettiği Kutsal Roma İmparatorluğu Baltık Denizi'nin kuzeyindeki Alman ovasına, modern Polonya'nın doğusundaki kısımlara ve modern İsviçre, modern Avusturya ve kuzey İtalya'nın güneyine yayıldı. Başlangıçtan beri imparatorlar Almanya ve İtalya gibi Alplerin ayırdığı iki apayrı bölgenin kontrolünü sağlamakta zorluk yaşıyorlardı. Kutsal Roma İmparatorluğu ilk başta ana üyeleri Almanya ve İtalya'dan faydalandığı için başarılıydı. Cermenler barbarlık durumundan henüz kurtulamamıştı. Daha sadece yüz yıl önce Şarlman tarafından fethedilmişlerdi. İtalyan kültür, teknoloji ve ticaretinden oldukça faydalandılar. İtalyanlar, imparatorluğun sağladığı görece barışı ve istikrarı hoş karşıladılar. İtalya önceki 500 yıl içinde defalarca istila edilmişti. İmparatorluğun korunması papalığı savundu ve İtalya'nın şehir devletlerinin büyümesine olanak tanıdı. İmparatorluk orduları kısmen, kilise topraklarının imparatora hizmet borçlu sahipleriyle donatılmıştı. İkinci önemli birlik vekiller, yani şövalye olarak en iyi eğitim ve ekipmana sahip fakat özgür olmayan esir sınıfıydı. Bu ordular isyanları veya mevkideki soyluların ve köylülerin müdahalesini bastırmak veya kuzeyden Vikinglerin ve doğudan Macarların baskınlarına karşı savunma yapmak için kullanılıyordu. Almanya rekabet içindeki bağımsız prenslikler topluluğu olarak kaldığı için Cermen savaşçılar oldukça yetenekli hale geldi. En bilinen Cermen askerleri Haçlılardan etkilenen dini bir savaşçı birliği olan Töton Şövalyeleriydi. Töton Şövalyeleri Hristiyanlığı fetih yoluyla Baltık bölgesine yaydı fakat sonunda Alexander Nevski onları donmuş Peipus Gölü üzerindeki savaşta durdurdu. Piskoposların atanması üzerine imparatorlar ve kilise arasındaki çatışma hem Almanya hem de İtalya'daki imparatorları zayıflattı. İmparatorun geçici olarak aforoz edilmesi ve Roma'yla doğrudan savaş dönemlerinde imparatorluk otoritesi zayıfladı. Yerel Cermen prensleri imparatorun yardımı veya müdahalesi olmadan varlıklarını sağlamlaştırdı ya da Vikinglerle mücadele etti. İtalya'da yükselen şehir devletleri Lombardiya Birliği'ni oluşturmak için birleşti ve imparatoru tanımayı reddetti. Hem Almanya hem de İtalya'daki siyasi güç imparatordan yerel prenslere ve şehirlere geçti. Vekiller başkaldırarak garnizon kurdukları kalelerin ve şehirlerin kontrolünü ele geçirdiler ve özgürlüklerini ilan ettiler. İtalya'yı geri kazanmak için çaresiz girişimler sırasında Almanya'daki prenslere daha fazla imtiyaz verildi. On üçüncü yüzyılın ortasında Kutsal Roma İmparatorluğu yalnızca ismen yaşıyordu. Taht 20 yıl boyunca boş kaldı. Cermen prensleri yalnızca kendi topraklarını umursuyordu. İtalyan şehir devletleri bir Cermen hükümdarı istemediler ve kendilerini savunacak kadar güçlüydüler. Orta Çağda, sonraki imparatorlar Cermen prensleri tarafından seçildi fakat bunlar yalnızca kendi aile varlıklarından biraz fazlasını yöneten sözde hükümdarlardı. Almanya yüzyıllarca Avrupa'da önemsiz bir güç olarak kalacaktı.