גרמניה לא הצליחה לבנות על ההצלחה שלה ב-2002 ושוב יצאה מהסבב הראשון של יורו 2004
הפעם הם ניצחו את שני המשחקים הראשונים והפסידו את השלישי. כפי שהיה במקרה בשנת 2000, הקבוצה יצאה מפסידה מול קבוצה חלשה שכבר התקדמה, במקרה זה הרפובליקה הצ'כית. למרות שגרמניה שלטה במשחק, היא לא הצליחה להבקיע, והפסידה על שער צ'כי שהושג בהפסקה. וולר התפטר לאחר מכן, כשהוא מגנה את הביקורת התקשורתית המתמדת בראיון טלוויזיה מפורסם. הנבחרת הלאומית נאלצה למצוא את המאמן השלישי שלה בשש שנים לאחר שהיו לה רק שישה מאמנים ב- 75 השנים הקודמות. כאשר מועמדים פוטנציאליים, כולל אוטמר היצפלד ואוטו רוהאגל, דחו את התפקיד, נבחר שחקן נבחרת יורגן קלינסמן, שמעולם לא היה מאמן. בסגנון דומה לתפקידו הקודם של בקנבאואר כמנהל קבוצה ללא רישיון אימון, מינה את יואכים לוב מנוסה משטוטגרט כדי לסייע לו.