הצבא הראשון הוקם בשנת 1914 כחלק מהגייסות של אוסטריה-הונגריה בעקבות הכרזת המלחמה על סרביה ורוסיה, תוך ביצוע תוכניות טרום המלחמה להקמת שישה צבאות שדה. בדיוק כמו כל צבאות השדה האוסטרו-הונגריים, הוא היה מורכב ממטה ומספר גופים, יחד עם כמה יחידות בלתי מחוברות. הארמייה הראשונה הונחה תחת פיקודו של גנרל הפרשים ויקטור דנקל פון קרסניק והייתה מורכבת מהגופים I, V ו-X, שמקורם קראקוב, פרסבורג ופרזמיסל, בהתאמה. תחת פיקודו, יחידות הצבא הראשון זכו בניצחון האוסטרו-הונגרי הראשון במלחמת העולם הראשונה במהלך ההגנה על גליציה על ידי הפסד הצבא הרביעי הרוסי בקרב קרסניק ב-23-25 באוגוסט 1914. עם זאת, בשל המצב הקריטי בחלקים אחרים של החזית, קרסניק נאלץ לסגת דרומה לאורך נהר הדונייץ' לאזור הצפוני של קרקוב. במהלך החורף של 1914, הצבא הראשון השתתף בקרב על נהר הוויסטלה.
בפולין הרוסית, מגיע לאיוונגרוד. במאי 1915, הגנרל קרסניק הועבר לחזית האיטלקית. הוא הוחלף על ידי גנרל הפרשים קארל קירצ'באך פון לוטרבאך במשך כמה חודשים לפני שהפיקוד על הצבא הראשון ניתן לגנרל הארטילריה פול פואלו פון ברלוג. הארמייה הראשונה לא לקחה חלק בהתקפה בגורליצ'ה-טארנוב, ונשארה בווולודימיר-ווולינסקי בתקופה זו.