הוקם מתוך מיליציות קיימות קודמות, המטרה המקורית שלה הייתה להגן על ההתנחלויות היהודיות מפני התקפות ערביות, כגון המהומות של 1920, 1921,
1929 ובמהלך המרד הערבי של 1936-1939 בפלסטין. הוא היה תחת שליטה של הסוכנות היהודית, הגוף הממשלתי הרשמי שהיה אחראי על הקהילה היהודית של פלסטין בתקופת המנדט הבריטי. עד סוף מלחמת העולם השנייה, פעילותה של האגנה הייתה מתונה, בהתאם למדיניות הוואלגה ("ההגבלה עצמית"), שגרמה לפרידה של ארגון והליי הרדיקליים יותר. הקבוצה קיבלה תמיכה צבאית חשאית מפולין. האגנה ביקשה שיתוף פעולה עם הבריטים במקרה של פלישת הציר לפלסטין דרך צפון אפריקה, מה שגרם להקמתה של כוח המשימה של הפאלמאך בשנת 1941.