לאחר מותו של אהרון בשנת 809, אל-עבאס הועסק בתחילה על ידי יורשו אל-אמין כדי לפעול כמשלח אל-מאמון בחורסן, אך בעיצומו של הסכסוך הגובר
בין שני האחים, הוא השתכנע במהרה להחליף צד ולהציע את נאמנותו לאל-מאמון במקום. במרץ 812 הוא השתתף בהפיכה הכושלת של אל-חוסיין אבן עלי אבן ישע, שבה הוא היה אחראי על מעצרו האישי של אל-אמין ואמו זביידה בת ג'אפר, ולאחר מכן הוא נבחר להוביל את מסעות הפילגרינג הראשונים שנערכו בשם אל-מאמון, בשנת 812, 813 ו-814.