בשנים 1997–1999 כיהן כמנכ"ל אבנר חברה לביטוח. בשנת 1999 לאור הרפורמה בביטוח החובה על פיה לא תמכור אבנר ביטוחים חדשים, הציע שאבנר תקים חברות בנות שינצלו את עובדיה למכירת שירותי גילוי הונאות לחברות ביטוח אחרות. בשנת 2000 הוא כיהן כדירקטור מטעם הציבור בחברה והתפטר מהדירקטוריון בסוף שנת 2000 על רקע התנגדותו לרפורמה להכנסת תחרות בביטוח החובה. גילון טען שהרפורמה תעלה את מחירי הביטוח למבוטחים חלשים.בסוף 1999 התמנה למנכ"ל מרכז פרס לשלום.ביולי 2001 מונה לשגריר ישראל בדנמרק, דבר שגרר תגובות נרגזות בדנמרק, והעלה חשש לתקרית דיפלומטית לאחר שארגונים אנטי-ישראליים שונים דרשו את מעצרו ברגע שידרוך באירופה באשמת פשעי מלחמה. בסופו של דבר דנמרק כיבדה את חסינותו הדיפלומטית.לאחר סיום כהונתו כשגריר נבחר בשנת 2003 לראש מועצת מבשרת ציון, כשקיבל 50% מקולות המצביעים. בתפקידו החדש נדרש גילון תחילה לבעיית החובות שצברה המועצה בתקופה בה כיהן קודמו בתפקיד ולמניעת השביתות של עובדי העירייה. עם כניסתו לתפקיד אישר תוכנית הבראה והחל בצמצום החובות, יחד עם זכייה לאהדה ברחבי המועצה. על אף התהליך אותו החל, החליט שר הפנים בסוף שנת 2006 למנות למועצה חשב מלווה, עקב חריגה של כ-8 מיליון שקלים בשנת 2006. גילון טען כי לא היה מקום למינוי החשב, מאחר שהמועצה הייתה בתהליך ארוך של התאוששות ושרוב החוב נצבר לפני שהחל לכהן כראש המועצה. הוא התפטר כמחאה על המהלך לקראת סוף דצמבר 2006, אך למחרת חזר בו מההתפטרות לאחר קריאות התושבים ופגישה אישית עם שר הפנים. כחודש לאחר מכן הגיש גילון את התפטרותו בשנית מראשות המועצה.ביוני 2007 מונה לסגן נשיא לקשרי חוץ של האוניברסיטה העברית בירושלים.בינואר 2014 ביקר בדנמרק לשם קידום הסרט התיעודי "שומרי הסף", שבו השתתף, אך נאלץ לקצר את ביקורו לאחר שארגון פרו-פלסטיני ביקש להוציא נגדו צו מעצר.בשנת 2014 מונה ליו"ר חברת סייטג'יק (Cytegic), העוסקת באבטחת מידע.באוגוסט 2020 נפצע קל בעת פינוי מאהל מחאה נגד בנימין נתניהו בירושלים.גילון נשוי לשרי ואב לשלוש בנות.
באיזו שנה מונה כרמי גילון לשגריר ישראל בדנמרק?
2001 