רוסלר הצטרף ל- FDP ולארגון הנוער הפוליטי שלה, הליברלים הצעירים, בשנת 1992. הוא היה מזכיר FDP במדינת סקסוניה התחתונה מ-2000 עד 2004 ושירת כיו"ר הקבוצה הפרלמנטרית של FDP באסיפת המדינה של סקסוניה התחתונה מ-2003. מ-2001 עד 2006, רוסלר היה חבר באסיפת האזורית של האנובר (מחוז), שם היה גם סגן יו"ר הקבוצה הפרלמנטרית. במאי 2005, הוא נבחר לצופה בוועדת המנהלים הפדרלית של FDP. הוא קיבל 95% מהקולות, התוצאה הטובה ביותר של ועידת המפלגה ההיא. בוועידת המפלגה המדינית במרץ 2006, רוסלר נבחר כיו"ר FDP של סקסוניה התחתונה עם 96.4% מהקולות; הוא החליט להחליף את וולטר הירצ'ה, אשר התפטר לאחר שתים עשרה שנים על ההגה. באפריל 2008, רוסלר הוכרז כיו"ר הקבוצה הפרלמנטרית של המ
שנת 1992