השטח של קאגמישי הנוכחי היה חלק ממחוז מוטסו העתיק והיה חלק מהחזקות של שטח שיראקאווה בתקופת אדו. לאחר שיקום מייג'י, היא הוקמה כחלק ממחוז איוואסה באזור נאקאדורי שבמחוז איוואשירו. כפר קגמישי הוקם ב-1 באפריל 1889 עם יצירת מערכת העירוניות המודרנית. היא קיבלה מעמד של עיר ב-1 באוגוסט 1962. במהלך רעידת האדמה 2011 טוהוקו
יותר מ-1000 מבנים נפגעו קשות או נהרסו, המקבילים לכ-23 אחוזים מהעיר,