See asutati algselt 27. märtsil 1856 kui 1. Tema Majesteedi Elukaitsjate Relvastiku pataljon mitmest teisest 1. Kaitsejalaväedivisiooni ja 2. Kaitsejalaväedivisiooni rügemendist koos mõne muu üksusega. 1863. aastal osales üksus
Poola ülestõus ja 1870. aastal sai osa uuest valmitud Kaitseväe Relvastiku Brigadist suurhertsogi Vladimir Aleksandrovichi juhtimisel. Hiljem oli tal eristus, et ta saatis isiklikult keiser Aleksander II-d 1877-78 Vene-Türgi sõja ajal. 1910. aastal tõsteti see pataljonist täisregimendiks ja 1914. aastal, Esimese maailmasõja puhkemisega ja üldise mobiliseerimisega, sai see reservpataljoni. 1917. aastal nimetati see ümber "Esimese Kaitseväe Rüütelrügemendiks" ja see laotati 1918. aasta mais täielikult. Mitmed selle liikmed läksid Valges Armees võitlema Vene kodusõja ajal. 1951. aastal moodustasid mõned valged emigreerunud inimesed sõjaväeveteranite organisatsiooni.