Kirjuta selle paragrahvi jätkamine - Rifkind kandideeris esimest korda parlamendile 1970. aastal Edinburgh Central'i valimisringkonnast. Ta astus parlamendile 1974. aasta veebruari üldvalimistel, esindades Šotimaa Konservatiivse ja Liidu partei Edinburgh Pentlandsit. 1975. aasta juhtiva valimise ajal toetas ta esimeses voorus Edward Heath'i, kuid kui Heath tagasi astus, hääletas Rifkind Margaret Thatcher'ile. Thatcher nimetas Rifkind'i opositsiooni eestkõnelejaks Šotimaa asjades. Seejärel astus ta ametist tagasi (koos varjuse Šotimaa sekretäri Alick Buchanan-Smith'iga) protestiks varjukabineti otsuse vastu, et hääletada valitsuse seaduse eelnõu vastu Šotimaa assamblee kohta. Rifkind väitis, et kuna konservatiivide partei toetas tol ajal Šotimaa assamblee põhimõtet, oleks olnud parem kas hääletada seaduse eelnõu teise lugemise poolt või hoiduda hääletamisest ja püüda eelnõu parandada. Järgnevas referendumis Šotimaa assamblee kohta
, Rifkind hääletas poolt, kuid taandus oma toetuse tagasi, kui referendumitulemused näitasid, et Šotimaa oli ettepaneku üle peaaegu võrdselt jagatud.