Kelly esimene MLB postseason seeria oli 2012 National League Division Series, vastu Washington Nationals. Ta osales kolmes mängus ja lõi reljeefvõistlusi, ilma et oleks loobunud jooksust või löögist; ta kõndis ühe lööja ja lõi välja kolm lööjat. Seejärel edenesid Cardinalsi 2012. aasta NLCS-i.
San Francisco Giants'i vastu. Seitsmendas otsustavas mängus tuli Kelly mängima kolmandas inningis, kus Giants oli ees 2:0 ja baasid olid täis, kuid ta ei saanud välja; ta andis kaks lööki ja kaks jalutuskäiku, mis kestis vaid ühe inningis, ja lahkus Giants'i ees 7:0 mängus, kus nad võitsid 9:0. Üldiselt mängis Kelly sarjas neli korda, mängides kokku neli inningsit; ta andis kuus lööki ja sai kaks teenitud jooksu, samal ajal kui ta kõndis kolm lööjat ja lõi kaks lööjat välja.