Von 1954 bis 1960 war Zylla Zweiter Sekretär der SED-Bezirksleitung Rostock und gehörte von 1954 bis 1967 dem Bezirkstag Rostock an. Von 1963 bis 1967 fungierte er als Erster Sekretär der SED-Kreisleitung Rostock-Stadt.