Po ukończeniu łódzkiej Filmówki zadebiutował w 1958 r. u Kazimierza Kutza jako drugi reżyser „Krzyża Walecznych”, był nim także w „Zaduszkach” Tadeusza Konwickiego. Jego samodzielnym debiutem stał się film „Piękny był pogrzeb, ludzie płakali”. Nakręcił też m.in. „Tabliczkę marzenia” i „Operację Himler”. Największą popularność przyniosły mu zrealizowane w latach 70. seriale „Dyrektorzy”, „Ślad na ziemi”, a zwłaszcza „Daleko od szosy”.
– Był niesłychanie skromny, pracowity, niekonfliktowy i pozbawiony próżności. Niechętnie opowiadał na przykład o bolesnych wspomnieniach, gdy jako nastolatek został wywieziony do Norylska – wspomina Sławomira Łozińska. – Tworzył z pasją i miłością. W serialu „Dyrektorzy”, gdzie zadebiutowałam, czy w „Śladzie na ziemi” umiejętnie walczył ze sztampowym w latach PRL przedstawieniem ludzi pracujących w zakładach przemysłowych. Zawsze był bardzo otwarty na aktora i potrafił go świetnie uruchamiać. Przekonałam się o tym zwłaszcza w „Daleko od szosy”, gdzie powierzył mi postać, z którą nigdy wcześniej nie byłam kojarzona.
Po okresie transformacji Zbigniew Chmielewski nie znalazł w filmie swojego miejsca.