Jerzy Szmit w ministerstwie infrastruktury i budownictwa zajmował się m.in. sprawami budowy dróg i transportu drogowego. Koordynował też rozmowy dotyczące transportu drogowego z Rosją.

Szmit był posłem na Sejm RP w latach 2011-2015, członkiem Komisji Finansów, Komisji Infrastruktury, Przewodniczący podkomisji stałej ds. Transportu Drogowego i Drogownictwa, przewodniczącym Parlamentarnego Zespołu ds. Rozwoju Polski Wschodniej. Wcześniej był senatorem RP w latach 2005-2007, przewodniczącym komisji Samorządu Terytorialnego i Administracji Publicznej.

W latach 1994-1998 oraz 2010-2011 Szmit był radnym olsztyńskiej Rady Miasta, w latach 1998-1999 r. marszałkiem województwa warmińsko-mazurskiego. W latach 2009-2010 zajmował stanowisko zastępcy prezydenta Olsztyna. Pracował też jako dyrektor generalny Urzędu Wojewódzkiego w Olsztynie, odpowiedzialny za wprowadzenie reformy administracji publicznej.