Zastępcą przewodniczącego Komisji Nadzoru Finansowego był od października 2011 r., gdy na wniosek Andrzeja Jakubiaka powołał go na to stanowisko premier Donald Tusk. Kwaśniak sprawował tę funkcję do lutego 2017 r., gdy premier Beata Szydło, na wniosek ówczesnego szefa KNF Marka Ch., odwołała go. Przed objęciem tego stanowiska przez cztery lata był doradcą prezesa NBP. Wcześniej kierował nadzorem bankowym, wówczas organizacyjnie związanym z NBP. W 1991 r. został zastępcą szefa Generalnego Inspektoratu Nadzoru Bankowego, a w 1998 r. – dyrektorem Biura Inspekcji w Generalnym Inspektoracie Nadzoru Bankowego, w latach 2000–2007 był generalnym inspektorem nadzoru bankowego. Po odwołaniu z KNF pracował w NBP. Znany był z twardego stanowiska wobec nadzorowanych przez siebie banków. Andrzej Nartowski, były prezes Polskiego Instytutu Dyrektorów, wspomina, że ważny prezes wyznał mu kiedyś: „Zarabiam więcej niż prezydent USA, a boję się Kwaśniaka". Był jednym z urzędników, którzy – wbrew sprzeciwom PiS – domagali się włączenia do nadzoru KNF sektora SKOK, który wtedy szybko się rozwijał i zaczął odgrywać coraz większą rolę w systemie. W kwietniu 2014 r. został dotkliwie pobity na zlecenie osób powiązanych ze SKOK Wołomin.