Zaczynał jako dziennikarz, w latach 60. był korespondentem m.in. "Prawdy" na Bliskim Wschodzie. Jest niemal pewne, że już wówczas był oficerem wywiadu ZSRR. Dużo podróżował, miał wielu potężnych znajomych, poznał m.in. Saddam Husajna.

Po powrocie do Moskwy został pracownikiem naukowym, awansował także w partii. W czasie pierestrojki był już członkiem Biura Politycznego. W 1991 r. ujawnił się jako pracownik wywiadu - został ostatnim szefem wywiadu zagranicznego w strukturach KGB, a potem pierwszym dyrektorem nowej Służby Wywiadu Zagranicznego Rosji.

W 1996 r. został ministrem spraw zagranicznym, a dwa lata później premierem Rosji. Rok później, gdy władzę przejmował już Władimir Putin, został odsunięty. Do końca życia był jednak uważany za jednego z najlepszych specjalistów w Rosji od spraw arabskich, wielokrotnie podróżował też w ten region świata jako wysłannik prezydentów Rosji - negocjował m.in. z prezydentami Iraku i Syrii.