Il a fait ses études de langues étrangères et d’économie à Moscou, ex-Union soviétique (la Russie actuelle) de 1959 à 1965, puis a travaillé au Département des Affaires générales du Comité d’État vietnamien du plan de 1965 à 1971 avec la plus haute position en tant que directeur.
De 1972 à 1975, il était chercheur de l’économie du Sud. Au cours de cette période, il a été envoyé sur le champ de bataille du Sud et a ensuite été chef adjoint du Comité de l’Unification du Gouvernement.
De 1976 à 1984, le camarade Phan Van Khai était vice-président puis président du Comité du Plan, vice-président du Comité populaire de Hô Chi Minh-Ville, membre du Comité du Parti de Hô Chi Minh-Ville.
De 1985 à mars 1989, il a été membre du Comité central du Parti communiste du Vietnam, secrétaire adjoint du Comité du Parti de Hô Chi Minh-Ville et président du Comité populaire de Hô Chi Minh-Ville.
D’avril 1989 à août 1991, il a été membre du Comité central du Parti et président du Comité d’État vietnamien du plan.
De juillet 1991 à août 1997, il a été membre du Bureau politique et vice-président du Conseil des Ministres et Vice-Premier ministre permanent.
Il a pris ses fonctions de Premier ministre vietnamien de septembre 1997 à juin 2006.
Il a été député de l’Assemblée nationale vietnamienne des 8e, 9e, 10e et 11e législatures, et membre du Bureau politique des 7e, 8e et 9e exercices.
Il a été décoré de l’Ordre de l’Étoile d’or, de l’Insigne des 55 ans d’appartenance au Parti.
