François Perrot connaît un solide parcours théâtral, depuis ses débuts avec Louis Jouvet et Jean Vilar, avec lequel il collabora au TNP. Sur la scène, on le voit dans des spectacles mis en scène par Tania Balachova, Georges Vitaly, Robert Hossein, Jean-Luc Moreau…
Il aborde le grand écran en 1954 mais c’est surtout à partir des années 70 qu’il devient un second rôle familier du cinéma français. Il est ainsi chef de cabinet dans Nada (1974) de Claude Chabrol, directeur de discothèque dans Le corps de mon ennemi (1976) de Henri Verneuil, magnat de presse dans Inspecteur la Bavure (1980) de Claude Zidi, ou colonel dans Coup de torchon (1981) de Bertrand Tavernier.
François Perrot est également chirurgien dans Hôtel des Amériques (1981) d’André Téchiné, mafieux dans Le choc (1982) de Robin Davis, médecin dans La femme de mon pote (1983) de Bertrand Blier, réalisateur dans Merci la vie (1991) de Bertrand Blier, commissaire dans L’inconnu dans la maison (1992) de Georges Lautner, ou producteur véreux dans Une pour toutes (1999) de Claude Lelouch.
Il tourne aussi avec Roger Vadim, Jean-François Adam, Christian de Chalonge, Costa-Gavras, Pierre Granier-Deferre ou Diane Kurys, tout en étant actif à la télévision.
Sa composition du capitaine Perrin, embarrassé avec la tombe du soldat inconnu dans La vie et rien d’autre (1989) de Bertrand Tavernier, lui vaut une nomination au César du meilleur acteur dans un second rôle. Le cinéaste lui offrira son dernier rôle avec Quai d’Orsay (2013), dans lequel il joue le père de Thierry Lhermitte.
