Frédéric Pierrot débute au cinéma dans La vie et rien d’autre (1989) de Bertrand Tavernier. Les années 90 le voient briller dans des petits rôles, flic dans Mon homme de Bertrand Blier, psychiatre dans Les aveux de l’innocent de Jean-Pierre Améris, ou chef de train dans Capitaine Conan de Tavernier, trois films sortis en 1996.
On le voit aussi dans le meilleur du jeune cinéma français, avec Artemisia (1997) d’Agnès Merlet, ou La vie moderne (2000) de Laurence Ferreira Barbosa. Par la suite, il poursuit les compositions secondaires, dans des films aussi divers que Les diables (2002) de Christophe Ruggia, Il y a longtemps que je t’aime (2008) de Philippe Claudel, ou La guerre est déclarée (2011) de Valérie Donzelli.
Son rôle de commandant dans Polisse (2011) de Maïwenn lui vaut une nomination au César du meilleur acteur dans un second rôle. Il est ensuite excellent en beau-père dépassé par les événements de Jeune et jolie (2013) de François Ozon, Léon Tolstoï dans Anton Tchekhov 1890 (2015) de René Féret, directeur de cirque dans Chocolat (2016) de Roschdy Zem, capitaine de police dans Grâce à Dieu (2019) de François Ozon, inspecteur des affaires sociales dans Hors normes (2019) de Todelano et Nakache, ou père de famille dans Madre (2020) de Rodrigo Sorogoyen.
Frédéric Pierrot est également actif au théâtre, et se voit nommé au Molière du comédien dans un second rôle pour Opening Night de John Cassavetes, mis en scène par Cyril Teste au théâtre des Bouffes-du-Nord (2019).