Jerry Adler est né dans une famille en lien avec le spectacle. Son père, Philip Adler, était le propriétaire d’une douzaine de théâtres à Broadway. Sa cousine, Stella Adler, a dirigé un célèbre cours d’art dramatique. Son cousin, Luther Adler, était comédien réputé.
Lui-même se lance dans le management théâtral en 1950. Le nom de Jerry Adler est vite associé à plusieurs succès de la scène, dont la comédie musicale My Fair Lady (1956), dont George Cukor tirera un film au titre éponyme. Il est également impliqué dans la production de Coco (1969), interprété par Katharine Hepburn puis Danielle Darrieux.
Si les téléspectateurs se souviennent de son rôle dans Herman “Hesh” Rabkin dans la série Les Soprano (1999-2007), Jerry Adler obtient aussi plusieurs seconds rôles au cinéma, où il avait débuté en 1992 dans L’œil public de Carl Franklin.
Son interprétation la plus célèbre demeure celle de Paul House dans Meurtre mystérieux à Manhattan (1993) de Woody Allen, aux côtés de l’acteur réalisateur et de Diane Keaton. Une composition désopilante pour cette brillante comédie policière, l’un des meilleurs films d’Allen.
Parmi ses autres longs métrages, on peut citer Un cœur en balance (1995) de Jason Alexander, Un éléphant sur les bras (1996) de Howard Franklin et Sous influences (1997) d’Adam Bernstein.
On le revoit dans In Her Shoes (2005) de Curtis Hanson, Jugez moi coupable (2006) de Sidney Lumet ou A Most Violent Year (2014) de J.C. Chandor. Il reste actif sur les tournages jusqu’à la fin des années 2010. Jerry Adler est décédé le 23 août 2025 à l’âge de 96 ans.