Acteur américain, Arthur O’Connell est né à Manhattan, mais a subi le décès de son père à l’âge de deux ans et celui de sa mère à 12 ans. Il a ensuite été élevé par sa tante maternelle, avec ses frères et sœurs. Adolescent, il est d’abord vendeur, puis commence à décrocher des rôles en tant qu’acteur au théâtre vers 1929. Toutefois, il est victime d’une encéphalite en 1934 qui l’éloigne un temps de la scène. C’est finalement à la fin des années 30 qu’il reprend contact avec les planches et qu’il obtient aussi ses premiers seconds rôles au cinéma.
Il interprète souvent des personnages non crédités, mais a le mérite d’apparaître en tant que journaliste dans le chef d’œuvre Citizen Kane (Welles, 1941). Après avoir participé à la Seconde Guerre mondiale, il revient au théâtre et délaisse généralement le cinéma. Ainsi, on ne le retrouve vraiment que dans La cité sans voiles (Dassin, 1948) et L’enjeu (Capra, 1948). Tous ses autres rôles de l’époque sont insignifiants.
Arthur O’Connell connaît enfin la consécration à Broadway avec la comédie musicale Picnic qui obtient un vrai succès. Il reprend d’ailleurs son rôle de Howard Bevans dans la version cinéma tournée par Joshua Logan en 1955, ce qui lui vaut une première nomination à l’Oscar du meilleur second rôle. Désormais, des emplois plus importants lui sont confiés, notamment dans L’homme au complet gris (Johnson, 1956), Arrêt d’autobus (Logan, 1956), Le bal des cinglés (Quine, 1957), L’homme de l’Ouest (Mann, 1958) et surtout Autopsie d’un meurtre (Preminger, 1959) qui lui vaut sa seconde et ultime nomination à l’Oscar du meilleur second rôle masculin.
L’acteur se distingue encore dans Opération jupons (Edwards, 1959), le film familial Misty (Clark, 1961), la comédie Milliardaire pour un jour (Capra, 1961), puis il accepte de plus en plus souvent des emplois à la télévision au cours de la décennie 60. Au grand écran, on le revoit dans La grande course autour du monde (Edwards, 1965), Le témoin du troisième jour (Smight, 1965), Le voyage fantastique (Fleischer, 1966), La guerre des cerveaux (Haskin, 1968), Le reptile (Mankiewicz, 1970), Ben (Karlson, 1972) et L’aventure du Poséidon (Neame, 1972). Après plusieurs rôles à la télévision, Arthur O’Connell est contraint de mettre fin à sa carrière au milieu des années 70 à cause de la maladie d’Alzheimer.
Il décède en 1981, des suites de cette maladie à l’âge de 73 ans.
