Un de ses ascendants est Marin Duval, un protestant français, né à Laval ou Nantes au XVIIe siècle[1]. Il étudia le théâtre au Neighborhood Playhouse School of the Theatre à New York. Il fait ses débuts à l'écran plutôt tardivement avec le rôle de Boo Radley dans To Kill A Mockingbird (1962) et obtient immédiatement un succès critique. Pourtant il ne perce réellement qu'une décennie plus tard, en jouant le rôle de Tom Hagen dans Le Parrain (1972) et Le Parrain, 2ème partie (1974). Il reçut une nomination aux Oscars comme meilleur second rôle dans A Civil Action et pour son rôle du Colonel Kilgore dans le fameux Apocalypse Now (1979). Il fut nommé aussi comme meilleur acteur aux Oscars pour son rôle dans The Great Santini (1980) et dans The Apostle (1997). Il gagne finalement le prix pour son rôle dans Tender Mercies (1983).

Il a réalisé deux films au succès critique : The Apostle, et Assassination tango, un thriller sur l'un de ses sujets favoris : le tango.