Keitel studeerde bij zowel Stella Adler als Lee Strasberg en aan de HB Studio, en kreeg uiteindelijk rollen in enkele Off-Broadway producties. In deze periode deed Keitel auditie voor filmmaker Martin Scorsese en kreeg hij een hoofdrol als “J.R.” in Scorsese’s eerste speelfilm, Who’s That Knocking at My Door (1967). Sindsdien hebben Scorsese en Keitel aan verschillende projecten samengewerkt. Keitel had de hoofdrol in Scorsese’s Mean Streets, die ook Robert De Niro’s doorbraakfilm bleek te zijn. Keitel werkte opnieuw samen met Scorsese in Alice Doesn’t Live Here Anymore (1974), waarin hij een schurkachtige bijrol had, en verscheen opnieuw met Robert De Niro in Scorsese’s Taxi Driver (1976), waarin hij de rol speelde van de pooier van Jodie Foster’s personage.
In 1977 en 1978 speelde Keitel in de regiedebuten van Paul Schrader (Blue Collar, met Richard Pryor en Yaphet Kotto in de hoofdrollen), Ridley Scott (The Duellists, met Keith Carradine in de hoofdrol), en James Toback (Fingers, waarin Keitel een straatschoffie speelde met aspiraties om pianist te worden – een rol die Toback schreef voor Robert De Niro).
Gecast als Captain Willard in Francis Ford Coppola’s Apocalypse Now (1979), was Keitel betrokken bij de eerste week van de hoofdopnamen in de Filippijnen. Coppola was niet gelukkig met Keitels rol van Willard, en verklaarde dat de acteur “het moeilijk vond om hem als een passieve toeschouwer te spelen”. Na het bekijken van de eerste week beelden, Coppola vervangen Keitel met een casting sessie favoriet, Martin Sheen.
Keitel afgedreven naar de obscuriteit gedurende het grootste deel van de jaren 1980. Hij bleef werken op zowel het toneel als op het scherm, maar meestal in de stereotiepe rol van een misdadiger. Keitel speelde een corrupte politieagent in de thriller Copkiller (met in de hoofdrol muzikant John Lydon), voordat hij een bijrol speelde in het romantische drama Falling in Love (1984), met Robert De Niro en Meryl Streep. Tussen 1985 en 1988 was hij de drukste karakteracteur van de wereld en speelde hij in 16 films en telefilms, waaronder Brian De Palma’s maffia-komedie Wise Guys (1986), met Danny DeVito en Joe Piscopo in de hoofdrollen en als Judas in Martin Scorsese’s controversiële The Last Temptation of Christ (1988).
Hij speelde samen met Jack Nicholson in het Chinatown-vervolg The Two Jakes (1990), geregisseerd door Jack Nicholson. Ridley Scott castte Keitel als de sympathieke politieagent in Thelma & Louise in 1991; datzelfde jaar kreeg Keitel een rol in Barry Levinson’s Bugsy, waarvoor hij een Academy Award-nominatie kreeg voor Beste Bijrol. Het jaar daarop speelde Keitel een andere gangster in de Whoopi Goldberg-rol in de komedie Sister Act.
Keitel speelde in 1992 in Quentin Tarantino’s Reservoir Dogs (die hij mede produceerde), waar zijn optreden als “Mr. White” zijn carrière naar een ander niveau tilde. Sindsdien heeft Keitel zijn rollen met zorg gekozen, in een poging om zijn imago te veranderen en een breder acteerbereik te tonen. Een van die rollen was het titelpersonage in Bad Lieutenant, over een zelfhatende, aan drugs verslaafde politieluitenant die zichzelf probeert te verlossen. In 1993 speelde hij mee in de film The Piano, en in Pulp Fiction van Quentin Tarantino speelde hij een reprise van zijn opruimingsdeskundige Victor the Cleaner uit No Return uit 1992, Winston “The Wolf” Wolfe. Keitel speelde de hoofdrol van een politiedetective in Spike Lee’s Clockers (een bewerking van Richard Price’s roman, gecoproduceerd door Martin Scorsese). In 1996 had Keitel een belangrijke rol in Quentin Tarantino en Robert Rodriguez’s film From Dusk till Dawn, en in 1997 speelde hij in het misdaaddrama Cop Land, waarin ook Sylvester Stallone, Ray Liotta en Robert De Niro een hoofdrol speelden.
Zijn latere rollen omvatten de vaderlijke Satan in Little Nicky, een wijze marineman in U-571, ijverige FBI Special agent Sadusky in National Treasure en het vervolg van deze laatste National Treasure: Book of Secrets. In 1999 werd Keitel vervangen door Sydney Pollack op de set van Stanley Kubrick’s Eyes Wide Shut, vanwege conflicten met de opnames, en verscheen hij in Tony Bui’s bekroonde regiedebuut Three Seasons (dat Keitel ook produceerde). Keitel werkte ook opnieuw samen met Jane Campion voor Holy Smoke! (met Kate Winslet in de hoofdrol).
In 2001 speelde Keitel tegengestelde rollen: als denazificatie-onderzoeker van het Amerikaanse leger in de film Taking Sides en als SS-Oberscharführer Erich Muhsfeldt in de film The Grey Zone.
In 2002, op het 24e Internationale Filmfestival van Moskou, werd Keitel geëerd met de Stanislavsky Award voor zijn uitmuntende prestaties in de acteercarrière en toewijding aan de principes van Stanislavsky’s school.
Hij was ook te zien in de Steinlager Pure commercials in Nieuw-Zeeland in 2007. In tegenstelling tot veel Amerikaanse mannelijke acteurs is Keitel naakt verschenen in verschillende films, waaronder full frontal nudity in Bad Lieutenant en The Piano.
In januari 2008 speelde Keitel Jerry Springer in de New York City première van Jerry Springer: The Opera in Carnegie Hall. In 2008 werd Keitel gecast in de rol van detective Gene Hunt in ABC’s kortstondige Amerikaanse remake van de succesvolle Britse tijdreis-politiedramaserie Life on Mars.
In juni 2009 maakte hij een cameo appearance in de Jay-Z video voor “D.O.A. (Death of Auto-Tune)”, een knipoog naar zijn Brooklyn afkomst. In 2013 verscheen hij in een videoclip voor “Pretty Hurts” van Beyoncé.
In 2013 speelde hij de hoofdrol in de onafhankelijke film A Farewell to Fools.
Tussen 2014 en begin 2020 speelde hij zijn rol van Winston Wolfe uit Pulp Fiction opnieuw als onderdeel van een 40 miljoen pond kostende televisiereclamecampagne voor de Britse verzekeringsmaatschappij Direct Line.