Keitel ha studiato sotto Stella Adler e Lee Strasberg e all’HB Studio, ottenendo alla fine ruoli in alcune produzioni Off-Broadway. Durante questo periodo, Keitel fece un’audizione per il regista Martin Scorsese e ottenne un ruolo da protagonista come “J.R.”, nel primo film di Scorsese, Who’s That Knocking at My Door (1967). Da allora, Scorsese e Keitel hanno lavorato insieme in diversi progetti. Keitel ha avuto il ruolo da protagonista in Mean Streets di Scorsese, che è stato anche il film di svolta di Robert De Niro. Keitel ha collaborato nuovamente con Scorsese per Alice Doesn’t Live Here Anymore (1974), in cui aveva un ruolo di supporto malvagio, ed è apparso nuovamente con Robert De Niro in Taxi Driver (1976) di Scorsese, interpretando il ruolo del pappone del personaggio di Jodie Foster.
Nel 1977 e 1978, Keitel recitò nei debutti alla regia di Paul Schrader (Blue Collar, con Richard Pryor e Yaphet Kotto), Ridley Scott (The Duellists, con Keith Carradine), e James Toback (Fingers, in cui Keitel interpretava un teppista di strada con aspirazioni da pianista – un ruolo che Toback aveva scritto per Robert De Niro).
Cast nel ruolo del capitano Willard in Apocalypse Now (1979) di Francis Ford Coppola, Keitel fu coinvolto nella prima settimana di riprese principali nelle Filippine. Coppola non era soddisfatto dell’interpretazione di Keitel di Willard, affermando che l’attore “trovava difficile interpretarlo come uno spettatore passivo”. Dopo aver visto le riprese della prima settimana, Coppola sostituì Keitel con un favorito della sessione di casting, Martin Sheen.
Keitel andò alla deriva nell’oscurità per la maggior parte degli anni ’80. Continuò a lavorare sia sul palcoscenico che sullo schermo, ma di solito nel ruolo stereotipato di un teppista. Keitel interpretò un poliziotto corrotto nel thriller del 1983 Copkiller (co-protagonista il musicista John Lydon), prima di assumere un ruolo di supporto nel dramma romantico Falling in Love (1984), con Robert De Niro e Meryl Streep. Tra il 1985 e il 1988, è stato il caratterista più impegnato in giro, apparendo in 16 film e telefilm, tra cui la commedia mafiosa Wise Guys (1986) di Brian De Palma, con Danny DeVito e Joe Piscopo e nel ruolo di Giuda nel controverso L’ultima tentazione di Cristo (1988) di Martin Scorsese.
Ha recitato con Jack Nicholson nel sequel Chinatown The Two Jakes (1990), diretto da Jack Nicholson. Ridley Scott scelse Keitel come simpatico poliziotto in Thelma & Louise nel 1991; lo stesso anno, Keitel ottenne un ruolo in Bugsy di Barry Levinson, per il quale ricevette una nomination agli Oscar come miglior attore non protagonista. L’anno seguente, Keitel ha interpretato un altro mafioso nella commedia con Whoopi Goldberg, Sister Act.
Keitel ha recitato in Reservoir Dogs di Quentin Tarantino (che ha co-prodotto) nel 1992, dove la sua interpretazione di “Mr. Da allora, Keitel ha scelto i suoi ruoli con cura, cercando di cambiare la sua immagine e mostrare una gamma di recitazione più ampia. Uno di questi ruoli è stato il protagonista di Bad Lieutenant, su un tenente di polizia che odia se stesso e si droga, che cerca di redimersi. Ha recitato nel film The Piano nel 1993, e ha interpretato un’apparente ripresa del suo Victor the Cleaner da “Nessun ritorno” del 1992, esperto di pulizia, Winston “The Wolf” Wolfe in Pulp Fiction di Quentin Tarantino. Keitel ha recitato come detective della polizia in Clockers di Spike Lee (un adattamento del romanzo di Richard Price, co-prodotto da Martin Scorsese). Nel 1996, Keitel ebbe un ruolo importante nel film di Quentin Tarantino e Robert Rodriguez Dal tramonto all’alba, e nel 1997, recitò nel dramma poliziesco Cop Land, interpretato anche da Sylvester Stallone, Ray Liotta e Robert De Niro.
I suoi ruoli successivi includono il padre Satana in Little Nicky, un saggio uomo della marina in U-571, il diligente agente speciale dell’FBI Sadusky in National Treasure e il suo sequel National Treasure: Book of Secrets. Nel 1999, Keitel è stato sostituito da Sydney Pollack sul set di Eyes Wide Shut di Stanley Kubrick, a causa di conflitti di ripresa, ed è apparso nel premiato debutto alla regia di Tony Bui, Three Seasons (che Keitel ha anche prodotto). Keitel ha anche collaborato nuovamente con Jane Campion per Holy Smoke! (con Kate Winslet).
Nel 2001 Keitel ha interpretato ruoli opposti: come investigatore della denazificazione dell’esercito americano nel film Taking Sides e come SS-Oberscharführer Erich Muhsfeldt nel film The Grey Zone.
Nel 2002, al 24° Festival Internazionale del Cinema di Mosca, Keitel è stato insignito del Premio Stanislavskij per il suo eccezionale risultato nella carriera di attore e per la sua devozione ai principi della scuola di Stanislavskij.
Ha anche recitato nella pubblicità della Steinlager Pure in Nuova Zelanda nel 2007. A differenza di molti attori maschi americani, Keitel è apparso nudo in diversi film, compresa la nudità frontale completa in Bad Lieutenant e The Piano.
Nel gennaio 2008, Keitel ha interpretato Jerry Springer nella prima di New York City di Jerry Springer: The Opera alla Carnegie Hall. Nel 2008, Keitel ha interpretato il ruolo del detective Gene Hunt nel remake statunitense di breve durata della serie britannica di successo Life on Mars. Nel giugno 2009, ha fatto un cameo nel video di Jay-Z per “D.O.A. (Death of Auto-Tune)”, un cenno alle sue origini di Brooklyn. Nel 2013, è apparso in un video musicale per “Pretty Hurts” di Beyoncé.
Nel 2013, ha recitato nel film indipendente A Farewell to Fools.
Tra il 2014 e l’inizio del 2020, ha ripreso il suo ruolo di Winston Wolfe da Pulp Fiction come parte di una campagna pubblicitaria televisiva da 40 milioni di sterline per la compagnia di assicurazioni britannica Direct Line.