Keitel studerede under både Stella Adler og Lee Strasberg og på HB Studio, og til sidst fik han roller i nogle Off-Broadway-produktioner. I denne periode aflagde Keitel audition for filmskaberen Martin Scorsese og fik en hovedrolle som “J.R.” i Scorseseses første spillefilm, Who’s That Knocking at My Door (1967). Siden da har Scorsese og Keitel arbejdet sammen på flere projekter. Keitel havde hovedrollen i Scorseses Mean Streets, som også viste sig at blive Robert De Niros gennembrudsfilm. Keitel arbejdede igen sammen med Scorsese i Alice Doesn’t Live Here Anymore (1974), hvor han havde en skurkagtig birolle, og han optrådte igen sammen med Robert De Niro i Scorseses Taxi Driver (1976), hvor han spillede rollen som Jodie Fosters figurs alfons.
I 1977 og 1978 medvirkede Keitel i Paul Schrader (Blue Collar, med Richard Pryor og Yaphet Kotto i hovedrollerne), Ridley Scott (The Duellists, med Keith Carradine i hovedrollen) og James Toback (Fingers, hvor Keitel spillede en gadedreng med ambitioner om at blive pianist – en rolle, som Toback skrev til Robert De Niro til at spille).
Keitel fik rollen som kaptajn Willard i Francis Ford Coppolas Apocalypse Now (1979) og var med i den første uge af de primære optagelser i Filippinerne. Coppola var ikke tilfreds med Keitels rolle som Willard, idet han udtalte, at skuespilleren “fandt det svært at spille ham som en passiv tilskuer”. Efter at have set den første uges optagelser erstattede Coppola Keitel med en favorit fra castingsessionen, Martin Sheen.
Keitel drev ind i ubemærkethed gennem det meste af 1980’erne. Han fortsatte med at arbejde både på scenen og på lærredet, men som regel i den stereotype rolle som en bølle. Keitel spillede en korrupt politibetjent i thrilleren Copkiller fra 1983 (med musikeren John Lydon i hovedrollen), inden han fik en birolle i det romantiske drama Falling in Love (1984) med Robert De Niro og Meryl Streep i hovedrollerne. Mellem 1985 og 1988 var han den mest travle karakterskuespiller med 16 film og tv-film, bl.a. Brian De Palmas mafia-komedie Wise Guys (1986) med Danny DeVito og Joe Piscopo i hovedrollerne og som Judas i Martin Scorseses kontroversielle The Last Temptation of Christ (1988).
Han spillede sammen med Jack Nicholson i Chinatown-fortsættelsen The Two Jakes (1990), instrueret af Jack Nicholson. Ridley Scott castede Keitel som den sympatiske politimand i Thelma & Louise i 1991; samme år fik Keitel en rolle i Barry Levinsons Bugsy, for hvilken han modtog en Oscar-nominering for bedste birolle. Det følgende år spillede Keitel en anden gangster i komedien Sister Act med Whoopi Goldberg i hovedrollen.
Keitel medvirkede i Quentin Tarantinos Reservoir Dogs (som han var medproducent af) i 1992, hvor hans præstation som “Mr. White” bragte hans karriere op på et nyt niveau. Siden da har Keitel valgt sine roller med omhu, idet han har forsøgt at ændre sit image og vise et bredere skuespilspektrum. En af disse roller var titelpersonen i Bad Lieutenant, der handler om en selvhadende, narkoafhængig politiløjtnant, der forsøger at forløse sig selv. Han medvirkede i filmen The Piano i 1993 og spillede en tilsyneladende reprise af sin Victor the Cleaner fra 1992’s “No Return”-oprydningsekspert, Winston “The Wolf” Wolfe, i Quentin Tarantinos Pulp Fiction. Keitel spillede en hovedrolle som politidetektiv i Spike Lees Clockers (en filmatisering af Richard Prices roman, co-produceret af Martin Scorsese). I 1996 havde Keitel en stor rolle i Quentin Tarantinos og Robert Rodriguez’ film From Dusk till Dawn, og i 1997 medvirkede han i kriminaldramaet Cop Land, som også havde Sylvester Stallone, Ray Liotta og Robert De Niro i hovedrollerne.
Hans senere roller omfatter den faderlige Satan i Little Nicky, en klog flådemand i U-571, den flittige FBI-specialagent Sadusky i National Treasure og sidstnævntes efterfølger National Treasure: Book of Secrets. I 1999 blev Keitel erstattet af Sydney Pollack på settet af Stanley Kubricks Eyes Wide Shut på grund af optagelseskonflikter og medvirkede i Tony Buis prisbelønnede instruktørdebut, Three Seasons (som Keitel også var executive producer af). Keitel arbejdede også igen sammen med Jane Campion i Holy Smoke! (med Kate Winslet i hovedrollen).
I 2001 spillede Keitel modsatrettede roller: som en afnazificeringsundersøger fra den amerikanske hær i filmen Taking Sides og som SS-Oberscharführer Erich Muhsfeldt i filmen The Grey Zone.
I 2002 blev Keitel ved den 24. internationale filmfestival i Moskva hædret med Stanislavsky-prisen for sine fremragende præstationer i skuespillerkarrieren og sin hengivenhed over for principperne i Stanislavskijs skole.
Han medvirkede også i Steinlager Pure-reklamerne i New Zealand i 2007. I modsætning til mange amerikanske mandlige skuespillere har Keitel optrådt nøgen i flere film, herunder fuld frontal nøgenhed i Bad Lieutenant og The Piano.
I januar 2008 spillede Keitel Jerry Springer i New York City-premieren på Jerry Springer: The Opera i Carnegie Hall i New York City. I 2008 fik Keitel rollen som kriminalbetjent Gene Hunt i ABC’s kortvarige amerikanske genindspilning af den succesfulde britiske tidsrejse-politidrama-serie Life on Mars.
I juni 2009 havde han en cameooptræden i Jay-Z-videoen til “D.O.A. (Death of Auto-Tune)”, som en hilsen til hans Brooklyn-oprindelse. I 2013 optrådte han i en musikvideo til “Pretty Hurts” af Beyoncé.
I 2013 medvirkede han i independentfilmen A Farewell to Fools.
Mellem 2014 og begyndelsen af 2020 gentog han sin rolle som Winston Wolfe fra Pulp Fiction som en del af en tv-reklamekampagne til 40 mio. pund for det britiske forsikringsselskab Direct Line.