Keitel studoval u Stelly Adlerové a Lee Strasberga a v HB Studiu a nakonec získal role v některých mimobroadwayských produkcích. V této době se Keitel zúčastnil konkurzu u režiséra Martina Scorseseho a získal hlavní roli „J. R.“, ve Scorseseho prvním celovečerním filmu Kdo to klepe na mé dveře (1967). Od té doby Scorsese a Keitel spolupracovali na několika projektech. Keitel si zahrál hlavní roli ve Scorseseho filmu Mean Streets, který se zároveň stal průlomovým filmem Roberta De Nira. Keitel se Scorsesem znovu spolupracoval na filmu Alice už tady nebydlí (1974), v němž měl vedlejší zápornou roli, a znovu se objevil s Robertem De Nirem ve Scorseseho filmu Taxikář (1976), kde hrál roli pasáka postavy Jodie Fosterové.
V letech 1977 a 1978 hrál Keitel v režijních debutech Paula Schradera (Modrý límeček, spolu s Richardem Pryorem a Yaphetem Kottem), Ridleyho Scotta (Duelanti, spolu s Keithem Carradinem) a Jamese Tobacka (Prsty, v němž Keitel hrál pouličního chuligána s ambicemi stát se pianistou – roli, kterou Toback napsal pro Roberta De Nira).
Keitel byl obsazen do role kapitána Willarda ve filmu Francise Forda Coppoly Apocalypse Now (1979) a účastnil se prvního týdne hlavního natáčení na Filipínách. Coppola nebyl s Keitelovým pojetím Willarda spokojen a uvedl, že pro herce „bylo obtížné zahrát ho jako pasivního diváka“. Po zhlédnutí záběrů z prvního týdne Coppola nahradil Keitela oblíbencem z castingového sezení Martinem Sheenem.
Keitel upadl po většinu 80. let v zapomnění. Nadále pracoval na divadelních prknech i na filmovém plátně, ale obvykle ve stereotypních rolích grázlů. V roce 1983 si Keitel zahrál zkorumpovaného policistu v thrilleru Copkiller (spolu s hudebníkem Johnem Lydonem), poté přijal vedlejší roli v romantickém dramatu Zamilovanost (1984) s Robertem De Nirem a Meryl Streepovou v hlavních rolích. V letech 1985-1988 byl nejzaměstnanějším charakterním hercem a objevil se v 16 filmech a televizních filmech, včetně mafiánské komedie Briana De Palmy Chytráci (1986) s Dannym DeVitem a Joe Piscopem v hlavních rolích a jako Jidáš v kontroverzním filmu Martina Scorseseho Poslední pokušení Krista (1988).
Společně s Jackem Nicholsonem si zahrál v pokračování Čínské čtvrti Dva Jakeové (1990), které režíroval Jack Nicholson. Ridley Scott obsadil Keitela do role sympatického policisty ve filmu Thelma &Louise v roce 1991; ve stejném roce Keitel získal roli ve filmu Barryho Levinsona Bugsy, za kterou byl nominován na Oscara za nejlepší mužský herecký výkon ve vedlejší roli. V následujícím roce si Keitel zahrál dalšího mafiána v komedii Sister Act s Whoopi Goldbergovou.
Keitel si v roce 1992 zahrál ve filmu Quentina Tarantina Reservoir Dogs (který spoluprodukoval), kde jeho role „pana Whitea“ posunula jeho kariéru na jinou úroveň. Od té doby si Keitel pečlivě vybírá role, snaží se změnit svou image a ukázat širší herecký záběr. Jednou z těchto rolí byla titulní postava ve filmu Bad Lieutenant (Špatný poručík) o sebenenávidějícím, na drogách závislém policejním poručíkovi, který se snaží vykoupit. V roce 1993 si zahrál ve filmu Piano a ve filmu Quentina Tarantina Pulp Fiction si zahrál zjevnou reprízu svého experta na úklid Viktora Čističe z filmu Bez návratu z roku 1992, Winstona „Vlka“ Wolfa. Keitel si zahrál policejního detektiva ve filmu Spikea Leeho Clockers (adaptace románu Richarda Price v koprodukci s Martinem Scorsesem). V roce 1996 měl Keitel hlavní roli ve filmu Quentina Tarantina a Roberta Rodrigueze Od soumraku do úsvitu a v roce 1997 hrál v kriminálním dramatu Země policajtů, kde si zahráli také Sylvester Stallone, Ray Liotta a Robert De Niro.
Mezi jeho pozdější role patří otcovský Satan ve filmu Malý Nicky, moudrý námořník ve filmu U-571, pilný zvláštní agent FBI Sadusky ve filmu Národní poklad a jeho pokračování Národní poklad: Kniha tajemství. V roce 1999 byl Keitel kvůli konfliktům při natáčení filmu Stanleyho Kubricka Eyes Wide Shut nahrazen Sydney Pollackem a objevil se v oceňovaném režijním debutu Tonyho Buiho Three Seasons (který Keitel také produkoval). Keitel se také znovu spojil s Jane Campionovou ve filmu Holy Smoke! (s Kate Winslet v hlavní roli).
V roce 2001 si Keitel zahrál protikladné role: vyšetřovatele americké armády pro denacifikaci ve filmu Taking Sides a SS-Oberscharführera Ericha Muhsfeldta ve filmu Šedá zóna.
V roce 2002 byl Keitel na 24. mezinárodním filmovém festivalu v Moskvě vyznamenán Stanislavského cenou za mimořádné úspěchy v herecké kariéře a oddanost principům Stanislavského školy.
V roce 2007 se také objevil v reklamě Steinlager Pure na Novém Zélandu. Na rozdíl od mnoha amerických mužských herců se Keitel objevil nahý v několika filmech, včetně plné frontální nahoty ve filmech Bad Lieutenant a The Piano.
V lednu 2008 hrál Keitel Jerryho Springera v newyorské premiéře filmu Jerry Springer: The Opera v Carnegie Hall. V roce 2008 byl Keitel obsazen do role detektiva Genea Hunta v krátce trvajícím americkém remaku úspěšného britského policejního seriálu Life on Mars (Život na Marsu), který vysílala stanice ABC.
V červnu 2009 se objevil ve videoklipu Jay-Zho k písni „D.O.A. (Death of Auto-Tune)“, což byla narážka na jeho brooklynský původ. V roce 2013 se objevil ve videoklipu k písni „Pretty Hurts“ od Beyoncé.
V roce 2013 si zahrál v nezávislém filmu A Farewell to Fools.
Mezi lety 2014 a 2020 si zopakoval roli Winstona Wolfa z Pulp Fiction v rámci televizní reklamní kampaně za 40 milionů liber pro britskou pojišťovací společnost Direct Line.
V roce 2013 se objevil v klipu k písni „Pretty Hurts“ od Beyoncé.