Keitel studiował zarówno u Stelli Adler, jak i Lee Strasberga oraz w HB Studio, ostatecznie lądując w rolach w niektórych produkcjach Off-Broadway. W tym czasie Keitel zgłosił się na przesłuchanie do filmowca Martina Scorsese i otrzymał główną rolę jako „J.R.” w pierwszym pełnometrażowym filmie Scorsese, Who’s That Knocking at My Door (1967). Od tego czasu Scorsese i Keitel pracowali razem przy kilku projektach. Keitel zagrał główną rolę w filmie Scorsese Mean Streets, który okazał się również przełomowym filmem dla Roberta De Niro. Keitel ponownie współpracował ze Scorsese przy filmie Alice Doesn’t Live Here Anymore (1974), w którym zagrał czarną rolę drugoplanową, a także pojawił się ponownie u boku Roberta De Niro w filmie Scorsese Taksówkarz (1976), grając rolę alfonsa postaci Jodie Foster.
W 1977 i 1978 roku Keitel wystąpił w debiutach reżyserskich Paula Schradera (Niebieski kołnierzyk, z udziałem Richarda Pryora i Yafeta Kotto), Ridleya Scotta (Pojedynek, z udziałem Keitha Carradine’a) i Jamesa Tobacka (Palce, w którym Keitel zagrał ulicznego bandziora z aspiracjami bycia pianistą – rolę tę Toback napisał dla Roberta De Niro).
Cast jako kapitan Willard w Apocalypse Now (1979) Francisa Forda Coppoli, Keitel był zaangażowany w pierwszym tygodniu zdjęć głównych na Filipinach. Coppola nie był zadowolony z roli Willarda, twierdząc, że aktorowi „trudno było zagrać go jako biernego obserwatora”. Po obejrzeniu pierwszego tygodnia materiału filmowego, Coppola zastąpił Keitela ulubieńcem sesji castingowej, Martinem Sheenem.
Keitel dryfował w zapomnienie przez większość lat 80-tych. Kontynuował pracę zarówno na scenie, jak i na ekranie, ale zazwyczaj w stereotypowej roli bandyty. Keitel zagrał skorumpowanego policjanta w thrillerze Copkiller z 1983 roku (w roli głównej muzyk John Lydon), a następnie zagrał drugoplanową rolę w dramacie romantycznym Zakochani (1984), z Robertem De Niro i Meryl Streep w rolach głównych. W latach 1985-1988 był najbardziej zajętym aktorem charakterystycznym, występując w 16 filmach i telefilmach, w tym w komedii gangsterskiej Briana De Palmy Mądrzy ludzie (1986), z udziałem Danny’ego DeVito i Joe Piscopo oraz jako Judasz w kontrowersyjnym Ostatnim kuszeniu Chrystusa (1988) Martina Scorsese.
Współtworzył główną rolę z Jackiem Nicholsonem w sequelu Chinatown The Two Jakes (1990), w reżyserii Jacka Nicholsona. Ridley Scott obsadził Keitela w roli sympatycznego policjanta w filmie Thelma & Louise w 1991 roku; w tym samym roku Keitel dostał rolę w filmie Bugsy Barry’ego Levinsona, za którą otrzymał nominację do Oscara dla najlepszego aktora drugoplanowego. W następnym roku Keitel zagrał kolejnego gangstera w komedii z Whoopi Goldberg w roli głównej Sister Act.
Keitel wystąpił w 1992 roku w filmie Quentina Tarantino Reservoir Dogs (którego był współproducentem), gdzie jego występ jako „Pan White” przeniósł jego karierę na inny poziom. Od tamtej pory Keitel starannie dobierał role, chcąc zmienić swój wizerunek i pokazać szerszy wachlarz aktorskich możliwości. Jedną z takich ról była tytułowa postać w filmie „Bad Lieutenant”, opowiadającym o nienawidzącym siebie, uzależnionym od narkotyków poruczniku policji, który próbuje odkupić swoje winy. W 1993 roku Keitel wystąpił w filmie Fortepian, a w Pulp Fiction Quentina Tarantino wcielił się w postać eksperta od sprzątania, Winstona „Wilka” Wolfe’a, który był odtwórcą roli Victora Sprzątacza z filmu „Bez powrotu” z 1992 roku. Keitel wystąpił jako detektyw policyjny w filmie Spike’a Lee „Clockers” (adaptacja powieści Richarda Price’a, której współproducentem był Martin Scorsese). W 1996 roku Keitel zagrał główną rolę w filmie Quentina Tarantino i Roberta Rodrigueza Od zmierzchu do świtu, a w 1997 roku wystąpił w dramacie kryminalnym Cop Land, w którym zagrali również Sylvester Stallone, Ray Liotta i Robert De Niro.
Jego późniejsze role obejmują ojcowskiego Szatana w filmie Mały Nicky, mądrego marynarza w U-571, sumiennego agenta specjalnego FBI Sadusky’ego w filmie Skarb narodowy i jego sequelu Skarb narodowy: Księga tajemnic. W 1999 roku, z powodu konfliktów na planie filmu Oczy szeroko zamknięte Stanleya Kubricka, Keitel został zastąpiony przez Sydneya Pollacka i wystąpił w nagradzanym debiucie reżyserskim Tony’ego Bui, Three Seasons (którego Keitel był również producentem wykonawczym). Keitel ponownie współpracował z Jane Campion przy filmie Holy Smoke! (z Kate Winslet).
W 2001 roku Keitel zagrał przeciwstawne role: jako oficer śledczy armii amerykańskiej prowadzący śledztwo w sprawie denazyfikacji w filmie Taking Sides oraz jako SS-Oberscharführer Erich Muhsfeldt w filmie Szara strefa.
W styczniu 2008 roku Keitel zagrał Jerry’ego Springera w nowojorskiej premierze Jerry Springer: The Opera w Carnegie Hall. W 2008 roku Keitel został obsadzony w roli detektywa Gene’a Hunta w krótkim remake’u brytyjskiego serialu Life on Mars.
W czerwcu 2009 roku wystąpił w teledysku Jaya-Z do utworu „D.O.A. (Death of Auto-Tune)”, co było ukłonem w stronę jego brooklyńskich korzeni. W 2013 roku pojawił się w teledysku do utworu „Pretty Hurts” Beyoncé.
W 2013 roku wystąpił w niezależnym filmie A Farewell to Fools.
Między 2014 a początkiem 2020 roku powtórzył swoją rolę Winstona Wolfe’a z Pulp Fiction w ramach telewizyjnej kampanii reklamowej o wartości 40 milionów funtów dla brytyjskiej firmy ubezpieczeniowej Direct Line.
.