Keitel studerade för både Stella Adler och Lee Strasberg och vid HB Studio och fick så småningom roller i några Off-Broadway-produktioner. Under denna tid provspelade Keitel för filmskaparen Martin Scorsese och fick en huvudroll som ”J.R.” i Scorseses första långfilm, Who’s That Knocking at My Door (1967). Sedan dess har Scorsese och Keitel arbetat tillsammans i flera projekt. Keitel hade huvudrollen i Scorseses Mean Streets, som också visade sig vara Robert De Niros genombrottsfilm. Keitel samarbetade på nytt med Scorsese i Alice Doesn’t Live Here Anymore (1974), där han hade en skurkaktig biroll, och uppträdde tillsammans med Robert De Niro igen i Scorseses Taxi Driver (1976), där han spelade rollen som Jodie Fosters karaktärs hallick.
Åren 1977 och 1978 medverkade Keitel i regidebuterna av Paul Schrader (Blue Collar, med Richard Pryor och Yaphet Kotto), Ridley Scott (The Duellists, med Keith Carradine) och James Toback (Fingers, där Keitel spelade en gatubarn med ambitioner att bli pianist – en roll som Toback hade skrivit för Robert De Niro att spela).
Keitel fick rollen som kapten Willard i Francis Ford Coppolas Apocalypse Now (1979) och var med under den första veckan av huvudfotograferingen i Filippinerna. Coppola var inte nöjd med Keitels roll som Willard och förklarade att skådespelaren ”fann det svårt att spela honom som en passiv åskådare”. Efter att ha sett den första veckans filmer ersatte Coppola Keitel med en favorit från castingsessionen, Martin Sheen.
Keitel föll i glömska under större delen av 1980-talet. Han fortsatte att arbeta både på scen och film, men oftast i den stereotypa rollen som skurk. Keitel spelade en korrupt polis i thrillern Copkiller från 1983 (med musikern John Lydon i huvudrollen), innan han tog en biroll i det romantiska dramat Falling in Love (1984) med Robert De Niro och Meryl Streep i huvudrollerna. Mellan 1985 och 1988 var han den mest upptagna karaktärsskådespelaren som medverkade i 16 filmer och tv-filmer, bland annat Brian De Palmas maffiakomedi Wise Guys (1986) med Danny DeVito och Joe Piscopo i huvudrollerna och som Judas i Martin Scorseses kontroversiella The Last Temptation of Christ (1988).
Han medverkade tillsammans med Jack Nicholson i Chinatown-uppföljaren The Two Jakes (1990), regisserad av Jack Nicholson. Ridley Scott gav Keitel rollen som den sympatiska polisen i Thelma & Louise 1991; samma år fick Keitel en roll i Barry Levinsons Bugsy, för vilken han fick en Oscarsnominering för bästa biroll. Året därpå spelade Keitel en annan gangster i komedin Sister Act med Whoopi Goldberg i huvudrollen.
Keitel spelade en huvudroll i Quentin Tarantinos Reservoir Dogs (som han var medproducent till) 1992, där hans roll som ”Mr White” tog hans karriär till en annan nivå. Sedan dess har Keitel valt sina roller med omsorg och försökt ändra sin image och visa ett bredare skådespelarutbud. En av dessa roller var titelkaraktären i Bad Lieutenant, som handlar om en självföraktande, drogberoende poliskommissarie som försöker förlåta sig själv. Han medverkade i filmen The Piano 1993 och spelade en uppenbar repris av sin Victor the Cleaner från 1992 års ”No Return”-rensningsexpert, Winston ”The Wolf” Wolfe i Quentin Tarantinos Pulp Fiction. Keitel spelade huvudrollen som polisdetektiv i Spike Lees Clockers (en filmatisering av Richard Prices roman, samproducerad av Martin Scorsese). År 1996 hade Keitel en viktig roll i Quentin Tarantinos och Robert Rodriguez film From Dusk till Dawn, och 1997 spelade han huvudrollen i kriminaldramat Cop Land, där även Sylvester Stallone, Ray Liotta och Robert De Niro medverkade.
Hans senare roller omfattar bland annat den faderliga Satan i Little Nicky, en klok marinkårssoldat i U-571, den flitiga FBI-specialagenten Sadusky i National Treasure och den sistnämnda filmens uppföljare National Treasure: Book of Secrets. 1999 ersattes Keitel av Sydney Pollack på inspelningsplatsen för Stanley Kubricks Eyes Wide Shut på grund av inspelningskonflikter och medverkade i Tony Buis prisbelönta regidebut Three Seasons (som Keitel också producerade). Keitel samarbetade också på nytt med Jane Campion i Holy Smoke! (med Kate Winslet i huvudrollen).
År 2001 spelade Keitel motsatta roller: som en avnazifieringsutredare från den amerikanska armén i filmen Taking Sides och som SS-Oberscharführer Erich Muhsfeldt i filmen The Grey Zone.
I samband med den 24:e internationella filmfestivalen i Moskva 2002 hedrades Keitel med Stanislavskijpriset för sina enastående insatser i skådespelarkarriären och sin hängivenhet till principerna i Stanislavskijs skola.
Han medverkade också i Steinlager Pure-reklamfilmerna i Nya Zeeland 2007. Till skillnad från många amerikanska manliga skådespelare har Keitel uppträtt naken i flera filmer, bland annat med full frontal nakenhet i Bad Lieutenant och The Piano.
I januari 2008 spelade Keitel Jerry Springer i New York City-premiären av Jerry Springer: The Opera på Carnegie Hall. År 2008 fick Keitel rollen som kriminalinspektör Gene Hunt i ABC:s kortlivade amerikanska remake av den framgångsrika brittiska polisdramaserien Life on Mars.
I juni 2009 gjorde han en cameo i Jay-Z:s video till ”D.O.A. (Death of Auto-Tune)”, en blinkning till sitt Brooklyn-ursprung. År 2013 medverkade han i en musikvideo till ”Pretty Hurts” av Beyoncé.
2013 spelade han huvudrollen i independentfilmen A Farewell to Fools.
Mellan 2014 och början av 2020 spelade han återigen sin roll som Winston Wolfe från Pulp Fiction som en del av en TV-reklamkampanj på 40 miljoner pund för det brittiska försäkringsbolaget Direct Line.