Vankilaan sulkemisen alkuperäisenä tarkoituksena ei ollut rangaista ihmistä, vaan se oli keino pitää rikokseen syyllistynyt vangittuna, kunnes varsinainen rangaistus voitiin suorittaa. Tämä tapahtui yleensä ruumiillisen rangaistuksen muodossa, jonka tarkoituksena oli aiheuttaa syylliselle kipua, kuten ruoskalla hakkaaminen, tai kuolemanrangaistuksen muodossa, jossa käytettiin erilaisia menetelmiä tuomittujen henkilöiden hengen vaatimiseksi.
Lontoo tunnetaan nykyaikaisen vankeusrangaistuksen syntypaikkana. Filosofi nimeltä Jeremy Bentham vastusti kuolemanrangaistusta ja loi siksi käsitteen vankilasta, jota käytettäisiin vankien pitämiseen rangaistusmuotona. Bentham laati suunnitelmat laitoksesta, jossa vangit olisivat pitkiä aikoja. Hänen suunnitelmansa tarkoituksena oli varmistaa, etteivät lukitut ihmiset koskaan tietäisi, vahtivatko vartijat heitä vai eivät, mikä hänen mielestään antaisi vankilalle mahdollisuuden säästää rahaa. Koska vangit eivät voineet olla varmoja siitä, kuinka monta vartijaa oli paikalla, Bentham järkeili, rauhaa ylläpitäviä virkamiehiä tarvitsisi palkata vähemmän. Lopulta tätä vankilaa ei koskaan rakennettu, mutta ajatus vankiloiden käyttämisestä pitkän aikavälin rangaistusmuotona sai jalansijaa.
1900-luvulle tultaessa vankiloita alettiin rakentaa pelkästään vankien majoittamista varten. Niiden tarkoituksena oli estää ihmisiä tekemästä rikoksia. Ihmiset, jotka todettiin syyllisiksi erilaisiin rikoksiin, lähetettiin näihin rangaistuslaitoksiin ja heiltä riistettiin henkilökohtaiset vapaudet. Vangit pakotettiin usein tekemään raskasta työtä vankilassa ollessaan ja elämään hyvin ankarissa olosuhteissa. Ennen pitkää yhdeksi vankeusrangaistuksen tavoitteeksi tuli vankien kuntouttaminen. Monet olivat sitä mieltä, että pelko lukkojen takana olemisesta riittäisi estämään vankia tekemästä uutta rikosta, mutta toisten teorioiden mukaan olisi otettava käyttöön toimintatapoja, jotka auttaisivat vankien parantamisessa ennen heidän vapauttamistaan. Näihin politiikkoihin kuuluivat mielentilatutkimukset, koulutusohjelmat ja joskus jopa paljon rajummat toimenpiteet, kuten sähköshokkihoito. Vankeusrangaistuksen kuntouttavia vaikutuksia vastustavassa näkemyksessä väitetään, että vankeusrangaistus itse asiassa saa ihmiset sitoutumaan entistä enemmän rikolliseen elämään, koska he elävät muiden vankien kanssa niin tiiviisti rikollisessa yhteiskunnassa. Riippumatta näistä ristiriitaisista mielipiteistä rikollisten kuntouttamisesta, vankeusrangaistus on edelleen yksi yleisimmistä rangaistusmuodoista kaikkialla maailmassa.