Det oprindelige formål med at spærre en person inde i et fængsel var ikke at straffe vedkommende, men var et middel til at holde gerningsmanden til en forbrydelse tilbage, indtil den egentlige straf kunne gennemføres. Dette var normalt i form af korporlig afstraffelse, der havde til formål at påføre den skyldige person smerte, som f.eks. at blive slået med en pisk, eller dødsstraf, som brugte en række forskellige metoder til at kræve dømt personers liv.
London er kendt som fødestedet for moderne fængselsvæsen. En filosof ved navn Jeremy Bentham var imod dødsstraf og skabte derfor et koncept for et fængsel, der skulle bruges til at holde fanger som en form for straf. Bentham udarbejdede planer for et anlæg, hvor fanger skulle opholde sig i længere perioder. Hans design skulle sikre, at de mennesker, der blev låst inde, aldrig ville vide, om de blev overvåget af vagter eller ej, hvilket han mente ville gøre det muligt for fængslet at spare penge. Da de indsatte ikke kunne vide med sikkerhed, hvor mange vagter der var til stede, mente Bentham, ville det være nødvendigt at ansætte færre betjente for at opretholde freden. I sidste ende blev dette fængsel aldrig bygget, men konceptet om at bruge fængsler som en form for langtidsbestraffelse slog igennem.
I det 19. århundrede blev fængsler bygget udelukkende med det formål at huse indsatte. De havde til formål at afskrække folk fra at begå forbrydelser. Folk, der blev fundet skyldige i forskellige forbrydelser, blev sendt til disse fængsler og frataget deres personlige frihedsrettigheder. De indsatte blev ofte tvunget til at udføre hårdt arbejde, mens de var indespærret, og til at leve under meget barske forhold. Inden længe blev et af målene med en fængselsstraf rehabilitering af de indsatte. Mange mennesker mente, at frygten for at blive låst inde ville være nok til at afskrække en indsat fra nogensinde at begå en ny forbrydelse, men andre teorier mente, at der burde indføres politikker, der kunne hjælpe med at reformere fanger, før de blev sat på fri fod. Disse politikker omfatter mentalundersøgelser, uddannelsesprogrammer og nogle gange endda langt mere drastiske foranstaltninger som f.eks. elektrochokterapi. Et modsat synspunkt til de rehabiliterende virkninger af fængselsophold hævder, at fængselsophold faktisk vil få folk til at blive endnu mere involveret i et liv med kriminalitet, fordi de bliver så indhyllet i et kriminelt samfund, mens de lever sammen med andre indsatte. Uanset disse modstridende holdninger til rehabilitering af kriminelle er fængselsstraf fortsat en af de mest almindelige former for straf i hele verden.