Otto I syntyi 23. marraskuuta 912 Saksan Henrik I:n ja hänen vaimonsa Mathilden poikana ja seuraajana. Isänsä kuoleman jälkeen hänet kruunattiin kuninkaaksi Aachenissa vuonna 936. Kehittäessään rohkeasti isänsä aloittamaa politiikkaa Otto antoi suuria kuninkaallisia maa-alueita piispoille ja apoteille ja loi tiiviin liiton kruunun ja kirkon välille.
Otto rakasti erityisesti Magdeburgia ja palasi jatkuvasti suosikkipalatsiinsa. Hänen ensimmäinen vaimonsa Editha, englantilainen prinsessa, oli saanut Magdeburgin aamulahjaksi heidän häissään (929/30). Vuonna 937 Otto perusti Magdeburgiin benediktiiniluostarin ja omisti sen Pyhälle Mauricukselle.
Editha kuoli vuonna 946 ja hänet haudattiin Pyhän Mauricuksen luostarin kirkkoon. Kuollessaan Editha oli jättänyt jälkeensä tyttären ja pojan, Luidgardin ja Luidolfin. Otto avioitui uudelleen pian sen jälkeen. Toiseksi vaimokseen hän valitsi leskeksi jääneen italialaisen kuningattaren Adelaiden. Myös Adelaide synnytti hänelle kaksi lasta, Oton (myöhemmin Otto II) ja Mathilden.
Otto sai kunnianosoituksen ”Suuri”, kun hän voitti magyarit Lechfieldin taistelussa vuonna 955, ja tämä voitto palautti väliaikaisesti rauhan hänen valtakuntansa itärajalla. Samana vuonna hän järjesti monumentaalisen katedraalin pystyttämisen Moritzin kirkon, nykyisen Magdeburgin tuomiokirkon edeltäjän, paikalle.
Otto I ei itse päässyt todistamaan katedraalinsa pystyttämistä, koska hän vietti paljon aikaa Italiassa. Siellä hän saavutti valtansa huipun. Vuonna 962 Otto kruunattiin Rooman Pyhän Rooman keisariksi Pyhän Pietarin katedraalissa yhdessä vaimonsa Adelaiden kanssa. Hän oli ensimmäinen saksalainen kuningas, joka elvytti keisarin arvonimen. Vuonna 972 keisaripari palasi Magdeburgiin, ja vuonna 973, palmusunnuntaina, he viettivät katedraalin vihkiäisiä. Se oli sekä ensimmäinen että viimeinen kerta, kun keisari saattoi juhlia omaa katedraaliaan kulkueella. Otto Suuri kuoli 7. toukokuuta 973 Memlebenissä. Vanhan perinteen mukaan hänen sydämensä haudattiin hänen kuolinpaikalleen (Memlebeniin) ja hänen jäännöksensä haudattiin Magdeburgin tuomiokirkon hautaan.