Huizinga werd geboren in Groningen. Zijn vader, Dirk Huizinga, was daar hoogleraar fysiologie. Zijn moeder, Jacoba Tonkens, stierf toen Johan 2 jaar oud was. In Groningen genoot Johan ook zijn middelbare scholing aan het stedelijk gymnasium. In 1891 schreef hij zich in aan de Groninger universiteit, waar hij vier jaar studeerde. Hij legde zich voornamelijk toe op de vergelijkende taalkunde. Na afloop van zijn studie startte Huizinga in Leipzig zijn promotieonderzoek dat hij in 1897 afrondde.

In de jaren daarna doceerde hij geschiedenis in verschillende Nederlandse plaatsen, om in 1905 terug te keren naar zijn geboortestad waar hij zich aan de universiteit verbond.

In 1915 aanvaardde Huizinga de benoeming tot hoogleraar algemene geschiedenis te Leiden. In Leiden zou Huizinga het boek schrijven waar hij wereldfaam mee verwierf; Herfsttij der middeleeuwen. Dit boek verscheen in 1924 in het Duits en het Engels. Hiermee brak Huizinga internationaal door als historicus van naam.

Huizinga is de grondlegger van de Nederlandse cultuurgeschiedenis en gaf zijn naam aan het Huizinga Instituut voor cultuurgeschiedenis.