吴晗于1909年8月11日出生于浙江义乌，原名吴春晗，字辰伯。家庭经济时常颠簸于温饱与小康之间。其父吴滨珏，秀才出身，家道颇严。吴晗少年聪慧，自小就对历史尤其明史产生了浓厚兴趣。吴晗不仅早慧，而且早熟，12岁时到金华读中学，广读博览，一边吸收梁启超变革维新的思想，一边还学会了打麻将、抽烟，逃学旷课，无所不有，总之，他不是一个"乖孩子"。
1925年吴晗中学毕业，因家道衰落，遂在本村小学教书，赚取一点工资贴补家用。但吴晗志不在此，1928年他独自离家出走，辗转来到杭州考入之江大学预科;一年后该校停办，又前往上海，考入中国公学。从此，他与胡适结下不解之缘--胡适此时正是该校校长。
进入中国公学，吴晗即成为胡适门生，不久写下《西汉的经济状况》一文，深得胡适赞赏。1930年3月19日，吴径直写信向胡适讨教自己在整理《佛国记》时遇到的问题："明知先生很忙，不过除了先生之外，我实在想不出一个比先生更能用科学的方法来解决和指导路径的人。"不久，胡适离开中国公学，吴晗则追随北上，经人介绍，由顾颉刚安排在燕京大学图书馆当馆员。此间，他写下《胡应麟年谱》，并以此成为他正式研究明史的开端。吴晗再度为此写信讨教胡适，胡适在收信的第二天即给吴晗回信，对其作品大加赞赏，并约吴晗"星期有暇请来谈"。从此，吴晗成为胡适的"弟子"。
