吕思勉童年时代受的是旧式教育，6岁起就跟随私塾先生读书，3年以后因家道中落而无力延师教授，改由父母及姐姐指导学习。此后，在父母、师友的帮助下，他开始系统地阅读经学、史学、文学等各种文史典籍。自23岁以后，即专意治史。
1907年11月，常州府中学堂成立，吕思勉应监督（校长）屠宽之聘，任历史、地理教师。初来任教时，还只有24岁，在教师中年纪是最轻的。
吕思勉上地理课，讲到某省，必定带上一幅上海商务印书馆所印《中国大地图》之该省地图，悬挂在教室里。自己一边讲课，一边在所带小黑板上用五彩粉笔画图。先画一个“十”字形，然后画该省四至界线，说明该省地理位置。再在界内画山脉、河流、湖泊，说明山水自然地理，然后加注都市、城镇、关卡以及交通道路等。一课讲完，小黑板上所画地图，已是五彩缤纷。学生听课如同身历其境，永不忘怀。
我国著名的国学大师钱穆是他的学生，据他回忆，吕思勉上课，尽在讲台边来回行走，口中娓娓不断，但绝无一言半句闲话旁语羼入，而时有鸿议新论。
吕思勉在教学的过程中，对学生所表现的钻研创新精神，尤加爱护。一次地理考试，共四道题，每题25分。钱穆偏爱有关吉林省长白山地势军情的第三题，于是先答该题，下笔不止，不料考试时间已到，不得不交卷。吕思勉阅卷后，不仅批了75分，还在试卷后面写了长达数页的批语，以示褒奖。写批语时，几位学生在窗外偷看，看到批语一纸加一纸，竟无休止。吕思勉手握铅笔，写的时间长了就要再削，为了省事，用小刀将铅笔劈成两半，使中间铅条可随手抽出，不断快写。铅条色淡，就在桌上茶杯中蘸水写字。所写纸遇湿而破，无法粘贴，就以手用力拍纸，使之伏贴，继续书写。学生不知其批语写了几张纸，也不知其批语写了些什么。
也许因为既是历史老师，又是地理老师的缘故，吕思勉讲授的地理课，不仅有自然地理、人文地理的内容，而且包括历史地理的知识；讲授的历史课，自然也免不了融合地理知识。这一点对学生产生了很深的影响，钱穆后来治学，颇为注意历史地理的考证。1940年，钱穆为写《史记地名考》，自苏州藕园至上海租界，向老师请教写作中碰到的三个问题，这都是些非常专业的学术问题，吕思勉虽然也只能解答其中之一，但很赞赏钱穆的这项研究，认为“这是极紧要极好的事情”。
40年后，即1947年，吕思勉和钱穆再次来到常州中学。昔日美丽的校园，经过抗战大部为日寇所毁，门墙依稀如旧，校中建筑全非。虽然吕思勉领着钱穆，一一指点，说这里原来是什么地方，而钱穆当时毕竟年龄尚小，怎么也回忆不出。学校校长董志新临时召集在校学生近千人到大操场，邀请吕思勉和钱穆演讲。吕思勉请钱穆作代表演讲。钱穆对学生说：这是学校40年前的一位老师长，带领他40年前的一位老学生，在此向诸位演讲。学校房屋建筑物质方面已经大变，而人事方面，40年前一对老师生的情谊就如昨天，现在显示在大家的面前，这实在是学校的历史上一件稀奇难遇的盛事。今天，一位40年前的老学生的讲演，渴望站在一旁的40年前的老师长教正，也深望在场的新学生记取。学校教育，百年树人，其精神即在于此。演讲完毕，学生掌声雷动，经久不息。这掌声是对40年前一对老师生的情谊喝彩，更是对40年的老师长，40年前的老学生和现在在校的新学生所演绎的“百年树人”的学校精神而喝彩。
吕思勉和钱穆在常州府中学堂相处的时间并不长，但天赐缘分，共同的学术追求造就了中国史学界的一段佳话。虽然海外的史学界把陈垣、陈寅恪、吕思勉、钱穆并称现代史学“四大家”，虽然学生钱穆在史学界的名声后来远远超过老师，但钱穆始终尊吕思勉为良师，恭恭敬敬执弟子之礼。
然而，他们似乎又超越了一般的师生情谊。他们可以为探讨经学有关古文经和今文经的某一问题，书信往来几十次，累计长达数万字。老师谨守常州学派今文经学家的观点，而学生则屡次三番加以质疑问难，老师在信中对学生写道，你可以比作朱子（朱熹——南宋思想家，倡导理学），我则如象山（陆九渊——南宋思想家，倡导“心”学，命题与朱熹对立。），“尽可有此异同”。这就是学者气度，这就是大家风范。
上世纪30年代，吕思勉再执省常中教鞭。在省常中校史馆里，还收藏有当年他授课所用的《中国文化史》油印讲义。2007年1月，《中国文化史》由天津古籍出版社收入《名师讲义》丛书出版。这部遗失多年的讲义，又重新与学界见面。
