日军对于第3军，又重视，又仇视，对于已是上将军长的唐准源，是仇恨有加。战士的拼死戍守，使第二战区司令卫立煌自我陶醉：“中条山是抗日战争中的‘马其诺’，这是我使用背水战的成功。”
1941年3月，日军调整兵力部署，秘密从华北、华东、中原3个战场上调集了8个师团、9个旅团和1个骑兵团，另加飞机百余架和若干特种部队，兵力达25万以上，装备精良，兵力数倍于我，扑向中条山，志在必取。日军妄图乘我南临黄河背水之危，将晋南我军歼灭于黄河北岸。由于久攻不下，日军开始改变战法，以蚕食战术逐步推进，加强封锁，企图缩小包围圈。
1941年4月，中条地区的闻喜、夏县一带除第3军外，还有第17军、第80军，同属第5集团军曾万钟指挥，此外，还有第14集团军、第58集团军相呼应。
为了攻占中条山，日军派出一支部队，白天大张旗鼓地在风陵渡由中条山所在的黄河北岸渡到洛阳所处的南岸，摆出一副要攻击洛阳的假象，实际上，到了夜间，白天过河的日军又悄悄从南岸渡回来，第二天又如法炮制。国民党战区长官司令部和两个集团军总司令部均处于麻痹状态，没有发觉敌军声东击西的作战目的。
4月下旬，国民党在洛阳召开战区军事会议，会议由何应钦主持，会议对敌我军事态势作出了错误判断。会上认为，日军调动大部队是意在攻占中原古都洛阳，要将中条山守军的一个主力军调过黄河守洛阳。唐淮源身在一线，深知当时敌我军事态势，他在会上陈述，日军现在中条山前沿聚集重兵，中条山的防务有隐患，只有一线部队而无预备队，没有纵深部队配置，一旦被敌攻破，后果不堪设想，部队不应它调，反倒应该加强。但是，此意见被否定。何应钦不耐烦地说：“我令主管部门研究改进办法。”接着又说：“战事就要开始，把34师拨归唐淮源指挥。”
第5集团军总司令部根据这个假象，调集部分师团，与日军形成了风陵渡对峙局面。就这样，黄河以南的第1战区，中条以西的第8战区，凡是可以调动的部队，都集中到了潼关左右，构筑工事防备日军渡河，对中条山的防守，却被忽视。而日军要强渡黄河，必先取得中条，以免腹背受敌。将中条山后续军队他调这个错误决定，使这一战役从一开始就陷入被动，埋下了祸根。
5月初，第3军获得了日军将扫荡中条山的确切情报，及时报告上级调整战略，但为时已晚。唐准源预感到了问题的严重性，首先是第一线阵地兵力过少且分散。其次是士兵经过较长时间的二、三线阵地布防，劳顿有加，无时间整训，战斗力不如从前。再次是供需跟不上。4月份已过，可该月军饷还未到。
正在第3军加紧布防之际，日军认为诡计已成。当国民党军队发觉日军虚张声势明攻洛阳城，聚集重兵暗夺中条山时，战区司令部又要将此军调回去，可是，部队来回奔波，疲于奔命，在回军路上，被日军击溃。
5月6日，日军突然调转方向对准第3军，用汽车将万余兵力运至夏县以南山麓。
5月7日天刚亮，唐淮源轻骑简从到30华里之外的12师驻地张家店进行战地动员。傍晚，天气突变，风沙大作，日色无光，对面不见人，寒冷逼人。
5月7日，日军兵分4路发起猖狂进攻。日军以异常密集猛烈的强大火力集中攻击第3军和98军防地。日军首先利用空中优势，数百架次飞机轮番狂轰滥炸。随之，上千门重炮一齐开火轰击，整个中条山成了一片火海。紧接着日军的坦克、装甲车扫射开路，大量日军跟随其后，空降兵自空而降，强占了一些重要的制高点。狡猾的日军采用了“锥形突破”战术。一路日军击溃第3军的左翼友军第80军第80团，79团和81团闻讯逃跑。另一路日军进攻12师，并避开一线阵地，直接与二线的第7师交火至次日。第三路日军进攻34师，日军遭到顽强反击。
虽然唐淮源率领第3军将士同仇敌忾，对日军予以迎头痛击，可是集团军麻痹大意，缺乏大战恶战准备，没有相应的应急措施，更没有后续预备部队补救。当天前沿阵地即被敌军攻破数处，战场形成犬牙交错之状，相互之间联系配合均受到极大影响。
8日，唐淮源根据战场情况推测敌将偷袭，安排了第36团阻击，但仍被敌军800人从大道突破，缺口终于被撕开。日军先头便衣队鱼目混珠，以飞机掩护，不惜一切代价占领大道，向纵深占领有利地形，边突破，边增兵，边包抄。在两天一夜间，敌人先后冲破了集团军和第3军两级高级司令部，切断了电话、无线电，造成第3军指挥系统失灵，各师、团分散在各地的弹药库、粮库也损失殆尽，中条山阵地分割成两半，整个中条山战场局势危急险恶。
面对日军的进攻，唐淮源所部第3军驻地为中条山主脉，首当其冲。唐淮源在十分危急的情况下，以守土卫国、寸土必争的精神，沉着果敢指挥所部官兵，展开异常猛烈的运动战，与敌拼杀肉搏。官兵们意气昂扬，以一当十，殊死奋战。但敌众我寡，敌强我弱，我军腹背受敌，左右被攻，极为疲惫。
战区司令长官部下令撤退，唐淮源在收到司令长官蒋鼎文的撤退电令后，已经陷入重围，无路可退。当其他部队已经突围撤退时，唐淮源仍在指挥第3军将士以死相拼，反复冲杀，声震苍天，气吞黄河。
5月10日，唐淮源率3军将士向南突击，与深入之敌遭遇于温谷村附近，为争温谷村以北之高地，第3军将士前赴后继，厮杀拼搏。
5月11日，沿山口与黄河各渡口，均被日军占领，日军主力以分进合击之势合围第3军，欲置之死地。这时第3军已经伤亡过半，四面受敌，粮尽援绝，后路已断。在这危急关头，唐淮源召集手下3位师长，毅然言道：
“现情势险恶，吾辈对职责及个人之出路，均应下最大之决心，在事有可为时，须各竭尽心力，以图恢复态势，否则应为国家民族保全人格，以存天地正气。”
“中国军队只有阵亡的军师长，没有被俘的军师长，千万不要由第三军开其端。”
天险黄河横亘于后，第3军身处绝境。唐淮源下令以团为单位，化整为零，以分敌势，分头突围。唐淮源率领12师的一部分，向县山地区且战且走，遇到日军大部队，左冲右杀，无法逾越，不得已转向西，处于不利地势，又被日军阻于东交口附近。
几经激战冲杀，至12日晨到达县山，这时马蹄沟、水泉沟、大寺坪等处均有日军追踪而至，12师师长寸性奇、34团团长张正书均负重伤。34团副团长潘尔伯、36团团长黄仙谷、第7师21团副团长张永安、第34师第100团团长薛金吾相继阵亡。
县山旁有一山称唐王山，据说唐朝一代开国皇帝唐王李世民当年在此驻守并打过仗。唐淮源眼望唐王山顶，心想，中国人自称唐人，自己就是姓的这唐，这唐王山就是自己的归宿，便抱定以死殉国之心。唐淮源亲自冲在前方，与日军进行殊死决战，杀声震天，随后唐淮源率众进到县山顶一间土屋内。
当时处境险恶，唐淮源异常冷静，指挥将士3次突围受挫，官兵伤亡惨重。警卫连战士大部分已经牺牲，剩下的已被唐派上去迎敌，身边仅有几个通讯兵和报务员，实际上充当了唐军长的贴身警卫，身陷绝境的唐淮源以气壮山河的气概在笔记本上写下遗书：
“余身受国恩，委于三军重任，当今战士伤亡殆尽，环境险恶，总军两部失去联系。余死后，望余之总司令及参谋长收拾本军残局，继续抗战，余死瞑目矣！”
1941年5月12日，已是炎热的初夏，但这天的下午，寒冷异常，阴风怒号，大雨滂沱。唐淮源身陷绝境，突围无望，感到没有担负起保卫中条山的任务，有负国家养育之恩。他几次让左右守卫离开，各自突围，但随从均表示决意与军长同生死、共患难，不愿意离开军长。日军已经离得越来越近，唐淮源下令他们冲上前去，大伙望着军长那严肃果敢不容商量的面容，只好冲出土屋，屋内只有唐军长的女婿——辎重营营长金绍孔。唐淮源乘金在门口警卫的机会，对准自己的心脏开了枪，饮弹殉职于土屋内。
唐淮源的警卫离去不远，听到屋内枪响，大吃一惊，赶紧抽身回来，看到金营长从土屋内跑出来，脸色铁青，欲哭无泪。此时，离土屋不远的地方枪炮声越来越激烈，越来越近，形势危急，气氛紧张到了极点。大家望着金营长，金正想说什么，正好这时有担架抬着12师师长寸性奇路过，寸师长躺在担架上看到金营长，还关切地问：“军长怎么样了？还好吗？”金营长忍住悲痛急忙掩饰说：“在屋里，还好。”寸师长说：“我的腿被鬼子飞机炸断了，只有先走一步，这里太危险了，请你们保卫好军长，马上撤下来。”
寸师长走后，金营长急忙返身进屋，用军毯将军长的遗体包裹起来，扛出土屋，放在山顶上的一个土坎下，小心翼翼地用土掩盖了，并做了记号。
金营长带着几个士兵九死一生，冲出日寇重围。这时战斗已经基本结束，只是还有零星枪声。金绍孔营长两眼深陷、面容憔悴，和几个士兵到了夏县郭李庄，疏散躲避的乡亲们也已经三三两两回到村中。金绍孔哭着对乡亲们说：“三军失利，伤亡惨重，军长阵亡。”
在场之人，无不悲痛流泪。乡亲们急忙拿出干粮来给他们充饥。金营长和士兵们已是几天没吃东西了，金营长一边狼吞虎咽，一边给乡亲们说，日本鬼子很快就要打来了，他们见人就杀，大家还是再躲一躲。说完他还从自己身上拿出仅有的七八十元法币交给村民张永新，请求他邀约几个老乡去把唐军长的遗体搬运回来，再买棺木安葬，安葬地点要绝对保密。
金营长特别叮嘱张永新和乡亲们，军长的遗体一定不能落入鬼子的手中，否则我们将成为国家的罪人。日后他一定会来找张永新重谢。乡亲们又悲又恨，对唐军长为国捐躯，无不悲愤异常，痛哭流泪。
