1944年4月18日拂晓，日军在位于河南郑州与开封之间的中牟一带渡过黄河，向中国军队发起猛攻，被日寇称为“河南会战”、中国称为“豫中会战”的春季战事打响。
李家珏的建议没被重视
豫中、豫南大部分地区为第一战区，战役爆发前，8个集团军又4个军，共41个师，约40万人的中国部队，依次驻守在黄河南岸，号称黄河沿线的“血肉长城”。但是，第一战区被分割成两个相对独立的部分，第一战区司令长官蒋鼎文直接负责郑州以西河防，战区副司令长官汤恩伯主持郑州以东及黄泛区的河防。蒋与汤搭档多年，矛盾却很深，两个集团相互掣肘，指挥不能统一。
1944年3月中旬，日军不断向黄河以北增兵，南渡企图进一步暴露。蒋鼎文在洛阳召开了紧急军事会议，但他仅模糊地判断敌人将发动一次进攻，对日军的企图、兵力部署等问题一片茫然，只是向大家提醒，把军官眷属及笨重行李、重要文件等，尽快向后方转移。
李家珏第36集团军驻守在洛阳西边重镇新安地区。他认为：既已判明敌军将向我发动一场大进攻，与其坐以待毙，不如先发制人!应立即出动飞机，轰炸敌人在黄河铁路桥南端的北邙山阵地，拔掉日军向南岸进攻的桥头堡;然后再以一部分兵力杀到黄河北岸，打乱敌军部署，动摇日军信心，从而变被动迎战为主动进攻。但对他的建议，蒋鼎文没有采纳。
战区司令长官仓皇而逃
豫中会战，日军参战部队共计14.8万人，约占华北日军的二分之一。1944年4月17日晚11时，日军第12军第37师团从东、西两个方向迂回夹击中牟守军第27师。战斗打响后，守军向坐镇洛阳的蒋鼎文发去一份轻描淡写的电报：今晚敌人在中牟渡河，现在只有百余人，正同我军战斗。蒋鼎文没意识到问题的严重性，例行公事地通知各部：注意警戒河防!
4月18日凌晨两点，日军占领中牟镇。拂晓，日军第12军主力迅速从中牟一带渡过黄河，负责河防的中国守军一触即溃，“血肉长城”东线告急。接下来，郑州、新郑、尉氏、鄢陵、密县、长葛等地，很快失陷。东线抵抗最为激烈的，是由汤恩伯兵团暂编15军第29师驻守的许昌城。29师师长吕公良手下只有3000名将士，打退了日军几十次冲锋，最后进入巷战。血战至5月1日，29师全军覆没，吕公良师长及两位团长、两位营长以身殉国，许昌失守。
许昌失守后，在登封一带构筑防御工事的汤恩伯，陷入日军包围，阵脚大乱，主力部队溃逃。在围歼汤恩伯部的同时，一部日军已沿陇海铁路西进，目标是围歼在洛阳的蒋鼎文部。5月9日，在击溃汤恩伯部后，大批日军开始向洛阳方向围攻。在此之前，蒋鼎文担心自己会被包围，已于5月6日将长官部撤到新安。蒋鼎文带着指挥部逃之夭夭，致使集结于洛阳附近待命会战的李家钰、高树勋、孙蔚如等四个集团军的20万人大部队群龙无首，在日军的猛攻下进退失据。10日，日军冲溃汜水、嵩山防线，新安有被东西夹击的危险。当日夜，蒋鼎文又惊慌失措地从新安向西南撤退，到了豫西伏牛山中。撤退途中，蒋鼎文与大部队失去联系。上午8时，李家钰接到蒋鼎文派人送来的密码电令，令第36集团军以一部暂留河防，并抽调主力打击渑池之敌。
李家钰主动担负殿后任务
此时，李家钰手中可用之兵已经很少。36集团军名义上下辖3个军，但17军、14军在战役前已调往别处，李家钰实际上只能指挥他从四川带出来的47军。47军只有104师、178师两个师，防守之艰难可想而知。坚持到5月15日，李家钰在新安一带已腹背受敌，不得已，带领集团军总部和178师向豫西山地转移。在渑池一边，104师吴长林团在云梦山发起阻击战，重创进犯日寇，为后撤部队赢得了时间。而吴团官兵伤亡900多人。
西撤之后，李家钰带着部队历尽艰辛，于5月17日来到渑池县小镇翟涯镇，与从洛阳西撤的第14集团军副总司令刘戡、第14军军长张际鹏、新8军军长胡伯翰、暂4军军长谢辅三等将领相遇。因各军争相前行，道路拥挤，场面极度混乱。在召开的临时会议上，将领们一致认为：大队人马蜂拥抢路不是办法，如遇日军袭击将损失惨重。必须统一指挥和派遣掩护部队，再图反攻。众人一致推举李家钰出任统一指挥官。李家钰慨然说：“吃了河南老百姓4年饭，现在不能见了日本人就跑。如果明天继续西进，我们川军愿殿后!”
旗杆岭上将军中弹殉国
此后，各路大军分道西行，李家钰的部队担负起掩护友军撤退的任务。5月20日，李家钰率部从雁翎关出发，宿营于陕县张村乡东窑院村。据友军情报，日军正追击高树勋部，已进犯到距东窑院村仅10余里处。李家钰判断：日军来得不会这么快。同时鉴于友军正纷纷向西转移，掩护任务急需进行到底，即决定按原计划行军。
5月21日，李家钰率集团军总部人员继续殿后，在友军各部相继撤退之后，于10时从东窑院出发，按原计划向西行军。由于对敌情疏于侦察，情况不明，李家钰率部到达张家河谷底时，埋伏在安家山上的日军已居高临下，对其形成包围。中午时分，当缺乏战斗力的总部人员刚登上旗杆岭，早有准备的日军大队人马从山头上冲下来，李家钰率部与敌战斗，背部和左腋下连中两枪和一片弹片，壮烈殉国。
跟在总部后边的47军军长李宗昉听说消息后，立即组织了一个敢死队，营救总部人员。经过血战，终于将李家钰的遗体背了出来。李家钰是豫中会战中牺牲的军衔最高的中国将领。1944年6月，国民政府追赠李家钰为陆军上将。