斯大林格勒保卫战是苏德战场的转折点，苏军不但守住了纳粹德军志在必得的斯大林格勒，还发起反击包围歼灭德军第6集团军30万人。蒋介石也想打出类似的战例，把衡阳变成中国的斯大林格勒。
1944年5月26日，侵华日军向湘北发起全面攻势，目标直指长沙。这是日军第四次进犯长沙，前三次不但都无功而返，还被薛岳的第九战区打出个世界闻名的“天炉战法”，让日军吃尽了苦头。
因此，日军这次集中了10个师团20万兵力，超过前三次进犯长沙兵力的两倍还多。第九战区仍然采用“天炉战法”来应对，后退决战，等日军顿兵于长沙坚城之下，再发动反击，截断其补给和退路。
可惜的是，“天炉”的炉底长沙仅仅守了4天，于6月18日被攻陷，炉底被凿穿了，“天炉战法”自然也就无从谈起，守城的第4军军长张德能被蒋介石下令枪决。
日军此次进犯非同寻常，其实是“一号作战”打通大陆交通线的组成部分，长沙并不是最终目标，日军的真正意图是打通与广东日军的联系。长沙失守后，衡阳便成为日军的下一个目标，而衡阳守军的最高长官却是一位平民。
《抗日战争正面会战档案全纪录》详细记载着：18日长沙陷落当晚，一个长途电话直接要到衡阳方先觉得寓所。王副官一听，对方先觉说：“是重庆打来的电话。”
方先觉刚刚躺下，不以为然地说：“我被军委会撤职当老百姓了，重庆还有谁找我？你就说我不在！我要睡了。”王副官捂住电话：“是蒋委员长的电话。”方先觉急忙起身就拉着鞋子接过话筒：“报告校长，我是方先觉。”
蒋介石亲自打电话来找的这位方先觉到底是谁？为什么又说自己是老百姓？
方先觉原本是第10军的军长，因为得罪了薛岳而被撤职，新任军长尚未到任，所以蒋介石才会打电话来安抚一下这位黄埔三期生，让他重新执掌第10军守卫衡阳。蒋介石的计划是在衡阳重铸“天炉”炉底，围歼日军于衡阳城外。
这一招果然好使，方先觉立马打足精神，布置衡阳城防工事，第10军下辖第3师、第190师和预备第10师，其中第190师只有一个团满编，全军总兵力1.7万人，不及日军一个师团。
6月22日，日军抵达衡阳外围，随即发起进攻。次日拂晓，日军强渡耒水河，第190师第568团一营用战防炮和重机枪趁敌半渡而击之，被打死的日军连同溺毙者多达300余人。
首战得胜，第10军士气大振，方先觉主动收缩兵力，将战斗力最强的第3师布置在城内，作为预备队及巷战主力，第190师和预10师进入城西南的主阵地，准备抗击日军的重点突破。
衡阳是座大城，1.7万守军无法做到面面俱到，只能集中兵力于日军主攻方向，而方先觉得判断完全正确，城西南的丘陵正是日军的主攻方向。
事实上，城西北方向一马平川，更有利于日军进攻，但中美空军已经掌握了制空权，日军无法在平地展开大规模军事行动，只能选择城西南的丘陵。
《抗日战争正面会战档案全纪录》指出：衡阳之所以能苦撑这么久，除了归功于地面部队以外，空军日夜鏖战的劳绩，更是不可埋没的。
日军绕远路渡过耒水河后，首先夺取五马归槽据点，第570团团长贺光耀身负重伤，然后日军攻进衡阳机场。第190师师长容有略亲自指挥第569团逆袭，以伤亡200余人的代价，消灭突入机场的400多日军。由于日军后续部队赶到，容有略破坏机场设施后，退回主阵地。
第10军有一个特点，非常善于修筑工事，把丘陵朝向敌人的一面改造成90度峭壁，用铁丝网、地雷和木栅墙予以保护，无法改造的地段就挖出5米宽5米深的壕沟，壕沟底部还有暗堡火力点，让日军下得来却上不去。
各阵地之间以交通壕相连，可以在不暴露的情况下相互增援。使这些工事在战斗中发挥了相当大的作用，使第10军能用很少兵力顶住大批日军的进攻。衡阳百姓积极帮助第10军修筑工事，尤其几个木材加工厂捐赠了120万根圆木，使防御工程的修筑事半功倍。
《抗日战争正面会战档案全纪录》里有这样的战例：停兵山守军一个连和高岭守军一个排，构成犄角之势。日军在26日上午同时向两个阵地发起攻击，飞机大炮轮流轰击后，步兵发起冲锋。
每次日军一靠近，两个阵地里便飞出成片的手榴弹，轻重机枪一起开火，将日军打得尸横遍野。即使碉堡被炸掉五分之三，官兵伤亡过半，阵地仍屹然不动。
战至27日凌晨，高岭守军李建功排长以下全部壮烈殉国，阵地才被日军占领。而日军在高岭阵地前遗尸200多具，在停兵山阵地前，也遗尸400多具。
在丘陵地带的主阵地前，日军付出了相当沉重的代价。宽大的外壕既不能藏身（底下有火力点），又无法作为下一步冲锋的依托（太深太宽），只能用梯子跨过去。
等日军越过外壕，却被重直峭壁拦住了路，他们只好想办法攀爬。峭壁顶上的守军只要不停地往下扔手榴弹，就能轻易把日军炸得人仰马翻。更可怕的是，峭壁前的日军一旦聚集得足够多，便是守军侧射火力发挥威力的最佳时刻，日军因此死伤无数。
在付出数千人的代价后，日军终于攻到衡阳城下，他们以为噩梦即将结束时，哪知此时才是噩梦真正的开始。第3师已经把衡阳城改造成一个巨大的堡垒，每一间房屋、每一条街都是让侵略者丧胆的战场。
起先进攻衡阳的日军是第68和第116师团，经过6月28日和7月11日的两次总攻后，这两个师团伤亡超过8000人，战死1名联队长、6名大队长和几乎所有中队长。日军让更加强悍的第13和第58师团加入衡阳攻坚，使总兵力超过9万人。
蒋介石对方先觉和第10军的要求是坚守10-15天，为外围反攻争取时间。蒋介石这一次并不打算食言，除了命令第九战区各军向衡阳增援外，还从第四和第七战区各抽调一个军，加强第九战区的力量。
以衡阳为核心的上千平方公里地域内，数十万中日两国军队绞在一起，互相攻防，竟然没有了完整的战线，双方统帅部都无法完全弄清楚交战状况，只好任由前线各军各师随机应变。
中国军队尽力往衡阳突进，日军则拼命阻挡。7月28日，第79军的一个团攻至衡阳外围的杨梅岭，但是遭到日军侧击，全团伤亡四分之三，不得不放弃杨梅岭。
第62军也从另一方向攻进衡阳市郊，同样被日军两面夹击，伤亡惨重，只得撤出战斗。这是外围援军与衡阳守军靠得最近的两次机会，但都没有能够与衡阳守军会合。
第79军与第62军连日苦战，伤亡惨重无力继续攻击。衡阳城内的第10军官兵能够听到郊外的枪炮声，却总是看不到援军的身影。随着阵地的日益缩小，空投物资越来越困难，守军的弹药和粮食也越来越少。
方先觉将城市划分成几个防区，由各团分别防守，军和师的机关后勤人员全部武装起来，补充到战斗部队。巷战打了一个月有余，第10军逐屋逐街地与日军进行争夺，伤亡总数将近1.6万人，只剩下1200多人完好无损。
《抗日战争正面会战档案全纪录》记载：时值盛暑，打死的尸体无法清除，臭不可闻，伤员得不到医治，伤口恶化，治疗的器械、药品根本谈不上，棉花、纱布都没有了，不少伤兵伤口生蛆流脓，活活受死。有的重伤员开枪自杀，还有的央求医护人员发发善心，“给我一枪吧”。
8月7日，方先觉召开紧急会议，让大家商量下一步怎么办，突围、死守，还是投降？第3师师长周庆祥提议暂时投降，以待将来。方先觉默然，回到自己屋里放声大哭。
当晚，第3师首先放下武器，方先觉命令开炮，却发现炮弹用光了。周庆祥带着日军联络官来到军部，第10军在坚守47天后，最终向日军投降，日军承诺妥善救治第10军伤兵，使很多战士有机会活下去。
此时的蒋介石还不知道这个消息，在8月8日，出动宝贵的战车（坦克）部队企图救援衡阳，却因炮兵协同不利，攻势再次失利，衡阳保卫战就这样结束了。
第10军被俘人员在1万左右，其中8000多是伤员，日军承认的伤亡是2.9万，中方的伤亡统计是击毙2万，伤6万，第10军自身伤亡1.6万人，仍然远低于日军，打出相当出色的交换比。
由于侵华日军已经意识到帝国的末日为时不远，对国际影响有所顾忌，不敢再像战争初期那样虐待战俘，使第10军的幸存官兵大部分逃脱，连方先觉也在当年11月逃回重庆，受到蒋介石的亲切接待，并被授予青天白日勋章。
衡阳保卫战历时47天，在国民党军队一片溃退中显得尤为难能可贵，盟军对第10军的顽强和功绩也颇为认可。虽然方先觉和第10军最终放下了武器，但仍无法掩盖其为抗日做出的杰出贡献。