1941年1月14日，新四军军长叶挺以及政委项英率领新四军军部、教导团、特务团和第一支队、第二支队、第三支队的各两个人共9000余人的奉命北上。
在新四军行至茂林地区之时，被早已预先埋伏在这的国民党反动派共8万人团团围攻，新四军虽英勇搏斗但终因寡不敌众而全军覆没，军长叶挺在与国民党反动派谈判的过程中被软禁，政委项英和参谋长周子昆被叛徒杀害，政治部主任袁国平牺牲，余下的战士除2000余人成功突围之外，大部分或被俘虏或被国民党反动派残忍杀害。
1月17日，老蒋更是倒打一耙地将“内战”的罪名安到了新四军的头上，将新四军诬陷为“叛军”，并要将新四军军长叶挺移交军事法庭。面对老蒋的无耻行径，我党同老蒋作了坚决的斗争，既然老蒋不承认新四军，那我们就自己建立新四军军部重铸华中抗日力量。
在皖南事变之后不久，党中央就宣布重建新四军军部，由陈老总任军长，刘少奇任政委，张云逸为副军长，赖传珠为参谋长，邓子恢为政治部主任。
军部是重建了，可是此时华中新四军的处境也很困难，皖南事变之前新四军总计就5万人，如今又损失了7000多人，假设反动派继续想要制造摩擦的话，那么新四军就连自保都困难。
因此为了重建新四军军部，也为了支援华中的抗战力量，党中央决定抽调一部分八路军支援华中的新四军，并发展华中的军事力量，也正是有了华北八路军的支持，新四军在华中的军事力量迅速发展到了9万人。
在这之中，对于新四军支援最多的还当真是115师：抗日战争时期129师是八路军三个师之中公认打得最好的，可是从发展上来说远远不如115师；在抗战开始之时，林总就带领115师打了平型关大捷，可是不久之后由于林总被阎锡山的队伍误伤了因此直到1942年一直在苏联养病，由陈光代理师长职位。
不过强将手下无弱兵，115师虽然没有林总的指挥，可是在这之后依然发展的不错，其中副师长聂荣臻聂帅后来开辟了第一个抗日根据地晋察冀根据地，这就是华北野战军的前身；政委罗荣桓率领部队开辟了山东军区；而另外一支劲旅则开辟了晋鲁豫抗日根据地，在皖南事变之后这支部队则成为了新四军的主力部队，成为了新四军的“王牌劲旅”之一，而这支部队就是115师的344旅，旅长徐海东，政委黄克诚。
可以说为了支援新四军，115师把自己最精锐的王牌都给“搭”进去了一半，而罗荣桓政委还顺带着“送”了新四军一员开国大将：黄克诚。
八路军之中的新四军部队
1940年6月，刚刚从太行山到达晋鲁豫抗日根据地的黄克诚还未洗下征程就接到了一项特殊的任务，率领八路军第二纵队南下建立协助新四军扩大苏北军区。
八路军第二纵队当时是115师的主力部队，他的前身就是115师的344旅，旅长是大名鼎鼎的徐海东，政委则是黄克诚，不过鉴于徐海东身体一直不好，344旅的事务一直都是黄克诚在管理。
当时，为了革命战争的需要，115师几乎是“四面开花”开辟革命根据地，在南下支援新四军之前，为了抗日战争的需要，115师将第344旅一部、晋鲁豫支队、独立游击队、抗日决死第二纵队混编组成了第二纵队，由黄克诚领导刚刚从太行山赶到晋鲁豫开辟了革命根据地。
不过在1940年的六届六中全会之上，党中央又发出了新的战略方针“巩固华北，发展华中”，而收到八路军总部的命令之后，大批的华北八路军开始大规模南下，而刚刚开辟了晋鲁豫根据地的黄克诚还未喘上一口气就南下开启了新的征程。
在接到命令之后，黄克诚就立马调兵遣将，率领纵队机关和纵队教导营共1.2万余人率军南下，在1940年6月27日，黄克诚的这支部队同彭雪枫带领的新四军第六支队胜利会师并合并为八路军第四纵队。
就在1940年7月20日，根据中央的部署，黄克诚将自己一半的主力留给彭雪峰之后继续长途跋涉越过津浦线进入皖东北，执行向东发展的任务，而原彭雪枫的第四纵队共1.7万人活跃在苏皖地区。
1940年8月16日，根据党中央的精神，黄克诚领导的这支部队又与活跃在涡阳以北、津浦路以东的“八路军陇海南进支队”以及“苏皖纵队”合并改称为“八路军第五纵队”，整个纵队共计2万人，黄克诚把他分成了三个支队9个团，黄克诚兼任司令员和政委。
新生的新四军
1940年，震惊中外的“皖南事变”发生，此刻华中新四军的有生力量几乎遭到重创，部队不足5万连自保有困难。
在皖南事变发生之后，为了重建新四军军部以及新生的新四军，党中央决定将原先活跃在苏北和皖东北一带的八路军部队改编为新四军，充实新四军的力量，这其中就包括了彭雪枫的第四纵队，黄克诚的第五纵队，这大部分战士都是当年115师南下支援新四军的部队此刻经过一年多的发展已经达到了3.7万人，同时八路军115师教导第5旅也被奉命编到了新四军队伍之中，军长就是大名鼎鼎的梁兴初。
皖南事变之后，总计不到5万人的新四军而有了八路军队伍的充实之后一下子扩编到了9万人，缓解了新四军当时的窘境，在这之后中央将新四军改编为7个师和一个旅：
其中第一师就是新四军是原新四军第一支队和第二支队合编而成，全师1.3万人，师长为粟裕大将，政委是刘炎；
新四军第二师前身也是新四军的第二支队，师长由新四军副军长张云逸兼任，全师1.5万人。
而第三师就是由原来黄克诚带来的“八路军第五纵队”改编而来，原来的三个支队分别改编为新四军第七、八、九旅，这支部队的战斗力也是非常强悍的，黄克诚的排名在大将之中也仅仅次于粟裕和徐海东，著名的“刘老庄八十二壮士”就是黄克诚第三师七旅十九团四连的战士，在绝境之中硬抗日军1000多人，全师约2万人
而黄克诚的另一支队伍八路军第四纵队就是彭雪枫领导的那支在后来改编成新四军第四师，师长彭雪枫，第四、五、六旅分别改编新四军第十、十一、十二旅，全师1.5万人。
第五师是由武汉外围的游击队改编而来，虽然以前都是游击队不属于八路军正规部队序列，可是整编之后的战斗力也非常强悍，游击战和运动战是第五师的拿手好戏，李先念兼任师长和政委，全师1.4万人。
第6师由长江以南的游击队组成，全师6000人，师长由谭震林担任。
第7师是长江沿岸的新四军和游击队合编而成，师长张鼎臣，全师0.3万人。
外加上罗荣桓元帅“送”给新四军的“王牌旅”梁兴初的教导旅之后被改编成新四军独立旅，全旅5000人。
新四军王牌赶赴东北，剩下的组建三野
皖南事变之后，八路军115师总计有将近4万多人加入了新四军的队伍，为新生的新四军提供了助力，并扩大了苏北和华中军区。
1945年，黄克诚大胆向中央建议要抓住有利时机立即抢占东北，东北一定则中国可定，9月19日，中央也做出了“向北发展，向南防御”的战略部署，将山东军区的部分主力和黄克诚的第3师调往了东北。
1945年10月30日，中央决定将新四军第五师和八路军第三五九旅等部整编为中原军区，调离新四军建制，归中央军委直接管辖。
至1947年1月下旬至2月3日，中央将新四军山东军区以及所属华中军区、华中野战军、山东野战军合编为华东军区和华东野战军，总计12个纵队，至此新四军完成了其历史使命，他的番号最终也被取消。