英勇的解放军为了消灭国民党南线主力军，造成进军江南的条件，继辽沈战役之后，立即进行淮海战役。战役前，集结在淮海地区的国民党军队有徐州“剿总”司令官刘峙、副司令杜聿明指挥下的4个兵团和3个绥靖区部队，以后又由华中调来增援的1个兵团，共80万人。解放军华东野战军16个纵队、中原野战军7个纵队及中原、华东、华北一部分地方武装60余万人。中共中央决定由邓小平、刘伯承、陈毅、粟裕、谭震林组成总前委，邓小平为书记，统筹和领导淮海战役。淮海战役是在以徐州为中心，东起海州，西以商丘，北起临城(今薛城)，南达淮河的广大地区展开的。遵照中共中央和毛泽东的指示，在广大人民的支援下，于1948年1月6日，发起一次具有决定性的决战。
整个战役分3个阶段进行。第一阶段，从11月6日至22日，人民解放军在徐州以东新安镇、碾庄地区围歼黄伯韬兵团。战役开始，华东野战军在中原野战军配合下，兵分3路南下，对黄伯韬兵团采取战略包抄。8日，国民党第三绥靖区副司令何基沣、张克侠率领2个军部、3个半师共2.3万人，在台儿庄、枣庄地区起义；徐州北大门洞开，解放军乘机插入，切断黄伯韬兵团的退路，黄伯韬兵团1个师在曹八集，第六十三军在窑湾被歼；兵团司令部和4个军被包围在纵横不到20华里的碾庄地区。12日，解放军发起总攻，22日，全歼黄伯韬兵团10万人，黄伯韬本人自杀毙命。第一阶段共歼敌17.8万人，并切断敌人从海上的逃路，形成对徐州之包围，兵临江淮之势。
淮海战役第二阶段，从11月23日至12月15日，主要目标是歼灭比较突出的孤立的黄维兵团。中原野战军主力在华东野战军配合下，于11月24日，将黄维兵团包围在宿县以南的双堆集地区。杜聿明率邱清泉、李弥、孙元良等弃守徐州援黄维，12月4日，被包围在徐州西南陈官庄。12月6日至15日，中原野战军及华东野战军一部发动对黄维兵团的总攻击，全歼该兵团11.5万人，并生俘黄维。杜聿明部则由此陷入了彻底孤立。第三阶段，从1月6日，人民解放军向青龙集、陈官庄被围的国民党军发起总攻，至10日上午10时，全歼邱清泉、李弥两兵团25万人，生俘杜聿明，击毙邱清泉，李弥只身逃走。
淮海战役历时65天，共歼敌65.5万人，基本解放了长江以北的华东、中原地区，为渡江作战，直捣国民党的统治中心南京，解放大上海创造了有利条件。