当时，后梁兵强马壮，连战连捷。康怀英率领的梁军筑起高墙，形成“夹城”，外拒援兵，内抗守军，围攻潞州（今山西长治）已近一年。
李存勖在安定内部后，召集晋军诸将说：“潞州是河东的藩蔽，潞州若失，河东不保。况且朱温素来只忌惮先王，他听说我继任，一定以为我不熟军旅，会有骄傲懈怠之心。我们若率领精兵出击，出其不意，必定能大破敌军。成就威名，决定霸业，在此一举，不可失也。”
当年四月，李存勖亲率大军南下，在潞州北部安营扎寨。
黎明之前，天降大雾，李存勖亲率一支军队埋伏在三垂岗，在晨曦中直捣梁军所筑夹城，率先发起进攻。之后，后唐军队兵分三路，摇旗击鼓，将后梁所筑夹城拦腰截断。混战之中，晋军沙陀兵杀后梁兵一万余人，俘虏梁将三百人。康怀英阵脚大乱，只带着亲兵百余骑遁逃。
战报传到开封，朱温大为惊惧，叹道：“生子当如李存勖，李氏不亡矣！我家的儿子不过都是猪狗而已。”
李存勖解潞州之围，堪称梁晋争霸的一个转折点。在被后梁打压多年后，晋军终于打了场翻身仗。在此战20年前，李克用在邢州大捷后还军潞州，曾经在三垂岗置酒高会，命伶人吟咏西晋陆机所作的《百年歌》。