北魏后期，朝政腐败，民族矛盾和阶级矛盾激化。大通二年，北魏发生内乱，镇压叛乱的尔朱荣大肆屠杀北魏皇室，魏北海王元颢以本朝大乱为由降梁，并请梁朝出兵助其称帝帝。出于战略上的考虑，梁武帝以元颢为魏王，并以陈庆之为假节、飙勇将军，率兵7000人护送元颢北归。

中大通元年(公元529年)四月，陈庆之领兵乘北魏征讨邢杲起义军之际，乘虚攻占荥城(今河南商丘东)，进逼梁国(今河南商丘)。魏将丘大千率众7万分筑九城，以抵御梁军。陈庆之率军进攻，一日之内攻占三城，迫使丘大千投降。元颢遂于睢阳(今河南商丘南)城南称帝。授予陈庆之使持节、镇北将军、护军、前军大都督。时魏济阴王元晖业率羽林军2万来援，进屯考城(今河南民权东北)。考城四面环水，守备严固。陈庆之命部下在水面筑垒，攻陷其城，全歼2万，俘元晖业获，租车7800辆。

梁军直趋洛阳，所过之处，魏军望风而降。五月，魏帝元子攸分派部众扼守荥阳(今属河南)、虎牢(今荥阳西北汜水镇)等地，以保卫京都洛阳。元颢攻占梁国后，封陈庆之为卫将军、徐州刺史、武都公，命其继续督军西上攻荥阳。魏左仆射杨昱、西阿王元庆、抚军将军元显恭等率羽林军7万守荥阳，以据梁军。魏军兵锋甚锐，加上荥阳城坚，陈庆之攻之不克。时魏将上党王元天穆大军将至，先遣其骠骑将军尔朱吐没儿领胡骑5000、骑将鲁安率夏州步骑9000增援杨昱。又遣右仆射尔朱世隆、西荆州刺史王罴率骑兵1万，进据虎牢。魏军共计30万人，对梁军进行合围。元颢派人劝杨昱投降，但被拒绝。不久，元天穆与尔朱吐没儿相继而至，魏军一时旗鼓相望。

时荥阳城未克，梁军将士皆恐，陈庆之解鞍秣马，对将士们说：吾至此以来，屠城略地，实为不少；君等杀人父兄，略人子女，又为无算。天穆之众，并是仇雠。我等才有七千，虏众三十余万，今日之事，义不图存。吾以虏骑不可争力平原，及未尽至前，须平其城垒，诸君无假狐疑，自贻屠脍(《梁书·陈庆之列传》)。乃亲自擂鼓攻城，只一鼓，梁军便悉数登城。勇士宋景休、鱼天愍首先登上城墙，梁军相继而入，遂克荣阳，俘杨昱。不久，元天穆等引兵围城，陈庆之遂率3000精骑背城而战，大破之，鲁安于阵前投降，元天穆、尔朱吐没儿单骑获免。陈庆之收缴荥阳的储备，牛马谷帛都不可胜计。陈庆之旋即进攻虎牢，尔朱世隆不敢战，弃城而逃，梁军俘魏东中郎将辛纂。

魏孝庄帝元子攸为避陈庆之锋芒，被迫撤至长子(今山西长子西)。元颢遂入洛阳，魏临淮王元彧、安丰王元延明率百官迎元颢入宫。元颢改元大赦，以陈庆之为侍中、车骑大将军、左光禄大夫，增邑万户。不久，上党王元天穆、王老生、李叔仁又率兵4万攻克大梁，并分遣王老生、费穆进据虎牢，刁宣、刁双入入梁、宋。陈庆之闻后，率军掩袭，魏军皆降。元天穆率十余骑北渡黄河而逃，费穆攻虎牢，将克，忽闻元天穆北逃，自以为无后继，遂降于陈庆之。陈庆之又进击大梁、梁国，皆克之。梁武帝闻讯后，再次亲书诏书进行嘉勉。陈庆之和部下皆穿白袍，一路上所向披靡，所以洛阳城中童谣曰：名师大将莫自牢，千军万马避白袍(《梁书·陈庆之列传》)。陈庆之又以7000之众，从铚县至洛阳，前后作战47次，攻城32座，皆克，所向无前。

附注：这个白袍将军陈庆之，就连毛泽东都不吝笔墨地夸赞，可见他非常人可比。而他本是个文弱书生，江苏那边的南方人，马都骑不好，也没有力气拉弓射箭，但却善于将兵，善于鼓舞士气，最终创造出了千军万马避白袍的奇迹。据史传，陈庆之晚年皇帝让他镇压山东一方的动乱，还特别嘱咐，那边太乱了，有好几万人，你的兵不多，千万不要主动出击！按说皇帝都嘱咐了，就别着急了，可他带兵出征不久，送行的还没喘过气来，他就已经传首京城报捷了！