羊侃是南北朝时期著名的将领，祖父羊规在宋武帝刘裕时期在徐州担任祭酒从事、大中正等

羊侃是南北朝时期著名的将领，祖父羊规在宋武帝刘裕时期在徐州担任祭酒从事、大中正等职，后薛安都以彭城（即徐州）降北魏，羊氏一族遂留在北魏为官。 羊侃文武双全，不但身材魁伟，膂力过人，能用六石强弓，而且博览群书，爱读文史，对《孙子兵法》深有研究。不到二十岁时，羊侃就因军功被任命为尚书郎，三十一岁时又因军功进封征东将军、东道行台、泰山太守，赐爵钜平侯。 羊氏一族虽已在北方扎下根，但却一直心系江东，盼望南归。羊侃的父亲羊祉经常对儿子们说：“一个人怎么能长久滞留在异邦呢？你们以后一定要想办法回归南朝。” 528年，党附郑俨，与胡太后密谋鸩杀魏肃宗元诩，激发河阴之变的徐纥归附羊侃，并劝羊侃起兵反魏归梁。当时，羊侃的堂兄羊敦担任兖州刺史之职，镇守在羊侃南归的必经之路上，凭借坚城阻止羊侃南归。羊侃率三万精兵攻打兖州，但一直无法破城，于是将兖州城团团围住，并派人向南梁请降。梁武帝接见使者后派羊鸦仁率部接应羊侃，北魏孝庄帝听闻羊侃起兵则派使者加封羊侃为骠骑大将军、司徒、泰山郡公，并承诺他永为兖州刺史。为表明自己的南归心志，羊侃将魏使斩杀。两个月后，北魏令于晖率十万大军征讨羊侃，连战不利后又派高欢、尔朱阳都等人增援。羊侃所部被魏军团团围住，军中箭矢用尽，士卒死伤惨重，但南梁援军却迟迟未到。无奈之下，羊侃只得率部突围，经一天一夜苦战最终逃出北魏国境，到达南梁边境渣口（今江苏沭阳西）。 此时，羊侃所部还有士卒万余，战马二千。因部卒多为北方人，因此，当羊侃下令渡江时，大家都唱着悲伤的歌曲。羊侃听闻潸然泪下，他对士卒们说：“大家怀念故土，我也不能勉强你们跟随我，或去或留，大家自己决定吧。”士卒听罢，纷纷起身拜谢而去。 529年，羊侃率少数部卒到达建康，受到梁武帝的欢迎，下诏授羊侃为使持节、散骑常侍、都督瑕丘征讨诸军事、安北将军、徐州刺史，其兄长羊默、弟弟羊忱、羊给、羊元都被任命为刺史。