祖逖（266-321年），字士稚，范阳遒县（今河北涞水北）人，出生于官宦世家。幼年不意学习，及至十四五岁还未入学堂，家人十分忧虑。西晋末年，匈奴不断侵扰，国君晋怀帝及嗣君都先后成了入侵者的俘虏，国势日衰，这些促使祖逖开始发奋读书习文，日见长进。
祖逖稍长，便怀有雄心壮志，喜欢结交英雄好汉。他与挚友刘琨谈论天下大事，总是慷慨激昂，义愤满怀，互相鼓励，将来要为国为民干一番大业。
祖逖任司州主簿时，与刘琨睡一床，一日夜半时刻，鸡叫声将他惊醒，祖逖叫醒刘琨，说道：“这鸡叫声何等激越昂扬，是为催人发奋图强啊！”两人再无睡意，便披衣起床，在融融月光下拔剑起舞，锻炼体魄，准备将来好为国家效力。
在匈奴贵族刘渊、刘聪蹂躏北方，攻下洛阳之时，祖逖也带家属、亲戚、朋友离开北方，迁到了江南。刚刚建立东晋政权的晋元帝，派祖逖做军咨祭酒。这个官职仅能提提建议，并无军事实权。祖逖住在京口（今江苏省镇江市），为准备恢复中原，招集了许多敢作敢为的壮士，练习武艺。过了一些时日，祖逖向晋元帝提出建议，请求朝廷派他北伐中原，以洗雪国家耻辱。晋元帝虽无北伐决心，但祖逖的要求热情可嘉，无由拒绝，只得派祖逖做奋威将军兼任豫州牧，给一千人给养和三千匹布，让祖逖自己去招兵买马，制造武器，出师北伐。
条件如此艰苦，可祖逖并不灰心。他率亲信部属一百多人渡江，向北进发。那天，人们听说祖逖渡江北伐，纷纷前来送行。北伐将士雄赳赳气昂昂，信心满怀。壮士们乘船出发了。船到了江心，祖逖用佩剑击楫，当众誓师道：“祖逖不能清中原而复济者，有如大江！”悲壮的誓言，誓死的决心，使部众深为感动。
祖逖渡江后，进驻江阳，首先起炉炼铁，制造武器，又招募两千多壮士，然后继续向北进发。江北民众听说祖逖北伐，都非常欢迎。他们为祖逖送粮送信，配合打击敌人。在民众的支持下，数年之间，祖逖便收复长江以北、黄河以南的大部分地区。
祖逖领兵继续北进，在黄河之滨与石勒展开激烈战斗。祖逖手下将领韩潜与后赵将领桃豹，两军争夺开封东南面的一个城堡。韩潜占了东城，驻于东台；桃豹占了西城，驻于西台。晋军从东门进出，后赵军从南门进出。双方对峙四十多日，粮食供应发生困难，都感到难以坚持。祖逖为了战胜对方，同韩潜商议，定下一条计策。
他们令部下用许多麻袋装上土，伪装成粮食的样子，派一千多人高喊号子运上东台；又派数人运一些真米袋，故意装作疲劳之状，走到与桃豹交界的道上歇息。桃豹士兵早已饿急，见了运粮晋军，便追赶过来。祖逖部下故意丢下米袋便跑。桃豹士兵抢到米，很是高兴，立刻埋锅做饭。一边吃米饭，一边谈论祖逖军粮充足，而他们却经常受饥挨饿，言谈之间，流露出不愿继续争战的情绪。军心已经动摇，这一动向很快为石勒所知。
为稳定军心，石勒火速派人组织一支由一千多头驴组成的运粮队，运送粮食给桃豹。祖逖得知这一消息，立刻派韩潜等带领一支人马去袭击，在汴水（今河南中牟县境内）岸边，打败后赵的运粮队，夺得全部粮食。桃豹听说粮食被抢，知道无法坚持，惊吓得连夜逃跑。
祖逖打了许多胜仗，东晋朝廷为嘉奖他，升他为镇西将军。祖逖虽做了将军，生活却仍然俭朴。他常用省下来的钱物，帮助部下解困。他与将士同甘共苦，认真训练部队，准备继续向黄河以北挺进。为安定后方，他积极奖励农业生产，安排好从匈奴人和羯人统治地区逃出来的官兵和百姓。他亲自劝督军民种地植桑，要求自己的子弟都去参加耕作，挑担砍柴。他还能“爱人下士，虽疏交贱隶，皆恩礼遇之”。对所部军民立有功劳者，哪怕功劳再小，都立即给予奖赏。祖逖也讲究策略，对于黄河两岸一些被迫接受“胡”族官职的，允许他们表面上继续担任“胡”职，还不时派出巡逻兵去假装抄袭，制造他们并未归附东晋的假相。通过这种途径，祖逖常常能够得到后赵的各种情报，便于及时采取对策。祖逖的这些措施，深受各层军民的拥护。一次，祖逖置酒大会父老，人们感动得热泪盈眶，载歌载舞，赞扬祖逖的功绩。石勒看到祖逖军这样深得人心，不敢再渡河进犯。
正当祖逖准备继续进军河北，完成统一祖国大业之时，元帝却心怀疑惧，担心祖逖力量过大，自己难以控制。于是，派了戴渊来充当都督，节制北方六州诸军事。将祖逖已收复和尚未收复的州县，收归戴渊管辖，以用来牵制祖逖。此时，祖逖又得到消息说朝廷内部王敦、刘隗等大臣互相勾心斗角，争权夺利，有爆发内乱的危险。他因此忧虑交加，终于病倒。公元321年，祖逖抱恨去世，时年五十六岁。当时的豫州人民听闻噩耗，“若丧考妣”，纷纷立祠纪念他。祖逖领导的北伐虽未能胜利完成，但却打击了少数民族贵族南侵的气焰，使东晋王朝的统治得以稳定。他在渡江击楫时表达的一往无前的献身精神，激励着后来人们为反抗民族压迫而斗争。
祖逖去世后，外戚庾亮、庾翼兄弟都曾主张北伐，但因朝廷反对未能实现。后来褚裒、殷浩进行北伐，但均以失败而告终。东晋中期的军事家、野心家桓温在荆州时，于347年灭掉成国，占领四川。然后进行了三次北伐，第一次因军粮不继而退兵，第二次收复了洛阳，第三次于369年攻前燕时又因粮道被截断，南返途中遭伏击，损失惨重。他北伐不成功的原因，一是他有野心，朝廷不支持，二是南下大族早已安居乐业，不愿冒险，对北伐无信心。桓温死后，前秦统一了北方，东晋不但无力北伐，反而遭到前秦大举南伐。