宋高祖武皇帝名叫裕，字德舆，小字寄奴，彭城县绥舆里人，姓刘氏，是汉代楚元王刘交的第二十一代孙子。彭城是楚国的都城，所以后代子孙便以这里为家了。晋朝东迁，刘氏移居到晋陵丹徒的京口里。他的先祖刘靖，是晋朝的东安太守。他的父亲刘翘，字显宗，是郡上的功曹。武帝是晋哀帝兴宁元年(363)三月十七日的夜里降生，当时神光照得房子里一片光明，这天夜里有甘露降落在墓地的树上。他长大后，为人雄杰，气度宏大，身高七尺六寸，风神奇伟，不拘生活小节，侍奉继母以孝顺闻名。
他曾游览京口的竹林寺，独自躺在讲堂的前面，上面有一条五色龙显现出来，众僧人见了，惊慌地告诉了武帝，武帝独自高兴地说：“请上人不要乱讲。”他父亲的墓在丹徒的候山，那里就是秦史上所说的曲阿、丹徒之间有天子气的地方。当时有个叫孔恭的人，很善于占墓，武帝曾经和他一块经过墓地，欺骗他说：“这片坟墓怎么样？”孔恭说：“不是一般的地方哟！”武帝从此更加自负。行动时常常见到有两条小龙附在两翼，到山上砍柴或到水边打鱼，同伴们有的也曾经看见。地位尊贵以后，龙形更大。
武帝一向贫穷，当时的人都不能识别他的才干，只有琅笽人王谧独自对他深深敬重。武帝曾经欠刁逵的社钱三万，好长时间无法偿还，被刁逵抓起来，王谧暗中用自己的钱代他还上，由此得到释放。后来在新洲割荻草，看到了一条大蛇有几丈长，就用箭射它，蛇受了伤。第二天又到了新洲，听到里面有杵臼的声音，进去一看，见有好几个童子都穿着青色的衣服，在草丛中捣药。问他们是怎么回事，回答说：“我们的大王被刘寄奴射伤了，配些药给他敷上。”武帝说：“神王怎么不把刘寄奴杀死？”回答说：“刘寄奴是个王，不会死的，所以不能杀他。”武帝呵叱他们，都跑散了，便收起药来回去了。又曾经住宿在下邳的旅舍，碰到一个小和尚对武帝说：“江东将要大乱，能使这里安定下来的，恐怕就是您了吧！”武帝的手曾经被割伤，多年不愈，和尚有一种黄散，便留给了武帝，随后忽然不见了，武帝用黄散敷在手上，那伤口只敷一次就好了。保留剩余的黄散以及所得的童子的药，每当遇到刀伤，敷上都很灵验。
起初他担任冠军孙无终的司马。晋朝隆安三年(399)十一月，妖贼孙恩在会稽作乱，朝廷派卫将军谢琰、前将军刘牢之去东方讨伐。刘牢之请武帝参谋府中军事，命令他与几十个人一道监视贼军，遇到了贼兵几千人，武帝便和他们打起来，所率领的人大多战死，而武帝挥舞着长刀，杀伤了很多贼兵。刘牢之的儿子刘敬宣怀疑武帝被贼兵围困，就带了一些轻骑去寻找他；不久，众多骑兵一齐来到，于是平定了山阴，孙恩逃到了海上。
隆安四年(340)五月，孙恩又进入了会稽，杀了谢琰。十一月，刘牢之再次东征，让武帝守卫句章，句章城小人少，武帝每次战斗都攻陷敌方阵地，贼军便退回浃口。当时东伐的各个将官，手下士卒都大肆掠抢，老百姓都深受苦害，只有武帝的军队无所侵犯。
隆安五年(341)春天，孙恩频繁进攻句章，武帝屡次击败他，孙恩重新逃到海上。三月，孙恩向北开往海盐，武帝在旧海盐筑起城墙，贼军每日都来攻城，城内的兵少，武帝便选了一支敢死队把贼军赶走。当时虽然接连胜利，武帝却深深地忧虑着众寡不敌，就在一个夜里把军旗收了起来，以显示自己方面的疲弱，看到敌方懈怠的时候，便奋力出击，大破贼兵。孙恩知道城无法攻下，便向沪渎进兵，武帝弃城追赶。海盐县令鲍陋派遣儿子鲍嗣之率领吴地兵士一千作为前驱，武帝因为吴地人不熟习打仗，命令他们排在后面，他们不答应。这一夜武帝设了很多奇兵，同时添置旗鼓，第二天战斗，伏兵杀了出来，贼兵撤退，鲍嗣之追赶逃敌，结果被消灭。武帝且退且战，部下死伤将尽，便回到原来的地方停了下来，让身边的人们去解取死人的衣服以显示出闲暇的样子。贼兵怀疑还有埋伏，便退走了。六月，孙恩渡海到了丹徒，武帝加倍赶路与他一齐到达，迅速出击，大破贼军。孙恩到了建邺，知道朝廷已经有了防备，于是逃往郁洲。八月，晋朝皇帝任命武帝为下邳太守。武帝又追击孙恩到郁洲和海盐，接连击败他们。孙恩从此以后出现饥荒，逃奔临海。
元兴元年(402)，荆州刺史桓玄率兵东下，骠骑将军司马元显派刘牢之抵抗，武帝又参加了他的军事行动。桓玄到达以后，武帝请求攻击，刘牢之不许，却派自己的儿子刘敬宣去找桓玄请求和解。武帝和东海人何无忌一齐竭力劝谏，刘牢之拒不听从。桓玄攻克了建邺，朝廷任命刘牢之为会稽内史。刘牢之恐惧，招武帝在广陵起兵，武帝说：“人情不在了，广陵又哪里能得到呢？”刘牢之结果在新洲自缢而死。何无忌对武帝说：“我将到哪里去呢？”武帝说：“可以随我回京口。桓玄必定会保持对待臣子的节操，我可以和您一起侍奉他；不行的话，就和您一起对付他。”
桓玄的堂兄桓修以抚军将军的头衔镇守丹徒，任命武帝为中兵参军。孙恩自从兵败以后，害怕被抓获，便在临海投水而死，其余的兵众推举孙恩的妹夫卢循为主帅。桓玄再次派武帝东征。
元兴二年(403)，卢循逃奔永嘉，武帝追赶并击破了他。六月，任命武帝为彭城内史。
十二月，桓玄篡夺了帝位，把晋朝的皇帝迁移到了寻阳。桓修调入朝廷，武帝跟随到了建邺，桓玄见了武帝，对司徒王谧说：“昨天见到了刘裕，风度不凡，确是世人中的豪杰呀。”每次游乐宴集，赠送赏赐十分丰厚。桓玄的妻子刘氏，是尚书令刘耽的女儿，聪明智慧，很有见识，曾经见到武帝，便对桓玄说：“刘裕龙行虎步，目光不凡，恐怕必定不会做别人的下属，要对他早作安排。”桓玄说：“我正在荡平中原，非刘裕不可，等关、陇地区平定，然后再作讨论。”
桓修不久回到京口，武帝借口说枪伤恶化，不能随同，便与何无忌一同乘船返回，商讨复兴的方案，与弟弟刘道轨、沛国的刘毅、平昌的孟昶、任城的魏咏之、高平的檀凭之、琅笽的诸葛长人、太原的王元德、陇西的辛扈兴、东莞的童厚之，共同谋划大计。当时桓修的弟弟桓弘担任青州刺史，镇守广陵，刘道轨担任桓弘的中兵参军，孟昶担任青州主簿，于是武帝就让刘毅到孟昶那里谋划共同袭击桓弘。诸葛长人担任豫州刺史刁逵的左军府参军，预谋占据历阳来相策应，王元德、童厚之预谋在建邺进攻桓玄，时间一到一齐行动。
元兴三年(404)二月二十七日，武帝假托游猎，和何无忌，魏咏之，檀凭之，刘毅的堂弟刘藩，檀凭之的侄子檀韶、檀祗、檀隆、檀道济，孟昶的族弟孟怀玉等人，聚集了义徒共二十七人，愿意随从的一百多人。二十八日，等城门打开，何无忌等义徒身穿传达诏书人的服装，口称诏书走在前面，义徒们骑马驰入城内齐声大叫，官吏士兵都被惊散，随即将桓修斩首示众。武帝哭得十分伤心，进行了丰厚的埋葬和抚恤。孟昶劝桓弘在这一天外出打猎，天还没有明，打开城门放出了打猎的人，孟昶、刘道轨、刘毅等率壮士五六十人，因城门打开而直接进入。桓弘正在喝粥，就被斩首，于是收集他的兵众渡江。
义军刚刚攻下京城，桓修的司马刁弘率领文武官员前来攻打，武帝登上城头对他们说：“郭江州已经在寻阳侍奉御车拨乱反正，我们全都奉了密诏诛除逆党，现在逆贼桓玄的头应当砍掉挂在大航的高杆上面。诸君难道不都是大晋的臣子吗？”桓弘等人相信了他们，便退了回去。刘毅到了以后，武帝命令他杀死刁弘等人。
刘毅的哥哥刘迈原先住在建邺，事情还没发生的前几天，武帝派遣同谋周安穆报告了他，让他来作内应。刘迈非常恐惧，周安穆害怕事情暴露，驰马返回。当时桓玄让刘迈担任竟陵太守，刘迈便乘船而下，打算到郡上任。这天夜里，桓玄给刘迈寄信说：“北府的人情况怎么样？您最近见刘裕说了些什么？”刘迈以为桓玄已经知道了他们的计谋，早晨起来就把情况告诉了他。桓玄很吃惊，封刘迈为重安侯，又因为他没有把周安穆抓住，所以把他杀了，又杀了王元德、辛扈兴、童厚之等。于是派遣顿丘太守吴甫之、右卫将军皇甫敷抵御北面的义军。
在此以前，武帝曾到游击将军何澹之那里去，身边的人见武帝光耀满室，便把这种现象告诉了何澹之，何澹之又说给了桓玄，桓玄并不介意，到了现在，听说义兵起事了，非常恐惧。有人说：“刘裕他们非常虚弱，陛下何必过深地忧虑？”桓玄说：“刘裕足可以成为一世的雄杰，刘毅家里没有一石粮食的储蓄，而赌博时掷骰子一押百万，何无忌，是刘牢之的外甥，酷似他的舅父，共同举办大事，怎么就说不能成功？”当时众人推举武帝为盟主，以孟昶为长史，总管后方事务，檀凭之为司马，愿意随从的老百姓有一千多人。军队驻扎在竹里，向京城发出了檄文。
三月初一，在江乘遇到了吴甫之，武帝亲自拿着大刀，大声呼叫，随即把吴甫之杀死。进军到罗落桥，遇到了皇甫敷，檀凭之战败被杀，众人纷纷后退，武帝前进战斗更加猛烈，而且又杀了皇甫敷的头。起初，武帝谋划大计，有善于相面的人给武帝和何无忌等人相面，说他们近期一定会大贵，只是说檀凭之没有贵相。到现在檀凭之战死，武帝知道这件事必定胜利。
桓玄听说皇甫敷等人已死，就派桓谦屯驻东陵口，卞范之屯驻覆舟山西面。三月初二，义军进驻覆舟山东部，布置了疑兵，用涂油的披肩盖在树上，布满山谷。武帝首先驰向敌军，将士们全都进行殊死的战斗，无不一以当百，呼声震天动地。又借着风力放火，浓烟与火焰冲天，桓谦大败。桓玄开始虽然派出了军队，但是逃走的心意已经决定，另外派遣了领军殷仲文在石头城准备好船只，听说桓谦失败，便乘着轻快的小船向南逃跑了。
三月初三，武帝镇守石头城，任命了留守台阁的各级官员，在宣阳门外烧毁了供奉桓温的牌位，在太庙中建造了晋朝的新神主。派遣各路将官追击桓玄，命令尚书王嘏率领百官迎接皇帝的车驾。司徒王谧与众人商议推举武帝兼职掌管扬州，武帝坚决推辞，便以王谧担任录尚书事、兼任扬州刺史，武帝担任镇军将军、都督八州诸军事、徐州刺史、领军将军。
起初，晋陵人韦叟擅长相面术，桓修让他相一相武帝是不是能当上州官，韦叟说：“应当做边远州的刺史。”回头又私下对武帝说：“您的面相贵不可言。”武帝笑着说：“如果说中了，一定任用您为司马。”到了现在，韦叟去见武帝说：“周成王不忘桐叶之信，您也应该不忘司马之言。现在我不敢希望做镇军司马，只想能够兼任一个军佐。”于是就任用了他。
当时诸葛长人没有如期赶到，被刁逵抓住押送过去，还没到达，桓玄就失败了。桓玄经过寻阳，江州刺史郭昶之为他准备了车子和仪仗器物。起初，荆州刺史王绥因为是江东的显贵世族，又是桓氏的外甥，平时对武帝十分欺侮，到了现在，与他的父亲尚书左仆射王愉都抱有怀疑心理，一齐被杀死。
四月初一，尊奉武陵王司马遵为大将军，按照圣旨，实行大赦，只有桓玄祖父的后辈不予赦免。桓玄篡位，是由王谧辅佐的，是他亲手解下晋安帝的玉玺。等到义旗树立，众人都说王谧应该杀掉，只有武帝平时对王谧很感激，因而保护他。刘毅曾经趁朝会的机会，问王谧玉玺在什么地方，王谧更加恐惧。等到王愉父子被杀，王谧的堂弟对王谧说：“王驹无罪而被杀死，这是铲除胜过自己的人，兄长既是桓氏一党的人，希求免祸能够做到吗？”驹，是王愉的小字。王谧恐惧，逃奔曲阿。武帝告诉大将军把他迎接回来，恢复了他的职位。
桓玄挟持天子逃往江陵，又渡江东下，与刘毅、何无忌、刘道轨等在峥嵘洲相遇，众军把他打得大败。桓玄的党徒殷仲文拥戴两位皇后回到建邺。桓玄重又挟持天子到了江陵，并从那里逃往南郡，太守王腾之、荆州别驾王康产拥戴天子进入南郡府。
起初，益州刺史毛璩派遣侄孙毛佑之和参军费恬为弟弟送丧离开州城，毛璩弟弟的儿子毛修之当时做桓玄的屯骑校尉，引诱桓玄进入蜀地，到了枚回洲，费恬和毛佑之迎面用箭射他，益州督护冯迁杀死了桓玄，把人头送往建邺。桓玄的侄子桓振逃到华容的涌中，招集逆党，袭击江陵城，王腾之、王康产都被杀死。桓谦先前曾藏在沮川，也聚集人马与桓振呼应。他们为桓玄举行哀悼，设立了丧庭。桓谦率领众官员奉献玉玺给晋安帝。刘毅、何无忌进军与桓振交战，在灵溪战败。
十月，武帝兼任青州刺史，可以带领卫士一百人进入宫殿。
义熙元年(405)正月，刘毅等到达江津，击败了桓谦、桓振，江陵平定。三月十三日，晋朝皇帝从江陵来到。十九日，诏令晋升武帝为侍中、车骑将军、都督中外军事、录尚书事。武帝坚持推辞，不久镇守丹徒。九月二十七日，任命武帝兼做兖州刺史。
卢循渡海攻破广州，俘获了刺史吴隐之，于是便以卢循为广州刺史，以他的同党徐道覆为始兴相。
义熙二年三月，晋升武帝督率交、广二州。十月，评论匡复晋朝的功勋，封武帝为豫章郡公，食邑一万户，赐绢一万疋。其余的人封赏各有差别。
三年十二月，司徒、录尚书、扬州刺史王谧去世。
四年正月，征调武帝入朝辅政，授职担任侍中、车骑将军、开府仪同三司、扬州刺史、录尚书事，徐、兖二州刺史依旧保留。武帝上表解去兖州职务。在这以前，武帝曾经派遣冠军刘敬宣讨伐蜀地的贼寇谯纵，结果没有成功回来了。九月，武帝因为刘敬宣败退，请求退位，没有批准。十月，降级为中军将军，开府职位仍然不变。
五年二月，伪燕国国主慕容超大肆掠夺淮北。三月，武帝上表请求去北方讨伐，让丹阳尹孟昶监管中军留府事务。于是渡过淮水进入泗水，五月，到达下邳，留下船只，军队步行前进到了琅笽，所经过的地方，都筑城留人守卫。
慕容超的大将公孙五楼请求占领大岘山，坚壁清野等待对方，慕容超不肯听从。最初谋划这次战役，参加讨论的人认为贼军如果严守大岘山，军中没有所需物资，自己怎么能够返回？武帝说：“并不是这样。鲜卑人性格贪婪，谋划事情看不到远处，既庆幸自己的胜利，又十分爱惜那些谷物，必然会引诱我们，而且会轻率交战。部队一入岘山，我们还有什么担忧呢？”等到进入了岘山，武帝举手指着天说：“我们的事情成功了。”众人询问其中的缘故，武帝说：“军队已经越过险要地形，兵士都有必死的斗志，余粮储存在田野当中，军队没有缺乏给养的忧虑，胜利是可以断定的。”
六月，慕容超留下老弱兵士守卫广固，派他手下的广宁王贺剌卢与公孙五楼全力占据临朐。离城四十里有个巨蔑水，慕容超告诫公孙五楼要抓紧占据它。等他赶到，已经受到龙骧将军孟龙符的保卫，公孙五楼只得退回。
大军把四千辆兵车分为两翼，两车并排慢慢行驶，车前张挂帷幔，御手拿着长矛，以骑兵为流动军队，军令十分严肃。等到达临朐，贼军的骑兵一齐来到，武帝命令兖州刺史刘藩、并州刺史刘道怜等攻陷敌军阵地。太阳偏西的时候，战斗仍然十分激烈，武帝利用参军胡藩的计策，袭击攻克临朐，贼军于是大肆逃奔。慕容超逃回广固，获得了他的玉玺、豹尾、轿车等，送到都城。十九日，攻克了广固的大城，慕容超加固了它的小城。武帝于是设下了很长的包围圈进行监守，吃住都在青州，停止了长江、淮河的物资转运。
七月，慕容超的尚书郎张纲去向姚兴请求救兵，从长安返回，泰山太守申宣把他捉住押送过来。张纲具有巧妙的构思，先前，武帝制造攻城的器具，城上的人说：“你们得不到张纲，怎么能制成呢！”等到张纲来到，城内的人无不大惊失色。慕容超既然求救没有成功，张纲反被俘虏，于是便请求称臣，割大岘山为界，献马一千匹，武帝不答应。
当时姚兴派遣使者，声言将要渡过淮水东下，武帝对他说：“你报告姚兴，我平定了青州，将要跨过函谷关，他这贼寇若能自己送上门来，现在正是时候。”录事参军刘穆之忽然进来说：“这话不足以威胁敌人，也许会激怒他们。如果鲜卑没有战胜，西羌又来侵扰，您将怎么对付？”武帝于是笑着说：“这是军事机密，不是您所能知道的。西羌如果能够来救，不会先有声明，这只是他们自己在故作强大。”
十月，张纲制成了攻城器具，设计了飞楼悬梯、木幔板屋，上面盖上牛皮，弓箭就无法奏效了。刘毅派遣上党太守赵恢率领一千余人前来援助，武帝夜间暗中派军队与他会合。天明后，赵恢的部队五千人，才上路前进，每当晋朝使者将到的时候，就如此重复一遍。
六年二月初五，攻克了广固进行屠杀，慕容超越过城墙逃走，结果追上了他，在建康的街市上将他斩首。杀掉了他的王公以下官员，获得人口一万多、马二千匹。
起初，武帝进军北方，徐道覆劝卢循乘虚而出，卢循不听，徐道覆于是去到番禺说服卢循说：“今天的机会，万万不可丢失。如果你攻占了京都，刘公虽然回来，也没有什么办法了。”卢循听从了他。这月，侵犯南康、卢陵、豫章等郡，郡守都逃走了。当时武帝将要镇守下邳，进军到了黄河、洛水，等征调的使者到后，当天就班师还朝了。镇南将军何无忌与徐道覆交战，失败战死在豫章，朝内外都很震惊，朝中的议论想拥戴皇上向北逃走。武帝驻军在山阳，听说失败，脱去盔甲与几十个人一起到江上去调查询问，知道贼军还没有到达。
四月初二，武帝到了京都。刘毅自己上表请求南征，武帝认为贼军刚刚打了胜仗，气势正盛，必须军容严整，共同前进，便让刘藩制止他，刘毅不听从。五月的壬午日，卢循在桑落洲打败了刘毅。等他们得知了武帝胜利进入，个个互相对视，大惊失色，企图退回寻阳，平定江陵，据守二洲来对抗朝廷。徐道覆请求乘胜继续前进，争论了十天，才依从了他的意见。
这时北国的军队刚退回去，创伤没有恢复，战士只有几千人，而贼军却有十几万，战船绵延千里。孟昶、诸葛长人很恐惧，打算保护天子过江，武帝说：“现在兵士虽然少，还足可以一战，如果敌寇渡江成功，大臣、君主就会共同灭亡；如果不是这样，不可能再在草野间求得活命，我的主意已经定了。”起初，武帝征讨慕容超，只有孟昶鼓励行动，四月初五，孟昶便上表给天子，引罪自责，服药而死。
当时的议论者企图分兵屯守各个渡口，武帝说：“贼众我寡，分兵以后则会有人探测到虚实，一处失利，就会破坏三军的心态，如果在石头城聚集各军，则各军的力量不会分散。”四月初七，武帝转移驻地到石头城。十四日，贼军大规模开来，武帝说：“贼军如果由新亭直上，就暂且回避它；如果回头停泊在蔡洲，就会被捉住的。”徐道覆打算从新亭烧毁船只交战，卢循疑虑多决断少，常常追求万全之策，于是便停泊在蔡洲以等待军队溃败。武帝登上石头城远望，见到了这种情形，很高兴。二十九日，贼军在南岸设下伏兵，又向白石派出疑兵。武帝率领刘毅、诸葛长人向北出兵抵御，留下了参军徐赤特守卫查浦，告诫和命令他们不准交战。武帝北出以后，贼军焚烧了查浦而到达张侯桥，徐赤特与他们交战，大败，贼军前进屯驻在丹阳郡。武帝驰马回到石头城，斩了徐赤特。解去盔甲很长时间，才在南塘出阵。七月初十，卢循从蔡洲撤退，准备归回寻阳，武帝派遣辅国将军王仲德等追击。让建威将军孙处从海道上袭击番禺，告诫他说：“我在十二月必定击破妖寇，您也足可以到达番禺，要首先捣毁他的巢穴。”
十月，武帝率领舰队南伐，派刘毅监管太尉留府。这月，徐道覆攻击江陵，荆州刺史刘道轨把他打得大败，徐道覆逃回湓口。十一月，孙处到了番禺，把城攻破，卢循的父亲卢嘏逃奔始兴，孙处安抚当地民众进行守卫。十二月初一，大军驻扎在大雷。初二，贼军沿江而下，武帝亲自拿着军旗和战鼓，命令各路军队奋力拼杀，军中有很多万钧神弓，所到之处无不摧毁。武帝自己在中流皱眉观看，顺着风和水的走势，贼舰全都先靠近西岸，岸上军士事先已经准备好了火把，将他们全部烧毁，杀得大败。卢循回到寻阳，接着便逃往豫章，全力在左里建造栅栏。十八日，大军驻扎在左里，即将开战，武帝挥动令旗，令旗的旗竿折断，旗子沉入水中，众人都很恐惧，武帝笑着说：“过去的覆舟战役也是这样，今日的胜利是必定无疑的了。”猛攻敌军的栅栏，卢循单独乘着一条船逃走，众官兵都投降了。大军凯旋，晋安帝派侍中黄门到营地去进行慰劳。
义熙七年正月十二日，整顿部队归来，改任他为大将军、扬州牧，赠给他班剑二十人，原来的官职依旧。武帝坚持推辞。凡是南北征讨战死者，全都列出姓名请朝廷赠发钱财治丧，尸体失掉没有返回的，派遣主帅前去迎接，使归还本土。
二月，卢循到了番禺，被孙处击败，收罗剩余兵众向南逃走。刘藩、孟怀玉在始兴将徐道覆杀死。
自从晋朝中兴以来，朝廷的纲纪松弛紊乱，权贵之门互相兼并，老百姓流离失所，不能保持自己的产业。桓玄很想改变这种状况，结果没能实行。武帝做了辅佐大臣以后，大力宣传规章制度，豪强谨慎规矩，远近遵法守纪。到现在，会稽余姚的虞亮又隐藏了逃亡人员一千多人。武帝杀死了虞亮，罢免了会稽内史司马休之。
晋安帝重申了以前的授官诏令，武帝坚持推辞。于是改授他为太尉、中书监，他才接受了任命，奉送了黄钺。
交州刺史杜惠度杀死了卢循父子，将七个人头用盒子装了送到京城。
在这以前，各州所送的秀才、孝廉大多名不符实，武帝于是上表申明从前的规定，对他们进行策试。
荆州刺史刘道轨患病，要求回乡，义熙八年四月，改授豫州刺史，让豫州刺史刘毅去代替他。刘毅一向具有雄才大志，与武帝一起兴复晋朝，自认为京城、广陵的功劳足以互相抗衡，虽然暂且推举武帝，而心中却不服气。他非常自傲自夸，朝士中素有威望者多去归附他，他与尚书仆射谢混、丹阳尹郗僧施都结交很深。等他去镇守江陵，豫州旧府的下属许多人都辞职去跟随他，他奏请让郗僧施任南蛮校尉。武帝知道刘毅终究是一个异端人物，心里在秘密算计他。刘毅到了西部，称言病重，上表请求让堂弟兖州刺史刘藩作为副手，武帝假装答应了他。九月，刘藩入朝，武帝命令逮捕刘藩和谢混，一并赐死。自己上表请求讨伐刘毅，又借掌黄钺，率领各路军队西征。任命前镇军将军司马休之为平西将军、荆州刺史，兖州刺史刘道怜镇守丹徒，豫州刺史诸葛长人监管太尉留府事务，任命太尉司马丹阳尹刘穆之为建威将军，给他配备实际兵力。十五日，从建邺出发，派遣参军王镇恶、龙骧将军蒯恩前往袭击江陵，将城攻破，刘毅及其党羽全部被杀。
十一月，武帝到了江陵，分出荆州的十个郡成为湘州，武帝仍旧前往督察。任命西阳太守朱龄石为益州刺史，让他讨伐蜀地，晋安帝晋升武帝为太傅、扬州牧，赠给羽葆、乐队，仪仗二十人。
九年二月三十日，武帝从江陵到来。起初，诸葛长人贪淫骄横，武帝常常宽容他。刘毅处死以后，诸葛长人对他的亲信说：“从前剁死彭越，今年杀死韩信，灾祸就要到了。”准备阴谋作乱。武帝按时到达都城，却常常停留不进。公卿以下，连日在新亭等候，诸葛长人也忽然出现。随后武帝乘一只轻快小船秘密到达，已经回到了东府。诸葛长人到了府门，被叫到面前，摈退旁人说起闲话，凡是平生所没有说尽的话，都和他说到了，诸葛长人非常高兴。武帝秘密命令身边的武士丁日午从布幔后出来，从座位上把他拉开，杀死在床边。用车子拉着他的尸体交给廷尉，并且处死了他的弟弟诸葛黎人。丁日午骁勇有力，当时的人有谚语说：“勿跋扈，会丁日午。”
以前，山湖川泽都被豪强所夺取，百姓打柴、采摘、打鱼、垂钓，都要强迫交税，到现在一律禁绝。当时人们的居住很不统一，武帝上表制定了条例，于是都依划分的土地为准，只有徐、兖、青三州居住在晋陵的人不在划分的范围。各个流民聚集的郡县，有许多进行了合并。
由武帝兼任镇西将军、豫州刺史。武帝坚持辞去太傅、扬州牧和班剑，归还了黄钺。
七月，朱龄石平定了蜀地，斩了谯纵，把他的人头传送到建邺。
九月，晋安帝因为武帝平齐国、定卢循的功劳，封武帝的次子刘义真为桂阳县公；并且重申以前的任命，授给武帝太傅、扬州牧的职务，配备葆羽、乐队，仪仗二十人。将吏百官鼓动劝导，才接受了羽葆、乐队、仪仗，其余坚决推辞。
义熙十年，精简劳役，让人民得到休息，建筑东府城，修建府衙房舍。
武帝看到荆州刺史司马休之宗室繁盛，又很得长江、汉水一带人心，怀疑他存有异志；而司马休之的儿子司马文思住在京城，招聚轻捷侠客，武帝把他抓住送交给司马休之，让他自己去处理。司马休之上表请求废除司马文思的爵位，并且给武帝写信致谢。
义熙十一年(415)正月，武帝逮捕了司马休之的儿子司马文宝、他哥哥的儿子司马文祖，一并赐命自杀。率领大军西出讨伐。重新借掌黄钺，兼任荆州刺史。派中军将军刘道怜监管留府的事务。司马休之上表自我剖白，并列举武帝罪状。司马休之幕府中的录事参军韩延之有大用之才，武帝还没到江陵，就秘密写信招他。韩延之回信说：“承蒙亲自率领兵马，远赴西部地区，全境内的士子平民，无不惶恐惊骇。蒙您来信，知道是因为谯王以前的事，更增添了叹息。司马平西忠于国家，宽宏待人，因为您有匡复晋朝的功勋，是国家依赖的人物，推赞您的德行，向您敬献诚意，常常进行询问请教。谯王因为一点小事被弹劾，仍然自己上表辞位；何况有了大错会缄默不语么！来信说，‘怀抱虚静，期待贤才，由来已久’。现在攻打别人的君长，而以私利引诱别人，真可以说是‘怀抱虚静，期待贤才’了呀。刘藩死在宫殿门前，诸葛亡于喽罗之手，甜言蜜语使州官们惊诧，突然袭击又开来轻兵，于是使得客席上没有诚心的士人，外地区没有自信的诸侯，自以为是得意算盘，实在是一种耻辱。我虽然粗鄙拙劣，但是却曾经听君子讲过人生道义。以平西将军的高尚品德，难道会没有能够授官的臣子么？借着天下丧乱，九流浑浊，应当与臧洪在地下共同游玩。不再多说。”武帝看信后深深叹息，拿它来给将士们看说：“追随别人就应当是这样。”
三月，军队驻扎在江陵。起初，雍州刺史鲁宗之依仗气力喜好乱为，而且顾虑不为武帝所容，常常念叨谶语说：“鱼登日，辅帝室。”与司马休之互相串通。到了现在，率领他的儿子竟陵太守鲁轨会聚在江陵。武帝渡过长江，司马休之的军队溃败，与鲁轨等人逃奔襄阳，江陵平定。武帝兼任南蛮校尉。将授南蛮官衔时，正遇上四废日，下属官员郑鲜之等人建议改换一个日子，武帝没有答应。下令开恩实行宽大政策。
四月，进军襄阳，司马休之等人逃奔姚兴。晋安帝重申先前的命令，授职武帝担任太傅、扬州牧，可以带剑穿履朝见皇帝，入朝不须趋步，赞拜不须报名，加赠前部羽葆、乐队，设置左右长史、司马、从事中郎四人，封第三子刘义隆为北彭城县公。八月十三日，武帝从江陵返回，奉还黄钺，坚决推辞太傅、州牧、前部羽葆、乐队，其余的接受了任命。
义熙十二年正月，晋安帝诏令武帝依旧征召士人，兼任平北将军、兖州刺史，加上督率南秦，共二十二州。武帝因为平北府中文武人才缺乏，不适合另外设置，于是撤销了平北府，把它并入大府。三月，任命武帝为中外大都督。
起初，武帝扫平了齐国入侵，仍然有平定关中、洛阳的意思，遇上卢循侵袭逼迫，所以放下了。等到荆州、雍州平定，于是开始谋划外部策略。正赶上姚兴死去，他的儿子姚泓刚刚继任，兄弟互相杀戮，关中混乱。四月十八日，武帝上表讨伐关中、洛阳，便戒严讨伐北方，命令他兼任征西将军、司豫二州刺史。任命他的世子为徐、兖二州刺史。武帝希望以自己的声望怀柔远方，接受了琅邪王的封号北伐。五月，庐江的霍山崩裂，获得了六口钟，献给了天子。十七日，加职兼任北雍州刺史，前后部羽葆、乐队，增加班剑为四十人。八月十二日，率领大军进发，以世子为中军将军，监管太尉留府事务，尚书右仆射刘穆之为左仆射，兼任监军、中军二府的军司，住进东府，总管内外一切事务。九月，武帝到了彭城，加职兼任北徐州刺史。十月，各军到达洛阳，包围了金墉，迫使他们投降。修复了晋朝皇家的五陵，设置了守卫。
十二月二十九日，晋安帝加任武帝为相国、总百揆、扬州牧，封赏十郡为宋公，具备九锡之礼，赐给玉玺、远游冠、绿绶带，地位在诸侯王之上。
十三年正月，武帝利用船队前往讨伐，留下彭城公刘义隆镇守彭城。军队驻扎在陈留城，经过张良庙，下令要定时维修装饰庙宇和祭奠。晋安帝追赠武帝的祖父为太常，父亲为特进、左光禄大夫，武帝辞让不肯接受。二月，冠军将军檀道济等人的军队驻扎在潼关。三月初八，武帝率领大军进入黄河。五月，武帝到达洛阳，拜谒晋朝的五陵。七月，到了陕州，龙骧将军王镇恶的水军从黄河进入渭河。八月，扶风太守沈田子在蓝田大破姚泓的军队。起初义熙九年，木星、土星、火星、金星曾经聚拢在井宿，到现在终于关中平定。九月，武帝到长安。长安丰收，国库积满，武帝首先收集了他们的彝器、浑天仪、土圭、记里鼓、指南车以及秦始皇玉玺送到京城；其余的珍宝珠玉，全都分别赏赐给将帅。把姚家宗族迁徙到江南，押送姚泓到建康，在街市上将他斩首。武帝拜谒了汉朝的长陵，在未央殿大会文武官员。
十月，晋安帝下诏晋升宋公为宋王，增加十郡扩大宋国，加上以前的共二十郡。他的相国、扬州牧、兼征西将军、司豫北徐雍四州刺史仍旧不变。武帝打算在长安休息，经略赵、魏两地，十一月，前将军刘穆之去世，于是才返回。十二月初三，从长安出发，以桂阳公刘义真为雍州刺史，镇守长安，留下心腹将领来辅佐他。
义熙十四年(418)正月二十六日，武帝到了彭城，解除戒严，脱去盔甲。以辅国将军刘遵考为并州刺史，兼河东太守，镇守蒲坂。武帝辞去了司州职务，兼领徐、冀二州刺史，坚持推让晋升爵位。当时汉中成固县的汉水旁边有奇异的声音如同打雷，不一会河岸崩裂，有十二口铜钟，从地下暴露出来。巩县人宗曜在他的农田里得到了一株好庄稼，九个穗子同在一个茎上，武帝把它献给晋安帝，安帝又归还给他，武帝谦让，才算结束。
六月二十三日，接受了赐给相国宋公的九锡，下令赦免国内死刑以下的罪犯。诏令尊崇豫章太夫人为宋公太妃，世子为中军将军副官，相国府百官都依照朝廷的建制。又诏令宋国在所封的十郡以外，都可以选人任用。
先前，安西中兵参军沈田子杀死了安西司马王镇恶，将领们杀死了安西长史王修，关中混乱。十月，武帝派遣右将军朱龄石代替安西将军桂阳公刘义真为雍州刺史。刘义真回京，被赫连勃勃所追赶，大败，仅仅自己一人逃脱，众将帅和朱龄石都被杀死。
十二月，晋安帝逝世，大司马琅笽王登上皇帝位。
元熙元年(419)正月，晋恭帝下诏征武帝入朝辅政，又重申以前的命令，把他的爵位由公晋升为王，把徐州的海陵、北东海、北谯、北梁，豫州的新蔡，兖州的北陈留，司州的陈郡、汝南、颍川、荥阳十郡，增加为宋国属地。七月，才接受了命令。赦免国内五年徒刑以下的罪犯，迁都到寿阳。九月，辞去了扬州的职务。十二月，晋恭帝命令武帝的冕冠可以有十二个玉串，建立天子的旌旗，出入警戒清道，乘坐金根车，驾车用六匹马，具备五时副车，设置旄头云罕，乐舞使用八佾，设置编钟木架悬挂在宫中。晋升王太妃为太后，王妃为王后，世子为太子，王子、王孙的爵位封号，完全和旧时的规制一样。
二年正月，武帝上表辞让特殊礼遇。竟陵郡江滨自己裂开，露出了古铜礼器十几枚，武帝把它们献给了晋恭帝，恭帝推让不肯接受，于是送回了各种祥瑞器物，收藏在宰相府。四月，下诏书派人敦促勉励，兼征武帝入朝辅政。六月初一，武帝到达京城。初九，晋恭帝禅让帝位给宋王。有关部门把诏书的草稿写成后，请恭帝把它书写下来，天子随即便拿起笔来，对身边的人说：“桓玄的时候，天命已经改换，重又被宋公接续下来，将近二十年。今天的事情，本是我心甘情愿的。”十一日，晋恭帝派遣使者送上文书，又派遣使持节、兼太保、散骑常侍、光禄大夫谢澹，兼太尉、尚书刘宣范送上玺书，转交皇帝的玉玺，受禅的礼节，完全和唐虞、汉魏从前的办法一样。武帝上表进行辞让，晋恭帝已经退到琅笽王府，奏表没有送到。于是陈留王司马虔嗣等二百七十人和宋台的群臣一齐上表劝武帝即皇帝位，他还是不答应。太史令骆达陈述天文符应说：“按晋朝的义熙元年到元熙元年，金星白天出现，共有七次经过天空，占卜说：‘金星经过天空，人间换主，异姓新兴。’义熙七年，有五条虹出现在东方，占卜说：‘五虹出现，天子废黜，圣人将出。’九年，土星、木星、金星、火星相聚在井宿。十三年，土星进入太微星。占卜说：‘镇星(土星)守太微，有王新立，有王迁徙。’元熙元年冬天，黑龙四次升到天上，《易传》说：‘冬天，龙出现，天子失去国家，大人接受天命。’冀州道人释法称告诉他的弟子道：‘嵩山之神说，江东有一个刘将军，是汉朝皇家的后代，应当承受天命，我将把玉璧三十二只、镇金一饼送给他，这是刘家占卜传国应有的世数啊。’汉朝建武到建安末共一百九十六年而禅让给魏朝，魏朝从黄初到咸熙末共四十六年而禅让给晋朝，晋朝从泰始到现在共一百五十六年，三代相让，都是到六结束。又汉光武帝在南阳建立社宫，汉末而社宫前的树死亡，刘备建立蜀国，就是和这相应而兴起；到了晋朝末年，旧根才开始萌发，到现在已经繁盛起来了。”诸如这些共有几十条。群臣又坚持请求，武帝才依从了。
永初元年(420)夏季六月十四日，武帝即位于南郊，设立祭坛，烧起木柴祭天。典礼结束，备好车驾，到了建康宫，坐在太极前殿，宣布大赦，改换年号。赐给每人爵位二级。鳏寡孤独不能自己生活的人，每人发给谷物五斛，拖欠的租税旧债不再收取。那些因为品评乡里人物、发表公正言论以及隐赃、贪污、淫秽、盗窃而被判罪的，一律免除。长期刑徒，全部宽大遣返。丢官失爵、受到监禁、强制劳役的，全都恢复旧时的状况。封晋恭帝为零陵王，可以将全郡作为食邑，悬挂天子的旌旗，乘坐五时副车，实行晋朝的历法，郊外祭祀天地，礼乐制度，都用晋朝的典制，上书不称作表，答表不称作诏，宫殿定在原来的秣陵。追尊皇父为孝穆皇帝，母亲为穆皇后，尊王太后为皇太后。
永初三年五月，皇上病危，召来太子，告诫他说：“檀道济虽然有才干，却没有远大志向，不像他的哥哥檀韶有难以驾驭的气概。徐羡之、傅亮看来不会有异图。谢晦屡次跟随征伐，很善于随机应变，如果有异图，必定就是这个人。要缩小他的势力，可以在会稽、江州安置他。”又写了手诏：“朝廷不需要再有别府，宰相掌管扬州，可以设置铠甲武士一千人。如果大臣担任重要职务，应该派自己的爪牙，以防备居心不良的人，可以把京城留守部队交给他。有外出征讨，全部拨给京城部队，战争结束归来恢复原状。后世如果有幼主，朝中的政事全部委任宰相，母后不要临朝。仪仗军队不许进入宫殿门，重要人物可以多给班剑。”二十一日，皇上在西殿逝世，当时年龄六十岁。七月二十五日，埋葬在丹阳建康县蒋山初宁陵。群臣上谥号为武皇帝，庙号称高祖。
武帝清心寡欲生活简单朴素，很少欲望，风格严整，具有法度，不曾细看珠玉车马这些物品，后庭没有纨绮丝竹各种音乐。起初，朝廷没有设置乐队，长史殷仲文因此建言，武帝说：“每天都忙不过来，而且也听不懂啊。”殷仲文说：“经常听自然就懂了。”武帝说：“正因为懂了，就会爱好它，所以才不去熟悉它。”宁州曾经贡献琥珀枕，光色十分美丽，价值百金。当时将要北伐，因为琥珀可以治疗枪伤，皇上非常高兴，命令砸碎分别送给各位将军。平定关中后，得了姚兴的侄女，十分宠爱，因此荒废了军政大事，谢晦劝谏，马上就把她送出去了。财物都在外府，内部没有一点私人积藏。宋台建立以后，有关部门奏请东西堂中放上曲形高脚的坐榻———局脚床，用镀金的钉子，皇上不允许。结果使用了直脚床，钉用铁钉。广州曾经贡献入筒细布，一匹长八丈，武帝讨厌它的精美累人，于是就交给了有关部门弹劾广州太守，把布还给他们，并且下令岭南禁止纺织这种布。武帝平时有一种热病，并且患有枪伤，晚年尤其厉害，坐卧常常需要冷东西，后来有人献了一张石床，睡上，觉得极好，于是叹息说：“木床尚且很费钱，何况是石床呢。”就让人把它给毁了。他下令各个公主出嫁，陪送不超过二十万，没有锦绣金玉。朝内外的人供给宫中费用，无不节约俭省。性格尤其喜欢简易，曾经穿一双连齿的木屐，喜欢出来在神武门内左右散步，随从的不过十多人。当时徐羡之住在西州，他曾经很想念徐羡之，便步行走出了西掖门，仪仗人员陆续追随上来，已经出了西明门了。诸位儿子早晨来慰问起居情况，进门后脱去公服，只穿戴裙子帽子，就像家庭中的礼节一样。
当初身份低微的时候，他曾经在丹徒种田，接受天命以后，锄、锹等农具还有一些被保存下来，他命令把它们都收藏起来，以便留给后人。后来宋文帝视察旧宫，见到后问起来，身旁的人按照实际情况作了回答，文帝脸上很羞愧。有一个贴身的侍从进言说：“大舜曾经住在历山种田，大禹曾经亲自从事土木，陛下不看到各位先圣的遗物，怎么知道稼穑的艰难，怎能知道先帝的大德呢？”到了孝武帝大明年间，拆毁了武帝所住的阴暗房子，在原地筑起了玉烛殿，和群臣一起观看，床头有土障，墙上挂着葛草制的灯笼，麻绳制的拂尘，侍中袁靑十分称赞皇上的俭素品德，孝武帝不作回答，独自说道：“田舍公得到了这些，已经是过分了。”所以他能够占有和光照天下，完成大业，真是太隆盛了！