刘善明，是刘怀珍的族弟。父亲刘怀人，在宋朝做官为齐、北海二郡太守。元嘉末年，青州发生饥荒，人与人彼此相食。刘善明家里有积存的谷子，自己只吃稠粥，开仓救灾，乡民有很多获得了活命和救助，百姓们都把他家的田地称为续命田。
刘善明少年时期安静读书，刺史杜骥听说了他的名字，等候要见他，而他却推辞不见。四十岁的时候，刺史刘道隆聘他为中从事。刘怀人对刘善明说：“我已经知道了你的立身，还想见到你的立官。”刘善明应聘了，又举他为秀才。宋孝武帝见到他的策论直率有力，感到他十分奇异。
泰始初年，徐州刺史薛安都反叛，青州刺史沈文秀响应他。当时州治在东阳城，刘善明家在城郭以内，不能自己逃出。他的伯父刘弥之虚假地对沈文秀说自己请求效力，沈文秀让他率领军主张灵庆等五千人增援安都。刘弥之出门以后，秘密地对部下说：“这才逃出祸坑了。”走到下邳，便背弃了沈文秀，刘善明的堂伯刘怀恭为北海太守，占据郡城与他相应。刘善明秘密相约，收集了门宗部下，得到三千人。夜间斩了关门的守将投奔北海。他的族兄刘乘人又在渤海聚集兵众呼应朝廷。而刘弥之等人不久被薛安都所杀，明帝追赠他为青州刺史。任命刘乘人为冀州刺史，刘善明为北海太守。又任命他为尚书金部郎。刘乘人生病去世，便以刘善明为冀州刺史。沈文秀投降以后，任命刘善明为海陵太守，郡的边境处在海边，没有树木，刘善明让人种植榆、茶等各种果树，于是获得了利益。还京后为直阁将军。
泰始五年，魏朝攻克了青州，刘善明的母亲在那里，把她转移到了代郡。刘善明穿布衣吃蔬菜，悲哀得像守丧一样，明帝每次见到，都为他而叹息。后来转为巴西、梓桐二郡太守。刘善明因为母亲在魏朝，不愿意西行，流着眼泪坚持请求，得到了准许。朝廷官员大多同情刘善明的心事，元徽初年派人出使北方，朝中议论让刘善明举荐人选。刘善明推荐州乡北平人田惠绍出使魏朝，把他母亲赎了回来。
当时宋朝的后废帝刚刚登基，群臣执政，刘善明独独侍奉齐高帝，委身效忠。出京担任西海太守，行青、冀二州刺史。刘善明的堂弟刘僧副与刘善明都在家乡很知名。泰始初年，魏朝进攻淮北，刘僧副率领部下二千人东面依凭海岛。齐高帝在淮阴，认为他的作为很豪壮，召他相见，任用他为安成王抚军参军。后废帝放肆暴虐，高帝忧虑恐惧，常常让刘僧副化装出行，侦察风声。让他秘密告诉刘善明和东海太守垣崇祖，使他们扰动魏军。刘善明劝他安静地等待时机，高帝采纳了。
废帝被杀，刘善明做高帝的骠骑咨议、南东海太守，兼管南徐州事务。沈攸之反叛，高帝感到非常担忧。刘善明献计说：“沈攸之控制着八个州，纵情搜刮，包藏贼志，已有十年。他性情阴险急躁，才能不可担当重任，叛逆起兵已经几十天，徘徊不进，难道该是有所等待么？一则是他不懂兵机，二则是人心怨恨，三则是他有掣肘的忧虑，四则是天夺了他的胆魄。本来怀疑他会迅速推进，攻其不备；现在朝廷六师一齐奋起，诸侯共同举兵，他已经成为笼中之鸟了。”事情平定后，高帝召刘善明返回京城，对他说：“卿分析沈攸之，即使张良、陈平也只能是这样罢了。”于是调他担任太尉右司马。
齐台建立，他担任右将军，因为疾病推辞没有上任。司空褚彦回对刘善明说：“高尚的事业，本是您历来的心意，现在朝廷正相委任，哪能就学隐士赤松子与王子乔呢！”刘善明回答说：“我本来就没有做官的兴趣，既然遇到了知己，所以奋力奔走。天地已经廓清，朝廷人才济济，我的怀抱已经实现，不敢再贪求富贵。”
高帝登基，因为刘善明有功而且忠诚，打算给他俸禄，就召来刘善明对他说：“淮南接近京城，是国家的形胜之地，非亲近的贤臣不能管理这里，卿给我高卧治理这里吧！”于是他便代替明帝担任了淮南、宣城二郡的太守。又派遣使者前往授爵，封他为新淦伯。刘善明到了郡上，上表言事共十一条：其一认为“天地开创，应该慰问远方，广泛地传扬皇上的恩泽”。其二认为“京都所属的远近地方，应该派发医生和药物，慰问疾苦，年龄九十以上以及病重不能治疗的，应该酌情赏赐”。其三认为“宋代的赦令，真正得到宽大的很少。我认为现在下赦书，应该让事实与它相合”。其四认为“刘昶还在，或许会到边境上来送死，各城应该严密守备”。其五认为“应该废除宋朝大明以来的苛细政法条令，尊崇简易”。其六认为“凡是各种土木建筑开支，可以暂且停止”。其七认为“帝子王女，应该崇尚简约”。其八认为“应该诏令百官以及府州郡县，各自贡献正直言论，以弘扬唐尧、虞舜的美德”。其九认为“忠贞孝悌，应该以特殊的办法提拔；清苦节俭，应该授给他政务”。其十认为“革命成功初始，应该挑选人才出使北国”。其十一认为“交州险要而遥远，在荒原以外，宋末政治苛刻，以至怨恨叛变。现在应该以恩德进行怀柔，不应劳累将士远征，搅动边民”。又撰写了《贤圣杂语》上奏，托辞进行讽谏，皇上用优厚的诏书进行了答复。
刘善明又提议建筑宣阳门，他上表说：“应该明确地方长官的赏罚，建立学校，制定齐朝的礼仪，开设宾馆以接待邻国。”皇上答复说：“用赏罚以警戒地方长官，修饰宾馆以等待远国，都是古代的善政，是我应该努力做到的。重新创造新的礼节，可能不容易编制。国学的美好，已经下令告诉了公卿。宣阳门现在下令停建。我会有很多缺失，很想再听到您的建议。”
刘善明身高七尺九寸，品质朴素不喜欢声色，他所住的茅斋，只是用些斧子砍的木头。床和桌椅，都不加刨削。从少年时就立下了节行，他常说：“在家应当孝顺，为官应当清廉，可以作为子孙的楷模就行了。”等他多次做了州郡长官，颇多贪污纳贿，崔祖思感到奇怪，便问他怎么回事，他回答说：“管子说过，鲍叔了解我。”于是流着眼泪说：“方寸已经乱了，哪有闲暇廉洁！”所得的金钱都用来赎回他的母亲。等他母亲回来，清廉的节操才严峻起来。所经历的职务，廉洁简明而不烦琐，他的俸禄都散发给了亲友。
他和崔祖思非常要好，崔祖思出京为青、冀二州官长，刘善明写信跟他叙旧，于是以忠诚相勉励。等听说崔祖思死去，伤心痛哭，便得了病。建元二年去世，遗命要实行薄葬。追赠他为左将军、豫州刺史，谥号为烈伯。他的儿子刘涤承袭了爵位。
刘善明家中没有遗留的积蓄，只有书八千卷。高帝听说他家清贫，赐给刘涤家葛塘的库存谷子五百斛，说：“葛塘的库存也在我的官署之下，要让后世知道他的见识不凡。”