范云字彦龙，南乡舞阴人，是晋朝平北将军范汪的六世孙。祖父范璩之，是宋朝的中书侍郎。范云六岁跟着姑父袁叔明读《毛诗》，每天诵读九页。陈郡殷琰以善识人才闻名，一次探访叔明时见到他，对叔明说：“这是宰相的材料啊。”
范云生性机警，有才识，善写文章，下笔即成，人们往往怀疑他是早就构思好了。他父亲范抗任郢州府参军，范云随父在郢州。当时吴兴沈约、新野庾杲之和范抗是府中同僚，见到范云很快就成为朋友。
初入仕任郢州西曹书佐，后转任法曹行参军。不久沈攸之举兵包围郢州，当时范抗作为府内僚属，入城固守，家属留在城外。范云被城外兵士抓去，沈攸之把他叫来问话，声色俱厉，但范云面不改色，回答从容不迫。攸之笑道：“你真是个招人喜欢的人儿，先回家去吧。”第二天又叫来范云让他到城里送信，犒赏武陵王一石酒、一头小牛；犒赏长史柳世隆二十条鱼会鱼，而都把头去掉。城里有人要杀范云，范云说：“我的老母弱弟，命都在姓沈的手里攥着，如违背他的命令，一定祸及我的亲人。现在在这儿被杀，我心里像荠菜一样甘甜。”柳世隆一直和范云关系好，就解救了他。
后来官拜员外散骑郎。齐建元初年，竟陵王萧子良作会稽太守，范云任府主簿。竟陵王对他还不了解。后来约定了日子去登秦望山，命范云同行。范云因为知道山上有秦始皇刻石，此文三句一韵，人们多按两句一韵读，都读不出韵味；又因为字体是大篆，大多数人不认识，于是夜间找出《史记》诵读熟练。第二天登山，子良让宾客僚属们读刻石，都糊里糊涂不认识。最后问到范云，范云回答说：“下官曾读《史记》，见过这刻石文。”于是上前流畅地读了下来，子良大喜，于是把他待为上宾。从此受到的宠幸王府中无人能比。竟陵王作丹阳尹，他又为主簿，深得亲信任用。一次去进见齐高帝，碰上有人来献白乌鸦，高帝问这是什么祥瑞，范云官位低最后回答，说：“我听说王者礼敬宗庙就会有白乌鸦来到。”当时高帝刚刚拜谒完宗庙，于是说：“你说的对啊，神灵感应的道理，竟是如此应验啊！”
萧子良历任南徐州、南兖州刺史，范云一直跟随州府迁任，经常向子良陈述朝政的得失。不久范云任尚书殿中郎。子良为他求俸禄，齐武帝说：“听说范云专门奉承你，正应当流放他。”子良回答说：“范云侍奉臣下时，动不动就相规劝，谏书现存着一百多张。”武帝要来观看，所说的都很恳切中肯，叹息了半天，说：“没想到范云居然是这样，正该让他来辅佐你。”
子良作司徒时，又补他为记室。当时巴东王萧子响在荆州，杀害向朝廷密告他的属官，京城里人心浮动，多有背叛朝廷之意。而豫章王萧嶷虽说镇守东府城，却经常回自己家，动不动就是十天半月。萧子良则在西郊营造府第，终日游戏而已。梁武帝萧衍当时作南郡王的文学，和范云一起受萧子良礼遇。萧衍劝子良回石头城，并说大司马应该回到东府去，子良不听。萧衍把这情况告诉范云，当时廷尉平王植被齐武帝亲近，范云就对王植说：“国家西部不太平，人心叵测，大司马怎么能长期待在家里？司徒也应该镇守石头城。你在皇帝那儿既然出入甚多，说说这事应该比较容易。”王植就请范云代写启奏，自己呈上皇帝。不久齐武帝就命二王各镇一城。
文惠太子曾到东田观看收稻子，范云当时跟从着。太子回头对他说：“割稻子看着很有意思啊。”范云进言说：“三个季节的劳动，是很辛苦的，希望殿下能体察务农的艰难，不要寻求一朝的饮宴之乐。”太子变了脸色，向范云致谢。从东田出来时，侍中萧缅以前并不认识范云，这时到车边握住范云的手说：“不料今天又听到刚直的言论。”
齐永明十年(492)出使魏国，魏国派李彪向他宣示魏帝的旨意，李彪来到范云的住处，对范云很表赞誉。李彪为他拿来甘蔗、黄柑、粽子，吃完马上又添上。李彪笑着对他说：“范散骑稍微省着点儿吧，吃完可就再没有了。”回国后，又改任零陵内史。原来，照零陵的旧制度，官员俸禄除了公田的俸米之外，另外收杂调四千石。范云到任后，只收取杂调的一半，百姓都很高兴。因此很得齐明帝赞赏，调回京都任为正员外郎。
当时齐高帝、武帝一族的王侯都恐惧大祸临头，范云趁明帝召见时乘机进言说：“从前太宰文宣王对我说，曾经梦到在一座高山上，顶上有一个深坑，看见文惠太子先掉下去，接着是武帝，再接着是文宣王。又看到仆射在室内坐在御床上，旁边有帝王的羽仪，不知这是个什么梦，让我注意不要对别人说。”明帝流泪说：“文宣王的好处难以辜负。”于是对待他的儿子萧昭胄兄弟比对其他宗室子弟好些。
范云受宠于萧子良，江礻石便向范云求与他女儿结亲，酒喝得多了，江礻石从巾箱中取出剪刀给范云，说：“先拿它作为聘礼。”范云笑着接受了。等到江礻石官作大了，范云又趁着酒醉对江礻石说：“从前和将军都是黄鹄，如今将军变成了凤凰，荆钗布衣的门户，和华贵的门第理应分别。”于是拿出剪刀还给江礻石，江礻石也就另觅高门为婚。等江礻石遇祸被杀，妻儿流离，范云经常照顾他们。
后来任始兴内史。按照旧例，在郡界内的百姓如果捕到逃亡的奴婢，统统送到作坊做苦工；如果抓到逃亡部曲则卖掉，换成银子缴纳官府。范云先让百姓给他们作上标记，如果百日后找不到失主，便依法判决送交朝廷。另外始兴郡的后堂历任相沿有杂工作坊，范云统统罢去，让服役者回家，这些都得到皇帝的称赞。始兴郡内有不少霸道奸滑的大族，郡守有不如他们意的，就合谋杀害，不然就赶走他。边境上的蛮人俚人中，盗贼尤其多，前任内史多携带兵器以自卫。范云入境，则用恩德安抚他们，撤掉防卫哨所，于是境内太平无事，商贾可以露宿野外，郡内百姓把他称为神明。
改任广州刺史、平越中郎将。到任后，派人祭祀孝子南海的罗威、唐颂、苍梧的丁密、顿琦等人的坟墓。当时江礻石的姨弟徐艺作曲江县令，江礻石再三托付范云关照他。有一个叫谭俨的，是县里的豪族，徐艺鞭打了他，谭俨感到受了奇耻大辱，到京城告了范云，范云因此被征召回去下了狱，碰上大赦才得以赦免。
当初，梁武帝作司徒祭酒，与范云都在竟陵王的西邸，关系很亲密。永明末年，梁武帝和他哥哥萧懿经占卜居住在建康东郊外，范云也盖了房子和他们为邻。梁武帝每次到范云的住处，范云的妻子常常会听到帝王出行时清道的声音。范云又曾和梁武帝一起夜宿顾日高之家里，日高之的妻子正生孩子，有鬼在外面说：“这屋里有王有相。”范云起身回道：“是王你就应当瞻仰叩拜，是相就该归命于王。”因此以后便为萧衍尽心谋划。后来武帝起兵，将要到建康，范云虽没有担任齐朝的官职，但自己觉得与萧衍平时关系亲近，怕被东昏侯怀疑，想要求入城避嫌，先派车接来太原孙伯翳来商议。伯翳说：“如今上有天象显示，下有灾变感应，萧征东以济世雄武之才，挟天子而令诸侯，天时人事已经如此，还用多说什么。”范云说：“这话正合我意，只是如今羽毛未丰，不得不回到笼子里去，希望阁下好好留意。”范云入城后，被任为国子博士，还未正式任命，东昏侯被杀。侍中张稷派范云带着使命到石头城见梁武帝，梁武帝像以往一样善待他，于是他又为武帝出谋划策，辅佐他成就大业。委任范云为黄门侍郎，和沈约同心协力辅助武帝。不久改任大司马谘议参军，兼任录事。
武帝受封为梁王，范云改任侍中。武帝当时纳娶齐东昏侯的余妃，为此很影响政务，范云曾因此进谏，武帝没有听从。后来有一次和王茂一块儿到武帝的卧室内，范云又进谏，王茂于是起身下拜说：“范云的话是对的，明公心里一定要想着天下大事，不要留恋爱惜一个女人。”武帝默然不语。范云便奏请武帝让把余氏赏给王茂，武帝认为他的意见对而答应了他。第二天，赏给范云、王茂各百万钱。梁武帝受禅称帝，在南郊烧柴祭天，范云以侍中身份同乘一辆车。祭祀结束后，武帝上车对范云说：“我现如今啊，就像拉着已朽烂的缰绳驾驭六匹马一样战战兢兢。”范云回答说：“我也希望陛下一天比一天谨慎。”武帝很赞成他的话，当天就升任他为散骑常侍、吏部尚书。因辅佐武帝成就帝业之功，封为霄城县侯。
范云因与武帝有旧日情谊，位置在许多开国大臣之上，他也为朝廷竭诚尽力，只要是他想到的就一定去办。武帝也推心置腹地倚仗他，凡是他所奏请之事，大多都准奏。范云本来比武帝大十三岁，曾有一次陪武帝饮宴，武帝对临川王萧宏、鄱阳王萧恢说：“我和范尚书年轻时就关系亲密，相敬如兄弟。现在我作天下之主，兄弟之礼不能再用，你们应替我呼范云为兄。”二王离座下拜，并和范云一同乘车回尚书省，当时人们都认为他荣耀之极。武帝曾和范云谈起往事，说：“我从司州回建康时，住在三桥处家里，门生王道拉着我的衣裳说：‘听到外边的图谶上说，齐朝天下不长了，应该另有王者，您应该谋取富贵才是。’我当时坐在书斋里读书，内心被他的话说动，但外表上不得不表示责怪，要喊人把他捆起来，王道叩头哀求，不敢再说。如今王道作了羽林监、文德殿主管，执掌门禁。”范云说：“这不过是天意让王道说出来罢了。”武帝又说：“我作百姓时，曾梦见拜从前的两个妾为六宫嫔妃，如今有了天下，这两个女人已经死了，所封的已不是原来的人了，我常为此而遗憾。”
那年，范云以本官身份兼任太子中庶子。第二年，升任尚书右仆射，兼任吏部尚书。不久，因违背诏令用人，罢免吏部尚书职务，仍任右仆射。
范云生性敦厚和气，对寡嫂礼数周到，家里的事一定要先问嫂嫂再去办。讲求气节，喜欢做出不俗的行为，专门助人于急难之时。年轻时和领军长史王田亥友善，范云的房舍刚盖好，家刚刚搬完，王田亥这时死在官署里，尸体没地方放，范云就把它停放在自己的东厢房。把尸体从大门挪进来，还亲自给死者口内含玉，按丧礼给死者招魂，当时人们都认为这样作实在是难得。等到任吏部尚书掌管官吏的任免，武帝对他委以重任，每天满桌公文、满屋宾客，而范云却能对应如流，从不耽搁误事，官府文书中的作伪之处，都能明察如神，当时之人都佩服他敏捷明断。范云性情率直急躁，缺乏威严稳重，对什么事情褒贬，总显得言语过激，有些士大夫便因此看不惯他。起先，范云作郡守有廉洁之名，等官作大了，也收受了不少贿赂，然而家无余财，有收入便随即分送了亲友。
梁武帝当初刚受九锡将要称帝时，范云忽然得病，过了两天半，才叫医生徐文伯来诊视。文伯说：“要是慢治一个月会好，想快治马上就能痊愈，可就怕二年后复发不可救治。”范云着急地说：“朝闻道夕死而可，何况还有二年呢！”于是文伯点火给他艾灸，又给他多盖上几层衣服。不一会儿，汗流浃背立时能够起床。但二年后果然发病而死。武帝为之下泪，当天亲往参加殡殓，下诏赠任侍中、卫将军，礼官奏请谥为“宣”，武帝下诏赐谥为“文”。范云著有文集三十卷。
范云有堂兄范缜。