刘仁轨别名正则，汴州尉氏县人。
少年时代家境贫困，爱好学习。遇上隋朝末年的社会动乱，不能安静地读书，每当劳动之余，就伸出手指在空中、在地上写写划划，来巩固学得的知识，终于以学识渊博而闻名。唐高祖武德初年，河南道安抚大使任瑰起草奏疏议论国事，刘仁轨看到那份草稿，替他修改了几句话。
任瑰对他的才学感到惊异，按照朝廷的授官规定任命他为息州参军。后来改任陈仓县尉。官署里有个名叫鲁宁的折冲都尉，骄狂放纵违反法纪，县署里没有谁能制服他。刘仁轨警告他不得重犯，但鲁宁凶暴蛮横依然如故，刘仁轨用刑杖将他打死。州里的官员把这事报告了朝廷，太宗李世民说：“一个县尉竟打死了我的折冲都尉，这能行吗？”把他召进朝廷责问。刘仁轨回答说：“鲁宁侮辱我，我因此杀了他。”太宗认为刘仁轨刚毅正直，提升他任咸阳县丞。
贞观十四年(640)，太宗准备到同州设置栅栏圈围野兽打猎。当时秋收还没有结束，刘仁轨劝谏说：“今年雨水丰沛，各种庄稼都长得茂盛，现在仅仅收割了十分之二。只按平常情况征用劳役，就已对秋收造成妨害。还要为打猎做准备工作，维修桥梁平整道路，劳力即使尽量节省，还是不能少于几万人。稍微推迟十来天，让农民收割完毕，陛下的车驾从容出动，于公于私都得到安宁。”太宗发下加盖御印的文书对他的劝谏表示赞同采纳。后来任命他为新安县令。接连提升到给事中。他遭到李义府的诽谤，离京任青州刺史。高宗显庆五年(660)，征讨辽东，李义府想捏造罪名排斥他，派他去督率从水路运输军粮，粮船果然翻沉了。刘仁轨因此获罪免去了官职，以普通百姓的身份随军服务。
当初，苏定方平定百济国以后，留下郎将刘仁愿镇守百济城，左卫中郎将王文度任熊津都督，安抚收容百济的残余兵众。王文度死了，百济国的旧将福信以及和尚道琛接回原来的王子扶余丰立为国王，带领兵众围攻刘仁愿。朝廷诏令刘仁轨任带方州检校刺史，统领王文度的兵众，并且调遣新罗国的部队作为援军。刘仁轨带兵严格整肃，轮番战斗冲锋陷阵，所向无敌。福信等人解去了对刘仁愿的包围，退兵守卫任存城。后来福信杀掉了道琛，吞并了道琛的人马，招回了叛逃的百济士卒，声势嚣张得很。
刘仁轨和刘仁愿会合以后，这才休整部队。这时苏定方征讨高丽，围攻平壤没有攻克。高宗李治命令刘仁轨带领部队到新罗国去和金法敏商议是回国是留守的主意。将士们都想回国，刘仁轨说：“按照《春秋》的义理，大夫出征国外，只要是可以使朝廷安宁、国家有利的事，就得专心一意地去做。如今皇上准备消灭高丽，首先消灭了百济，留下部队镇守，控制了它的要害。虽然叛贼强横，但它的兵卒劳役并不充足，我们应当磨好刀枪，喂饱战马，趁它没有准备，打它个措手不及，百战百胜万无一失。到了胜利无疑的时候，摆开决战阵势，驱马传递文书请求朝廷增派军队，声援接应，敌人就可消灭了。眼下平壤没有攻克，熊津又放弃了，那么百济死灰复燃，消灭高丽就不知是哪年哪月了。我们虽然驻进了新罗国，但这正像客人一样，发生了不称心的事，后悔还来得及吗？百济的扶余丰对福信心怀猜忌，貌合神离，势必不会支撑多长时间。我们应当坚持守卫等它发生变故再去消灭他们，目前不能轻率行动。”大家听从了他的意见，于是请求朝廷派遣增援部队。
百济的兵众守着真岘城，刘仁轨乘着夜晚催促新罗的兵卒悄悄来到真岘城下攀援城墙，黎明时分，攻进了真岘城，于是打通了新罗的运粮道路。扶余丰果然采用突然袭击的办法杀掉了福信，派遣使者到高丽、倭国请派援军。朝廷正好诏令右威卫将军孙仁师率领军队渡过渤海到来了，士气振奋。这时，将领们讨论进攻目标，有人说：“加林城是水陆交通要道，何不首先攻打它？”刘仁轨说：“用兵的原则是避开坚实部位攻打薄弱环节，加林城地势险阻守卫坚固，进攻就会大量伤亡，守卫也会旷日持久。周留城，是敌人的巢穴，敌军头目都集聚在那里。如果攻克周留城，其余各城自然就好夺取了。”于是孙仁师、刘仁愿以及新罗国王金法敏率领陆军进发，刘仁轨和杜爽、扶余隆沿着熊津、白江进军去和陆军会合。刘仁轨在白江口遇上了倭国的军队，打了四仗都取得胜利，焚烧敌战船四百艘，海水都映红了。扶余丰脱身逃走，缴获了他的宝剑。百济的王子扶余忠胜、扶余忠志率领自己的兵众和倭国的军队投降，只有主帅迟受信占据的任存城还没有攻克。当初，苏定方打败百济国，主将沙吒相如、黑齿常之纠集逃散的兵卒，凭借险要地势接应福信，到这时投降了唐军。刘仁轨对他们表示了诚意，让他们攻取任存城来证明自己的真诚，就给了他们充足的武器干粮。孙仁师说“：外族属国心性放纵不可信任，如果给予武器粮食，就是为他们反叛提供条件。”刘仁轨说：“我观察沙吒相如、黑齿常之真诚并有谋略，乘机立功，还怀疑什么？”他们两人到底攻克了任存城。迟受信丢下老婆孩子逃往高丽，百济国的残余势力全部消灭。孙仁师等人整顿部队班师回朝，朝廷诏令刘仁轨留下率领军队镇守百济。
百济国两次遭受战乱，僵尸遍地如同丛生的草木，刘仁轨命令着手对死者进行掩埋祭奠。重新登记户籍，设置官署属吏，开辟道路，建设村庄，修复堤坝塘堰，救济贫困人家，鼓励农业生产，替他们建立土地神庙，百济的民众都安居下来。守军于是垦种土地，筹划平定高丽。刘仁愿回到京城，高宗慰问他说：“你本来是位武将，写来的军事奏表文书，都合乎礼仪格式，用什么办法达到这个水平的呢？”刘仁愿回答说“：都是仁轨的手笔，不是我能写出来的。”高宗赞赏刘仁轨，破格提升他六级官阶，正式任命他为带方州刺史，奖给他一处住宅，给他夫人孩子丰厚的赏赐，送去盖有御印的文书进行表彰。
在这之前，太宗贞观、高宗永徽年间，阵亡将士都诏令使者前去慰问祭奠，有的还把追认的官职爵位转授给他的后辈担任。显庆以后，奖赏出征将士的事差不多全没有了；到了打败百济国、攻下平壤城时，有功的人完全没有甄别任用。
州县征募兵役，人们不愿当兵出征，身体健壮家境富裕的人，用财物到官府打通关节，都可以逃避征调。招募到的人都愚弱贫困，没有战斗意志。刘仁轨全面论述了不计功行赏的弊病，要求朝廷对出征将士给予慰劳奖赏，以便鼓舞士气。
还呈递奏表建议任用扶余隆，让他安抚百济的民众。高宗才任命扶余隆为熊津都督。
当时刘仁愿任卑列道总管，高宗诏令他率领部队渡过渤海，接替驻守百济，再和刘仁轨一起回国。刘仁轨说“：皇上巡视各地，还要筹划平定高丽。眼下正值农忙季节，如果官兵全被接替，新来的人不熟悉情况，万一这里发生变故，谁能保卫？不如留下原来的部队收割完毕之后，分批派他们回国。我应当留下，还不能离开。”刘仁愿不同意，说：“我只知道执行诏令。”刘仁轨说“：不对。如果对国家有利，知道该做就没有不做的，这是臣下应守的节操。”于是向朝廷陈述利害关系，请求留守百济。高宗诏令同意。因此认为刘仁愿不忠。
当初，刘仁轨任带方州的检校刺史时，对别人说：“老天打算让我这老头富贵吧！”于是请求到了朝廷颁布的历书和历代皇帝的名讳，有人询问这是为什么，刘仁轨回答说：“我会平定辽东，颁布使用大唐历法。”结果都像他说的那样实现了。在高宗到泰山祭祀天地时，刘仁轨终于带领新罗、百济、儋罗、倭国这四个属国的酋长奔赴泰山参加祭典集会。高宗特别高兴，提升他为大司宪。后来升任右相，兼检校太子左中护。累计功劳封他为乐城县男。
总章元年(668)，刘仁轨任熊津道安抚大使，兼任灞江道总管，给李责力当副手征讨高丽，平定了它。刘仁轨由于生病要求辞职，高宗提升他为金紫光禄大夫，同意他退休。不久被召回朝廷任陇州刺史，授予太子左庶子、同中书门下三品头衔，主持编纂本朝历史。咸亨五年(674)，任鸡林道大总管，东征新罗国。
刘仁轨率领军队横渡瓠芦河，进攻重镇七重城，攻克了这座城镇。进封爵号为乐城县公，他的儿子以及哥哥的儿子中有三个人被授予上柱国头衔，乡亲们为此感到光荣，把他的故居称为“乐城乡三柱里”。不久被任命为尚书左仆射兼太子宾客，仍旧主持政务。
吐蕃入侵时，刘仁轨被任命为洮河道行军镇守大使。永隆二年(681)，任太子少傅。多次请求退休，朝廷同意他免去尚书左仆射职务。高宗游幸东都洛阳，皇太子留在京城处理军政事务，高宗诏令刘仁轨和裴炎、薛元超留在长安辅佐太子。太子赶赴洛阳后，高宗诏令皇太孙李重照留守长安，刘仁轨任副留守。
则天皇后主持朝政，又任命他为尚书左仆射。皇太孙被废除后，刘仁轨独自主持长安留守事务。他向则天皇后呈递奏疏称病辞职，乘机陈述西汉吕后、吕禄、吕产危害国家的事来劝说她，则天皇后派遣武承嗣带上加盖御印的文书慰问勉励他。改任文昌左相、同凤阁鸾台三品。
终年八十五岁。则天皇后诏令全体官员登门哀悼，颁发诏书追认他为开府仪同三司、并州大都督，安葬在高宗的乾陵墓地。赐给他家庭收纳三百户租税的实封。
刘仁轨虽然官高位显，但是从不自高自大，接待亲朋故旧跟当老百姓时一样谦虚恭敬。御史袁异式曾经弹劾他，侮辱他，迫使他自杀。等到他任大司宪时，袁异式还是宪台御史，心里惶惶不安，乘着酒性向他求情解释，刘仁轨手端酒杯说“：如果不和您友好共事，就让我跟这酒杯一样立即罄罄而空。”后来主管政务，推荐袁异式任司元大夫。他就是这样从小小县尉做到辅国大臣，善于提高自己的声誉，得到属吏部下的欢心。
到任洮河道行军镇守大使时，向朝廷呈递的紧急机密奏折，多数被中书令李敬玄扣压或退回，刘仁轨就上表推荐李敬玄接替自己去统率军队打仗，果然使兵众覆没。裴炎被关进监狱时，刘仁轨正任京城留守，郎将姜嗣宗派使者来，向他谈起裴炎的事，并且说：“裴炎行迹反常已很久了。”刘仁轨问“：你知道吗？”使者说“：知道。”等则天皇后回到长安，上表弹劾姜嗣宗知道裴炎谋反的情况却不告发。则天皇后恼怒，活活将他腰斩而死。
儿子刘浚，官职做到太子舍人。武则天垂拱年间，被酷吏杀害。中宗李显登上帝位，由于刘仁轨曾任东宫属吏的老交情，第二次追认他为司空。刘浚的儿子刘晃，玄宗开元中叶，任给事中，上表请求为刘仁轨立碑，追赠谥号为“文献”。