叶李字太白，一字舜玉，杭州人。自幼天资不凡，拜太学博士义乌施南学为师，补京学生。世祖南伐，蒙古军屯驻江上，宋朝命贾似道领兵抵御。因宪宗崩，世祖班师北还，解鄂州之围。贾似道把蒙古军北撤作为自己功劳，欺骗宋朝皇帝，得以再任宰相，而且更加专横跋扈，创立公田，滥发纸币，压榨人民，宋朝内外无人敢于指责非议。叶李与国子监的同学康棣等八十三人，向宋朝皇帝上书，攻击贾似道。似道大怒，得知给朝廷的上书是由叶李起草的，便唆使其党徒临安府尹刘良贵诬告叶李，造成冤案，把李贬到漳州，直到贾似道倒台后，他才能自由行动。宋亡后，他隐居于富春山。江淮行省及宣抚司、行御史台争相召聘，使任苏、杭、常等郡教授。他都拒绝。
至元十四年(1277)，世祖命御史大夫相威主持江南行御史台工作，并访求宋朝遗臣。相威举荐了叶李。以前叶李攻击贾似道的奏章中，其末有“前年之用兵，适逢天幸，才有保住宋朝半壁江山之功”之语。世祖对这句话大加称赞，现在听说相威举荐了叶李，十分高兴，即授李为奉训大夫、浙西道儒学提举。李闻知又准备隐避，而使者已至，除诏书外还附有丞相安童给他的信，信中说道：“先生在宋以忠言直谏为世人所称赞，皇帝非常关注，今授以五品官爵。有才德的人，当隐则隐，当出仕则应出仕，要尽全力以报答殊遇之恩。”李立即改变其隐避的打算，拜谢世祖的知遇，表示：“能为官治国，这是我的心愿，怎敢不接受皇帝的诏令。”
至元二十三年，侍御史程文海奉命去江南访求贤才。世祖叮嘱他，这次去一定要把叶李请来。李到京师后，皇帝命集贤大学士阿鲁浑撒里把他安置于集贤院中。过了几天，在披香殿召见，慰问他远道辛苦，对他说：“卿从前指责贾似道的书，我曾看到了。”询问关于治国安邦之道。叶李讲述了历代帝王得失成败的原因。世祖连连点头称是，规定每五天入宫议事一次。当时，各道管理儒学的官府，都认为是闲职而被撤销。李为此而上书说“：臣怀着敬佩之心阅读了先帝的诏书，看到朝廷在创业之时，军务繁重的情形下，还招纳儒士。今陛下已统一天下，息武重文，难道不需要培养人才，弘扬圣上的治国之道么？各道儒学提举及各郡教授，肩负教化民众的重任，不应废除。请恢复提举司，专设提调学官，以教育诸生，讲明治国之道，而向太学提供培养人材，以备朝廷录用。凡儒户的徭役，请完全豁免。”世祖允准。
这时，乃颜在北部起兵反叛朝廷，朝廷诏令叶李领军征讨。当时军中将校多是蒙古人，他们与乃颜本同族，不肯出战。世祖深为忧虑。李秘密向世祖启奏“：用兵之道在于奇而不在于人多，临敌当以计取。将校既与乃蛮同族，谁肯尽力作战，徒费陛下粮饷。臣请用汉军作为前军进行步战，以大车断其退后之路，以示死战。敌人轻视我军，必不设防，我以压倒优势大军进攻，战无不胜。”帝用这一战略，果获大捷，从此以后，世祖更加认为叶李是个奇才，每次罢朝之后，必另召见论事。
二十四年，特拜叶李为御史中丞兼商议中书省事。李极力辞谢道“：臣本流落之人，蒙陛下知遇，备作顾问，本当竭力尽忠。然御史台要总察朝廷内外的机务，臣愚不足担此重任。且臣过去到过瘴疠之地，染上足疾，近年尤为厉害。”世祖笑道：“卿足艰于行走，心岂不可行吗？”李辞意坚决，得到允许，叩首谢恩，并奏“：臣今虽不居御史中丞之职，然御史台是天子的耳目，平常事务可呈陛下省察。至于监察御史的奏疏、西南两台的禀报，事关军国要务，与百姓的利害息息相关，应令随时呈奏，以广视听，不应什么事都要按章进行，使奏报成为形式。臣请皇上诏令各台臣，各据实奏报。”又说“：监察官员是以纠正错误为其职责，若对自己不严格要求，又如何纠察别人。其中如有贪婪和破坏法纪的人，应交刑法机关加罪惩处，以惩戒其对朝廷的欺蒙之罪。”这些都得到皇帝的肯定，从此以后，御史台的官员们都可如实奏报皇帝。
朝廷设尚书省，授叶李为资善大夫、尚书左丞。李又坚决辞谢道：“论臣资格，不宜担此重任。”世祖道：“商朝起用伊尹，周朝举用太公，岂都是按资格？尚书肩负着天下重任，朕烦卿担任，卿切不可推辞。”赐大小车各一，许乘小车入宫，扶上大殿。他开始制定至元钞法，又请建立太学，培养人才。他向皇帝陈述历史上历朝对教育的重视，人才辈出，从而使圣上恩德及于人民。他举荐周砥等十人为祭酒，制定学校规章制度，这些，世祖都一一批准。世祖计划把江南宋朝的宗族及大姓迁到北方来，李劝谏说：“宋朝已归顺大元，其民安于农业，今无故要迁徙，必将引起疑惧，万一有奸人乘机造乱，于国家不利。”世祖被提醒了，放弃原来的计划。升李为尚书右丞，转为资德大夫。淮、浙发生饥荒，谷价腾贵，李奏请减少江淮租税的一半，运湖广、江西粮十七万石至镇江，以赈济饥民。世祖欲征伐交趾，召李商议，李认为“：这远方小国，得之无益，大军去征讨，必耗费大量财物，且山路艰险，深入敌境，万一受到挫折，有损对远人的威望。”世祖听取了他的意见，停止征讨。
二十五年，升李为平章政事，李又坚决不肯，皇帝尊重他的意见，赐玉带及平江田四千亩，升官爵一级。桑哥为尚书省丞相，政权独揽，搜刮财利，毒害人民，事见《桑哥传》。李虽与桑哥同事，但对他的错误政策不能纠正。桑哥失败后，同朝臣僚受到牵连。而李一人因病回到江南。扬州儒学正李淦上书说“：叶李本是个受黥刑的罪犯，受皇帝知遇，可谓千载难逢。刚受到天子的恩德，就举荐桑哥，据宫廷近侍官说，他以莫须有的罪名杀参政郭佑、杨居宽，迫使御史中丞刘宣自杀，囚禁治书侍御史陈天祥，罢黜御史大夫门答占、侍御史程文海，鞭打监察御史；他还改变钞法、扣减学粮，征收军官俸禄，减少兵士口粮；设立司农司、木绵提举司，增收盐、酒、醋的税额，官民皆受其祸。尤其痛心的是，让要束木为患于湖广，沙不丁为害于江淮，灭贵里为害于福建。他又大肆清理钱粮，使民怨而为盗，天怒而地震，水灾一次又一次的发生。好在皇帝圣明，改变其错误政策。人们都知桑哥用一般小人之罪，而不知叶李举荐桑哥之罪。叶李虽罢黜相权，但未法办，天下人往往私下议论，认为应斩叶李以谢天下。”世祖看了这个奏章后，惊异地说：“叶李廉洁刚直，朕所素知，哪有这些事？”传旨召李淦至京师查问。
至元二十九年二月，李南还，行至临清，帝遣使召回，使任平章政事，辅助丞相完泽管理中书省事。李上表力辞。不久去世，终年五十一岁。李死后，李淦至京，诏令淦为江阴路教授，以表彰他敢于直言。世祖曾问兵部郎中赵孟兆页，叶李与留梦炎谁好，孟兆页说“梦炎好”。帝笑道“：不然，梦炎以状元而做了宰相，却依附于贾似道，殃民祸国，而自己只是个‘伴食宰相’，遇事不置可否，李原为儒生，力斥似道的罪过，比梦炎要强得多。然其性刚直，人不能容他，而只有朕爱他。”
李先后受赐之物甚多，而自己生活俭朴，曾告诫其子说：“我家世代书香，甘于贫简生活，唯以忠义奉献君主。你们也要清白谨慎，不要给我脸上抹黑。”指着那些赏赐物说“：这些将来都要还给公家的。”死后，把这些统统交了官，丝毫不留。至正八年(1348)，赠资德大夫、江浙行中书省右丞、上护军，追封南阳郡公，谥“公简”。