陈天祥字吉甫，陈..之弟，因兄在河南做官，他便把全家由宁晋迁到洛阳。天祥年少时就列入军籍，善骑射，中统三年(1262)，李王..在济南反叛，联络宋军为外援。河北河南宣慰司按规定授天祥为千户，令他屯兵三汊口以防御宋兵。李王..之乱平定后，他罢职归家，住于偃师南山中，有田百余亩，边耕种边读书，来向他求教的人很多。所住地方靠近缑氏山，因号“缑山先生”。起初，天祥并不好学，其兄..也不认为他有什么奇才，几年以后，天祥将所写的诗献于..，..怀疑是别人代写的，同他交谈，知他在研究经史，学识渊博，大为称赞。
至元十一年(1274)，始任从仕郎，后历任郢州、复州招讨司经历，随元军渡江伐宋，由于熟知兵法，深为行省参政贾居贞所器重。
至元十三年，兴国军因没收民间兵器而遭民众的强烈反抗，行省命天祥暂管兴国军的政事。天祥领军士十人至兴国军境，在离城近百里地方停了两天才入城，父老来拜见，天祥告谕他们“：捍卫乡井确实不可没有兵器，地方官吏收得过多，所以造成乱子。今准许你们自备兵器以自卫，你们以为如何？”百姓都说这样很好。他将此事上书给行省说“：镇压奸邪，应当以巩固根本为主，若内无力防御，则外边会有奸邪之人乘机捣乱，这是必然之理。此次为乱正是由于处置失当，防内轻外所造成的。凡在本军境内之人，平时手无寸铁尺杖，让奸人得以乘机造乱，公私同受其害。今兴国军又遭到破坏，十分虚弱，若军民相防而不相信任，岂只担心外寇入侵，恐怕内部军民相互为敌。莫如推心置腹，相互信任，戮力同心，祸福同当，把人民看作自己人，把兵看作自己的兵，平乱防奸，莫不可行。希望对百姓宽容些，然后对他们提出要求。”行省接受他的意见并授以自行处置之权。天祥的一切措施都符合百姓的愿望，于是流亡在外的人相继回来，以致邻郡的百姓也移居到兴国军来。天祥加以组织，以十家为一甲，十甲设一长，废除对兵器的禁令，从民自便。于是人心安定，军队士气也振作起来了。借民兵之力，不杀一人便收降了李必聪山寨。其他山寨见此情形也各自散去，境内安定无事。
当时州县官吏还有未给俸禄者，天祥自行规划，按月发给，以便防止他们的贪污行为，使百姓不受侵害。邻近分宁县发生民变，刺探情报的常到兴国军，官吏请天祥下令逮捕，天祥说：“分宁县是因为官吏贪污暴虐而激起民变。今我军及所属三县，官吏不侵害百姓，百姓安居乐业。让那些刺探情报的人去把我们兴国军的情形告诉他们同党，这样，谍报员反而为我所用了。”分宁人民反抗失败，逃入兴国军境内者有数千人，天祥发给他们口粮，告诫本军百姓不要侵害他们，这些人都得以保全性命而归，对天祥无不服其威信。
一年后，朝廷把兴国军改为兴国路，接替天祥为兴国路总管的人，完全改变天祥的政策，严厉制裁隐藏兵器的人。所以天祥离开后不久，兴国又发生民变，邻近的寿昌府及大江南北的各县城，叛民乘势杀死守将，响应兴国人民的起义。当时刚改行省为宣慰司，参政忽都帖木儿、贾居贞、万户郑鼎臣为宣慰使。鼎臣帅兵镇压，在樊口兵败身亡。黄州叛民扬言要攻阳罗堡，鄂州官府大为震惊。忽都帖木儿胆怯不敢出兵，天祥对居贞说“：阳罗依山建垒，素来防备严密，彼若来攻，对我们有利。且南人浮躁，轻进易退，我官军居高恃险，这些乌合之众来攻，不到两三天便多伤亡，逃者会十之八九。到那时我们再出精兵袭击，只有跑得快的才得免死。乘此一胜，则大势已定。然后再攻取黄州、寿昌，如摧枯拉朽。”居贞深以为然，而忽都帖木儿还犹豫不决。闻叛民到了阳罗堡，居贞忙引兵前去迎战，屯兵于青山，第二天大败叛军，这一切完全符合天祥的预料。
行省闻民变，将鄂州城中的南人一律逮捕起来，准备大屠杀，以防他们为叛军内应。居贞想拯救鄂州南人而又做不到。天祥说：“鄂州南人，与叛军本无关系，杀他们不过是要夺他们的财产而已。”极力劝阻行省官员，将被捕的平民全部释放。派天祥去暂管寿昌府政事，给他二百兵卒。寿昌叛民听说官军来了，都离开寿昌城去恃险自保。天祥知寡不敌众，武力镇压是不行的，便派人去向他们说明利害祸福，劝他们各归田里，只将为首者毛遇顺、周监在鄂州市斩首示众。获得金二百两，打听到是鄂州商人的东西，物还原主。
二十一年三月，天祥拜为监察御史。右丞卢世荣因搜刮民财有功，升为执政大臣，其权力压倒一切。御史中丞崔..弹劾他，世祖大怒，要将崔..法办。世荣因而更加气焰嚣张。左司郎中周寅戈，在议论政事时略表示一点不同意见，世荣便诬他违法，奏请令杖一百，然后处斩。于是朝廷大小官员都吓得不敢讲话。二十二年四月，天祥上书，痛斥世荣的奸恶：
“卢世荣素无文才，也无武功，只知用他经商所赚来的钱来巴结权臣以求做官。他将贪污的大量财物送至权臣家中，还不够，又立下欠银一千锭的文契，于是能由一个普通百姓一跃而为江西榷茶转运使。上任以后，专门贪污钱财，动以万计。其隐藏于家内者固然难列举出来，只就已暴露出来可以统计的有：钞二万五千一百一十九锭，金二十五锭，银一百六十八锭，茶一万二千四百五十八引，马十五匹，玉器七件，还有许多其他物品。这是已经追究而交纳及未交纳现尚在追查之中者。
“如今，他竟不痛改前非，而是更加猖狂，以苛征百姓为自安之策，以向百姓诛求为升官的阶梯，他怀有贪求无厌之心，广泛搜刮民财之计。而且身居要职，手握重权，其职位虽在丞相之下，而朝廷大权实是由他专擅。他是以盗贼之心来掌握宰相之权，不仅祸殃于当代，也恐怕会取笑于将来。朝廷相信他的谎言，使他居于相位，名为试用，实际上是授他以实权。其才能其行为都丝毫没有值得一提的。这些事都足以表明试用的结果如何。如果还要试用，只能让他去做别的官，宰相之权岂可轻易授给他。主宰天下，如同制作锦缎，能不能制作，先用布帛做试验，如果不成功损失也不重。今把相位做贤愚试验，如同把一幅美丽的锦缎去考核匠人的工艺能力，把美好的东西毁坏了，将追悔莫及。
“国家与百姓的关系，如同身体，民是国家的血气，国家是民的体肤，只有血气充实才体肤康强，若血气损伤则体肤就会羸弱多病，未有消耗血气而能使体肤健康的。所以说，民富则国富，民贫则国贫，民安则国安，民困则国困，道理就是这样。春秋时代，鲁哀公要向百姓多征赋税，请教于有若，有若说‘：百姓丰衣足食，你做君王的怎么会不足；百姓不足，君王又怎能足。’由此可见，民必须减轻赋税然后能足，国家必须是在百姓丰足之后才能富强。《书经》说‘：民为国家之本，根基巩固了国家才能太平。’考察历史，自开天辟地以来，从未听说因百姓富裕安宁而导致国乱的，也没听说因百姓贫穷而国家太平康乐的。资财本土地所生，民力所集，天地资财的生产每年有定量，只能是有节制的索取，才用之不缺。
“如今，世荣是一年征十年的赋税；用万民的生命来换取他一人之荣耀。他只是图广取博敛之功，而不顾百姓的困苦死活；上下交征，锱铢必取。视百姓如仇敌，只能加深人民对国家的怨恨。如果不考虑国家长远利益，只尽快的谋取眼前的效果，任意搜刮，不愁什么东西得不到。然而，生财的基础没有了，搜刮钱财的方法又有何用？将会看到人民因此而凋敝，国家因此而空虚，其安危利害真是说不尽。
“卢世荣任职以来，已一百多天了，察验其事迹，其罪恶已十分明显。今将他所言与所行不符合事略举几件：开始说他能使钞法不受到破坏，但今天钞币已成一张无用废纸；开始说他能使百物价贱，而今百物翔贵；开始说增课税三百万锭不取于民，而今却是强迫诸路官府包认所增课税；开始说他能使百姓快乐，而今所作所为，无不是破坏法制，侵害百姓。若不及早改变这种情形，必自取其祸。若不防患于未然，到头来大祸临头，那时挽救也来不及了。
“臣也知道依附权臣，则可望得到荣誉宠信，违背重臣的意图则祸患不测；闭口不言，明哲保身，也不是做不到。但正因事关国家存亡，关系不浅，臣深为担忧，经再三考虑，不得不说。”
世祖看了这个奏章，派人把天祥与世荣都召来上都，当面质问。他们到达上都，宦官传旨：将世荣捆绑于官门外。第二天，天祥又在世祖面前讲了许多前所未讲的事，帝认为都对，将世荣处斩。五月，朝廷列举天祥随大军渡江及平定兴国、寿昌民变之功，进升官秩五品，升为吏部郎中。
二十三年四月，授治书侍御史。六月，命清理湖北湖南行省钱粮。天祥至鄂州，立即上疏弹劾平章政事岳(要)束木之凶暴不法。这时桑哥窃取政权，与岳(要)束木联姻。岳(要)束木为桑哥爪牙，以莫须有之罪诬陷天祥，欲置天祥于死地，在狱中关押了四百多天，直到至元二十五年正月才获释。二十八年，升为行台侍御史。不久，因病辞职归家。三十年，授燕南河北道廉访使。
元贞元年(1295)，改任山东西道廉访使。当时，全国各地盗贼蜂起，而以山东为多，朝廷寻求平息方略。天祥上书，分析了反叛发生的原因，除天灾造成饥荒外，还有是由于连年战争，大兴土木，劳民伤财，无限制地征收课税，刑法紊乱等等所致。朝廷平息反抗的方略是实行大赦。他认为这不是个好的方略，只是对一些小人有好处。他们杀了人，理应受到严惩，而朝廷却加恩释放。这些人早晨释放，晚上又会行凶打劫，既不感朝廷之恩，又不畏国家之法，不能使他们凶恶的本性善化。制服他们唯一的方略是严刑酷法。他提出了一些平息“盗贼”的办法，皆切于时用。他在山东严督当地官府捕获大批“盗贼”，皆杖杀之。其余逃亡到别处的，进行追捕，南至汉、江二千余里，皆被擒获，无一幸免，于是东方的群“盗”平息。
平阴县女子刘金莲，以妖术惑众，所到之处，官府为她建立神堂，一般百姓都去求福。天祥对同僚说“：此妇人以神怪惑众，其声势如此之大，如果有狡猾之徒来帮助她，仿效汉代张角、晋代孙恩，号召起事，必成大害。”于是把这个妇人逮捕起来，当众施以杖刑。天祥认为山东宣慰司无事可做的官太多了，应罢黜一些，于是向朝廷劾奏这些官吏的贪暴不法行为。但他裁减官员的建议未得到采纳，因此他便在任满之后辞去了。
大德三年(1299)六月，天祥调任河北河南廉访使，但因病未就任。受到冤枉的人往往到他家中来伸冤，天祥因自己不在任而推辞了。大德六年，升为江南行台御史中丞。上书论朝廷征西南夷事，其中说：
“兵有不得已而用者，也有不当用而用者，不当用而能不用，则可保持兵力的强大，以备不得已时而用，这就是善用兵之法。去年，行省右丞刘深远征八百媳妇国，这就是不当用而用。八百媳妇是个蛮夷小邦，远在云南西南数千里之外，其地是偏僻无用之地，其人是愚昧无知之人。攻取它并没有什么好处，不取也无害处。
“刘深欺上骗下，帅兵征讨，经过八番之地，恣意横行，恃其武力，虐害居民，致使各地居民反叛。深既不能平定叛乱，反而受到反叛者的牵制，结果是军中乏粮，人自相食。毫无办法只得仓惶退走，以致大败，深弃众逃亡，军士损失十之八九，失地千余里。朝廷又发陕西、河南、江西、湖广四省诸军，令刘二拔都统领，再度征讨，以图收得失地，湖北、湖南大量征调民夫运送军粮，至播州交纳，共二十余万人。当此农忙之时，兴此大役，把贫困百姓强迫运粮于数千里外，来回之间什么事情都可能发生。即或把米全部运到，然数万军士只仰赖于这一次运去的米粮，以后又当如何？
“近来访问西征败回的士卒及将校，才知西南这遥远蛮夷之地，山岭重重，丛林深谷，大军所经过的道路，窄处仅能走一人一骑，上如登天，下如落井。在这样不利的地理条件下，若贼据险袭击，我军虽多也难以应战。再加上毒雾烟瘴，都可伤人。群蛮知大军将至，如果实行清野，远远逃遁，堵截险要之地，使我军进不得退不得，附近又无粮食可取，士兵饥饿，病疫死亡，将有不战自困之势，不能不令人深为忧虑。
“而且自征伐日本、占城、交趾、爪哇、缅国以来，已近三十年，未曾见有一尺土地一个百姓归附我天朝，而我朝所费钱财，所损士卒，不可胜计。去年西征与今年的再度西征又有什么两样。前车之鉴不远，并非难以看到。劳军扰民，无休止之日，刘深一人为其祸根。
“又听说八番罗国之人，受征西军的侵害，抛弃他们的职业，相继反抗或逃亡，对刘深恨入骨髓，都要分食其肉。人们内心恨他，上天也憎恶他。望朝廷上承天意，下顺民心，早将刘深正法，向西南蛮夷再降明诏，表示圣朝数十年对他们抚养之恩，自今再不会有远征之役。他们自然会归顺天朝。过去大舜退兵而苗族来归顺，赵充国不战而羌人安分守己，这些事载在经传之中，为后代万世效法。
“为今之计，最好是驻兵于靠近西南蛮夷地方的我边境之内，使水运交通达于远近，内地或用盐引茶引，或用钱钞来增价购买军粮；而且法令严明，官不失信。这样就可使米船沿江而上运至边境，军粮自足，百姓也不受侵扰，达到内安根本，外固边防的目的。以我镇静之师，防御蛮夷的侵犯，恩威并施，久而久之，他们会渐渐驯服，这才是万全之策。如果说大军已出，欲罢不能，那也要考虑关系之大小，战事之成败，慎重而行。那里的少数民族，有各种各类，现在聚集者，都是乌合之众，必无同心长期与我为敌之理。但若我进攻得急，他们会相互救援，缓攻则相互猜疑，我们要施离间计，使他们相互为仇，等到有机可乘之时，再命诸军分路进攻。对于顺服者，予以宽大，抗拒者，武力镇压，恩威并用，易获功效。若舍恩用威，蹈刘深之覆辙，恐将来之忧患更甚于今日。”
天祥的奏章没得答复，他便托病辞官。
大德七年，召天祥入朝，拜为集贤大学士，商议中书省事。八月，发生地震，河东尤为厉害，朝廷下诏，征询消灾之道。天祥上章说这是因为阴阳不和，天地位置不正，而这些都是人事失宜所造成的。执政者认为这话太直，不敢转呈皇帝。
天祥自奉诏还京，时达一年之久，未曾见到皇帝以表示他忠君之心，常郁郁不乐，又不愿空领俸禄，于八年正月称病辞官而去。到了通州，中书省派人去追留。他还是不肯回朝。皇帝闻知，赐钞五千贯，派专官护送回家。九年五月，拜为中书右丞，参议枢密院事，提调诸卫屯田。五次派人送去任命诏书，他都以年老为由，不肯接受任命。至大四年(1311)，仁宗即位，又遣使去召他回朝，他还是以年老多病为理由辞谢。延..三年(1316)卒于家，终年八十七岁。赠推忠正义全德佐理功臣、河南江北等处行中书省平章政事，追封赵国公，谥“文忠”。