郑羲，字幼駘，荥阳开封人，曹魏将作大臣郑浑的八世孙。曾祖郑豁，慕容垂政权的太常卿。父郑晔，不做官，娶长乐潘氏为妻，生有六个儿子，都粗有志气，而郑羲排行第六，文学为优。少年时被举为秀才，尚书李孝伯把女儿嫁给他。高宗末年，朝廷拜授他为中书博士。
天安初年(466)，刘..的司州刺史常珍奇举汝阳来降朝廷，显祖下诏让殿中尚书元石为都将前去迎降，并招慰淮、汝，派郑羲参预元石军事。到上蔡之后，常珍奇率领文武官员三百人前来迎接，相见后，大家商议要把军队驻扎在汝水以北，并不马上入城。郑羲对元石说：“军机之事，贵在神速，而今珍奇虽然来了，但意图不明，我不如直入其城，夺其要害，据有府库，虽然这样做并非出自我们的初衷，但我们的目的是要全面控制局势。”元石接受了郑羲的意见，于是策马径自入其城池。城中还有珍奇亲信兵马数百人，驻在常珍奇宅第里面。元石既克城池，意气更加骄横怠惰，只管置酒嬉戏，毫无警戒防备之意。郑羲对元石说：“看常珍奇很有不平之色，应该严兵设防，以备非常之变。”这天夜里，常珍奇果然派人焚烧府邸厢屋，意在救火时发难，因元石有备，只好作罢。第二天，郑羲备白虎幡旗慰喻郭邑，大家心情才安定下来。
第二年春天，他们又领军东讨汝阴。刘..的汝阴太守张超据守的城池攻克不下，元石率领精锐人马攻打，不克，于是退军至陈、项，商量打算退军长社，到秋天再行攻打。众将都乐于早点回去，全都说这是好计策。郑羲说：“现在张超驱使市民，挑着石头，蚁聚穷困城池，其坚持的最长限度不会超过一个月，我们应该安心地守在这里。张超粮食一完，不投降也会弃城而逃，我们可翘足以待，他自然会成擒拿之物了。而我们如弃围还归长社，长社路途遥远，张超听说必定修城深挖堑壕，多积谷薪，将来恐怕难以攻打了。”元石不听，于是还师长社。到了冬天，又来攻打张超，张超果然有防备，他们只好无功而还。几年以后，张超死了，杨文长代其戍守城池，食尽城溃，才攻下城池，竟如郑羲所预计的相同。淮北平定之后，郑羲迁升中书侍郎。
延兴初年，阳武人田智度，年十五，妖惑动众，扰乱京城。朝廷以郑羲深得河南老百姓的信任，也为州郡长官所信，便派他前去安抚。郑羲到该地以后，宣示祸福，重加悬赏，十天内，聚集的民众纷纷归去散开。智度奔逃颍川，不久就被擒拿斩杀。因功，郑羲被赐予平昌男爵位，加授鹰扬将军。
高祖初年，兼任员外散骑常侍，假宁朔将军、阳武子，出使刘准政权。中山王元睿又，被当世君王宠幸，并置王官，郑羲为其作传。这以后，他便连年不转官职，家产也十分短乏，因此请假归家，便不回去了。等到李冲受宠显贵，与郑羲结成姻亲之好，于是他又被起任为中书令。文明太后为自己父亲燕宣王在长安立庙，初成后，任命郑羲为太常卿，假荥阳侯，具官属，到长安拜庙，破石造碑立于庙门。回来之后，以出使的功劳，仍赐侯爵，加授给事中。出使安东将军、西兖州刺史，假南阳公。郑羲多受贿赂，以贿成政。性情又很吝啬，老百姓有给他送礼的，甚至连杯酒块肉也不赏给别人，西门受人羊酒，东门便把东西卖了。因他是李冲的亲家，执法官员也不纠劾他。酸枣令郑伯孙、鄄城令童腾、别驾贾德、治中申灵度，都为官廉洁贞正，勤恤百姓，郑羲都上表称赞推荐他们，时论也称赞他的行为。文明太后为高祖娶他的女儿为嫔，征拜他为秘书监。
太和十六年(492)去世，朝廷赠帛五百匹。尚书奏谥曰宣，诏书曰：“盖棺定谥，先典成式，为的是激扬清浊，治道明范。以往何曾幼年有孝行，良史不改‘缪丑’之名；贾充受宠于晋，直士犹立‘荒公’之称。郑羲虽然素有文业，而为政缺少廉节清正的风范。查古代先例，其未光耀于朝策；贪财昧货之谈，已经流播民间。谥以善名，殊乖谥名初衷。又前岁之选，他所举人才并不是备有品行然后才被举选，自荷后任，功绩未昭。尚书为什么偏偏不能做到至平至公，愆失违背我朝明典！依据谥法：博闻多见叫‘文’，不勤成名叫‘灵’。可以赠谥于他，加谥文灵。”