元谐，河南洛阳人，世世代代富贵显赫。
元谐生性豪爽，有气节，有风度。
年少时与隋高祖一起在国子监读书，非常友爱。
后因军功，升任大将军。
等到高祖任北周丞相，召他为近臣。
元谐对高祖说：“你没朋友相帮，就像洪水里的一堵墙，太危险了！请您注意努力啊！”尉迟迥作乱造反，派兵进犯小乡，高祖派元谐打败了他们。
等到高祖受北周禅让，皇上对元谐笑着说：“水里的墙到底怎么样？”于是赏赐酒宴，极尽欢乐。
元谐升任上大将军，封乐安郡公，食邑千户。
奉诏参加修改律令。
当时吐谷浑进犯凉州，皇上下诏任元谐为行军元帅，率行军总管贺娄子干、郭竣、元浩等步兵、骑兵几万反击敌人。
皇上告谕元谐说：“您受朝廷委派，总领雄兵向西挺进，本欲自保边境，保全百姓，并非贪图他人疆土，祸害远方人民。
王者的军队，旨在推行仁义。
吐谷浑贼人若到边界，您应晓以德义，给以教导，谁敢不顺服？”当时贼将定城王钟利房率骑兵三千渡过黄河，连结党项。
元谐率兵出鄯州，赶到青海，切断了他的归路。
吐谷浑率兵抵抗元谐，相遇于丰利山。
贼人骑兵二万，与元谐大战，元谐打败了他们。
贼人驻兵青海，派太子可博汗率骑兵五万掩袭官军，元谐迎头痛击，打败他们，并追击三十多里，斩杀、生擒数以万计，贼人十分惊恐。
元谐于是派人送上书信，晓以利害，吐谷浑名王十七人、公侯十三人，各率所部来降。
皇上十分高兴，下诏书说：“褒奖才士贬抑庸人，有闻于前代。
元谐有见识，很机敏，文韬武略，誉满朝野。
申张国威，开拓疆土，其深谋远虑和高尚气节，真是很符合我的心意。
应该予以礼遇，并赏及后人，现封元谐为柱国，另封一子为县公。”元谐拜受宁州刺史，很有恩威。
但他刚愎自用，好排斥人，不能得到高祖近侍的欢心。
他曾对皇上说：“我一心一意侍奉皇上，不讨他人欢心。”皇上说：“应该始终坚持这么做。”后因公事免职。
当时上柱国王谊有功于国，与元谐一样，都被免职，二人每每互相往来。
胡僧告元谐、王谊谋反，皇上调查此事，并无谋反证据，皇上安慰并放了他。
不久，王谊被杀，元谐渐渐被疏远猜忌。
但因元谐是高祖登基前的朋友，所以每每请他上朝，皇上对他的恩典和礼遇并无亏损。
一次皇上大宴百官，元谐进言说：“陛下恩威远播，我请求让突厥可汗作侯正，让陈叔宝当令史。”皇上说：“我平定陈国，以讨伐罪人，安慰人民，并不是想耀武扬威于天下。
你的奏请，很不符合我的本意。
突厥人不知山川地理，怎能封侯！陈叔宝昏然如醉，怎么能驱使他为国效力？”元谐默默而退。
几年后，有人告元谐和他的从父弟上开府元滂、临泽侯田鸾、上仪同祁绪等人谋反。
皇上下令调查此事。
有关部门上奏说：“元谐谋划让祁绪率党项兵，准备切断巴、蜀道路。
当时广平王杨雄、左仆射高赹二人掌权，元谐想用谗言赶走他们。
他说：‘左执法星动已经四年了，一上奏章，高赹必死无疑。’又说：‘太白犯月，光芒相照，这征候主杀大臣，杨雄必当应征被杀。’元谐曾与元滂一起拜见皇上，元谐私下对元滂说：‘我是主人，殿上的那个人是贼。’让元滂望气，元滂说：‘他的云气好像是蹲狗走鹿，不如我们的云气有福有德。’”皇上大怒，元谐、元滂、元鸾、元绪一并被杀，并没收家财，令其家人为奴。