甄琛，字思伯，中山毋极人，汉朝太保甄邯后人。父甄凝，任州主簿。甄琛少年时即聪颖捷悟，闺门之内，兄弟嬉戏狎游，他不以礼法事等约束自己。博读经史，笔锋健达，但甄琛却天生形短貌丑，缺少风度气质。参加秀才考试，进入都城都几年了，总以下棋消磨时光，甚至与人通宵达旦地下棋。身边老仆人总是被他指使着秉烛照明，偶尔打起瞌睡，甄琛则愤怒而起，棍杖相加，诸如此类，时常发生。老仆人后来终于忍受不了鞭打之苦，禀告甄琛说：“郎君您辞乡别亲，入京求功名，假若我为您读书秉烛照字，奴才我万不敢推辞，但您却天天拴在棋盘上，没日没夜地下，这哪有入京求官之意？我稍有怠慢，您便加我杖罚，说起来，这也太没道理了！”一番话使甄琛如大梦初醒，幡然悔悟，于是痛改前非，在许睿、李彪那里借书研读，见识越来越广博。
太和初年(477～479)，皇帝拜授他为中书博士，迁任谏议大夫，时时上疏圣上，也被高祖所称道嘉赏。后又转任通直散骑侍郎，出任本州征北府长史，后又为本州阳平王颐卫军府长史。世宗登极，任命甄琛为中散大夫，兼任御史中尉，转任通直散骑常侍，仍然兼任中尉。甄琛上表称：
“王者之道，如皇天后土，雨露养育，济时拯物，为生民父母。正因如此，收成不好，王者应为民祈祝祭祀。天地所惠万民的，天子应当顺从天意；山川的财富，天子应通之于世。只要有益于百姓万民，损害一点自己的利益应无所吝惜，假如圣上有所聚敛，也只应用来作为赈贫恤困之用。所以《月令》上说：山林之中，薮泽里面，如果能从中获取些菜蔬食物、禽鸟走兽之类，那都是大自然为百姓所设造的；有谁与百姓侵吞豪夺的，其罪不赦。这告诉圣上引导百姓而不禁止，接通有无以济养百姓的道理。《周礼》中虽然有禁止豪夺山川的条文，那目的正是防备山川之产被很快耗尽，为的是让人民取之有时，这就是所谓保护山川是为公众利益，更是为百姓守住山川财富而已。更何况一家之长，恩及子孙，一朝之君，泽被天下，都是说的厚生养财，为国家的兴旺发达打算。没有听说过位处父母尊位，但却吝惜食物；富有万物，但却一针一线都动不得。而今，老天为黎民百姓生盐，国家成为天下万民的障蔽，圣上凭借它获得好处，这就是所谓专任口福而四肢不受益处啊。况且天下百姓每年贡献粮食布匹。四海所有，奉养陛下一人；军国所需，取自百姓。身为天子，你何必担心贫困，而要禁止百姓去开发一个池子呢。
“古代君主，都十分爱护百姓，或者利用水火以供百姓之用，或者筑巢造舍教民居住，或者教民耕种以免饥荒之苦，或教民织布以障体保暖。所以周《诗》称：‘教之诲之，饮之食之’，这都是古代君王抚爱教导百姓，为天下众生谋求实利的例子。臣下我天生愚钝，不识道理，见识短浅，每每看到上古帝王爱民实迹，时时读到后来记述君主聚民税收的书，未尝不感叹上古帝王的胸怀远大，后来者的度量狭小。而今伪诈弊端相承不断，仍收市肆之税；大魏胸宽，只受粮食布帛的贡奉。这种举动，使远方百姓听说的，无不歌颂圣上功德。过去的..父因为不爱财宝而深得民心，《硕鼠》章描述接受财物而失却百姓。君王您的道义，如日月高悬；大魏简税政策，实在是惠民深远啊。有说法称财出府库，圣上吝惜，是臣僚们的福分；施与百姓恩惠，举措犹豫，是人君的祸患。大凡府库所藏。而且以不肯给予别人为灾祸，更何况府外的好处，哪能吝惜百姓得到什么利益呢？况且善藏财富的藏之于民，不善于藏富的藏于府库。藏富于民的，百姓高兴那么君主自然富有，敛财于府库的国怨沸腾而百姓贫困。举国上下，怨声载道，那就预示着教化有亏损，百姓贫困那君主也无从取财。臣下愿圣上您放松盐禁，使陛下恩泽广为被及。陛下可依照《周礼》设置川衡之官的方法，让他们监督引导百姓的行为即可。”
皇帝下诏说：“百姓利益，深如奏章所陈。将此章交给群臣广为议论，然后定夺。”
司徒、录尚书、彭城王元勰，兼尚书邢峦等启奏说：“甄琛所列举的，言论宏富，大体上面面俱到，没有什么可挑剔的。但是，我们担心这会不会空坐谈理，道理很好，实行于事，则有欠缺，因此就该采取谨慎的态度，不能过早地说‘行’。臣等私下考虑古代善于治理国家的，没有不明白其胜利的途径，懂得其远大的道理，所以等到拯救世事，便行动合于节度。假若君主想让天下丰盈而不漫溢，节俭而不导致弊端，差使百姓、供养黎民的信息，都在奏疏之中了，节约俭省，取获有度，让百姓生活舒坦，道理大致如此。假如不像这样，那要君王干什么？假如人君听任百姓生产，放任百姓获取所需，那就会出现万物成为刍狗的现象，很可能导致什么都荡然无存的局面。从大道理出发，恩惠便会产生，万民奉养君主，君主恩泽万民，卑贱与高贵的道理睦顺通明。然而，实际做起来，虽然恩泽惠施既已交接，拯救万民的措施也很多，但我们仍担心天下之财不济国用，圣上恩泽未必能惠及百姓。所以要心怀多方以了解百姓感情，制定法规以实行圣上意愿。至于获取山川财货，是因为百姓贡赋不丰；收取市贾之税，是要增加一些国库储备。收取这收取那，并不是为了其有利于自己；躲开这接受那，也不是为了奉养己身。这就是所谓敛集天地所产，惠施天下万民，假借造物主的财富，赈济造物者某些方面的贫乏。征收商人税利是为了提供国家战伐所需，让百姓贡赋目的在赡养卫国力量，取财用财，都有各自的道理。禁止百姓开发这个渊池，不是专从大官的需要出发；敛聚这些布帛，又怎能说是后宫所需呢。既然好处不在自己，彼我一个道理，就像聚敛与散发财货一样，那有什么可吝惜的呢？况且税收的本意，是使事有可求，本来是希望能够济养百姓，并不是为了私自藏贮财货。不像这样，那过去的贤人们为什么要这样做呢？正因如此，后来治理国家的，没有谁更改此类条文。所以先朝检校类条文，从人情物理出发，大小必校，从鉴如流，(疑)仍恢复盐禁。然而自盐禁实行以来，有关部门大多怠惰，实行的时候，往往走了原样，于是便让百姓怨声四起，商贩议论纷纷，这是执行政策的人没有方法，并不是制定政策的人有什么过错。而今，此事一出，致使朝廷明识之士，辨其原委，如果就此作罢，臣等担心失信于民。一行一改，法律的实施就像下棋动子一样，那怎么行呢，我们认为应当把条款中最重要的东西检寻出来，照先前做法依旧实施。”于是，皇帝下诏书说：“收取盐业之税，本是自古如此，然而各代从有利于百姓而制定政策，政策各代之间也不尽相同，但只要能使民富足，益于教化，便是道理所在。甄琛上的表，的确可称作是有助于治理国家，可照文前半所陈述，让公私并立，山川之利官民一同拥有。尚书应当在禁止豪强强取豪夺方面痛下功夫。”
皇帝又下诏书让琛参与八座讨论国事。不久甄琛就当上了中尉，常侍官职如故。又迁任侍中，为中尉。甄琛胆小怕事，所任不能纠治显贵，所有被他弹劾的人中，大都是下层官吏。当时赵修正得宠，甄琛一头扎进他的怀里，跟他抱成一团。甄琛的父亲甄凝任中散大夫，弟僧林为本州别驾，都是托付赵修向上传达的。等到奸诈的事情败露，明天准备收审，今天甄琛才列举其罪状。等到他看到刑官抽打赵修，恻隐之心还是油然而生，但等到他对别人说，就成了：“赵修小人，脊背就像土牛一样，特别经得起鞭打。”有识之士对他颇有看法。赵修死的第二天，甄琛与黄门郎李凭也以“朋党”之名被召往尚书处，兼尚书元英、邢峦穷究二人阿曲逢迎赵修的情况。甄琛先前拜官，有关官员都来了，邢峦出来晚了些，甄琛对邢峦说：“卿您死到哪里去了，这么晚才出来？”说的虽是玩笑话，但邢峦动起火来，一直耿耿于怀。碰到这次机会，刨根问底，极为仔细地盘问甄琛。司徒公、钅录尚书、北海王元详等人启奏说：“为臣听说党人成为祸患，自古以来，为人痛恨；结党成奸，为政所忌讳，即使身为宠臣，只要是党人，一定得诛杀，这些都是为了保存国家大公，保护先王所创基业永固长存的做法。我斗胆考虑陛下承袭先王明识，探幽鉴匿，即为近臣，当责不贷，一切都按国法办事，审时度势，这使国家大政蔚增光辉，可保江山永泰平安。臣的看法：侍中、领御史中尉甄琛，身居执法高位，纠邪摘非，是其职责，风气不正，都应弹劾纠正，何况赵修奢侈暴虐，恶名远扬，侵吞公有，豪夺私产，朝野上下，切齿痛恨。但甄琛却从不上疏陈奏，反而与其来往密切，交接结党，成为其重要朋党，朝内朝外，互相照应，互相勾结、互相吹捧。让本是平民的父亲，跃登正四品的高位；七品之弟，连跳三级官阶。这种做法，亏损先王所立的选举大法，给圣贤明达的官员脸上抹黑。甄琛又与武卫将军、黄门郎李凭互为表里，凭兄被封官，甄琛知而不说。等到赵修恶迹败露，甄琛方才弹劾。赵修生时，甄琛等全都趋炎附势，被诛之后，则又摇身一变，大加批评，窃天之功以为己有，对上瞒欺朝廷；对下哄骗百姓，甄琛的为人卑鄙奸诈，在这一点上，暴露无遗了。不诚实，不忠耿，实在应该贬官放逐。谨按刑律规定，请求除去官名。其父身为中散大夫，实际上是窃居其位，即使是皇族帝孙，也无此先例，这既然来得不伦不类，请求收回官职。甄琛攀附赵修，把他看作亲戚、靠山，跟他交游，不按常规，或是早晚出入赵修府门，或是每逢吉凶之事，便密谋商讨，以至于降低身份，拜揖赵修家人，他的妻子也与赵修儿子相见，甄琛每有家事，一定先托付赵修。如此这般，玷污清明皇风，搅坏世俗风化。这种恶劣的情况都不纠正，那凭什么去纠阿正谀，奖拔忠直之人呢！臣请求免去甄琛官职，以正风气。”奏陈被认可。甄琛于是被罢去官职，送回家乡，他左右牵连被罢黜官职被处死的有三十多人。
甄琛为官之初，他因为父母年迈力衰，经常请求皇上免去他的官职让他回家服侍，因此，高祖授予他家乡州长史。等到甄琛官名显达，不再请归。这次遭际，他才回家专门供养父母。几年之后，母亲去世。他的母亲是钜鹿曹氏人，有孝性，丈夫家离自己父母家里有百里之遥，每次她弄到鱼肉菜果之类美味佳肴，一定要仆人送些给父母吃，然后她才开始食用。甄琛母亲丧服没有满期，父亲又去世了。琛在父母坟茔内，亲手种下松柏，隆冬腊月，挖土挑水。乡亲父老十分同情他，都来帮忙。十多年中，坟墓修好，树木葱荣。甄琛与弟甄僧林发誓兄弟二人一起生活到老。在家乡买田置产，亲自耕种，经常呼鹰唤犬，出门打猎，借以自娱。朝廷有什么大事，还上书陈奏。
过了很长时间，皇帝又任命他为散骑常侍，领给事黄门侍郎、定州大中正。又大为皇帝亲近宠幸，黄门内大小事情，全权由他负责，出则参与尚书事务，入则为皇帝出谋划策。甄琛，高祖时兼任过主客郎一职，迎送萧赜出使彭城刘缵，甄琛钦佩刘缵的才气风度，经常言于歌诗。刘缵的儿子刘日折任朐山驻守长官，日折死之后，家属迁入洛阳。刘日折有个姑娘，年龄不到二十岁，而甄琛当时已经六十多岁了，他娶姑娘为妻。结婚那天，皇帝下诏为甄琛操办酒宴，甄琛十分高兴，世宗经常为这老少配开甄琛的玩笑。卢昶在朐山战败之后，皇帝下诏让甄琛前往检察调查。
后迁任河南令尹，加平南将军，黄门侍郎、大中正官职照旧。甄琛上表说：“《诗》说：‘京邑翼翼，四方是则。’说的是京师是国家四方的根本，社稷安危都依赖它，不可不清正。所以，从前国都在代州时，祸患不断、盗贼众多，世祖太武皇帝亲自发愤图安，广泛设置主司、里宰等官职，这些官员都从那些令长及五等男爵的后代有谋略的人中提拔。又广设吏卒武士，为其羽翼，提高他们的待遇，尊重他们的劳动，这样，不安定因素才得以消除。而今迁都以来，国土面积增加，四面八方，赴会京都，事情超过都处代郡的时候，天下人士，杂集京师，难以一一查明掌握，以致寇盗公行，劫害行为不断出现，究其原因，是因为行市混杂，难分鱼虾，有关部门暗昧软弱，不能胜任检查纠察责任必然产生的结果。大凡要人对付坚硬的木头，必定要为他选择好的工具。现在的河南郡是陛下您的坚木，各种人盘根错节，混杂在一起。六部里尉等部门官员便是攻坚的利器，不是贞直刚精锐利无敌的，则无法治理好京都。现在陛下您选择的令尹既不是良才，里尉等官也是柔软的铅刀，而陛下想要整顿京邑，恐怕难以达到预期目的。里正是流外四品之职，职位轻贱，责任琐屑，大都是下等官员，人人苟且偷安，不能行使督察之责，所以才使得盗贼奸邪横行霸道，各种赋税，失去常理。而边外小县，所统领的人数不过百十来户，但往往却以将军任职。京都诸坊，大的有千户、五百户之众，而且其中居住的都是王公卿尹、皇亲国戚之类高官显贵，豪绅猾吏，仆役奴隶，杂居其间，这些达官贵人往往私养奸恶之人，而他们高门广宇，不能随便干预。还有州郡侠胆的人，客居京都，私自交结贵戚，连群结党，暗地里欺行霸市，这比起边境小县，情况要复杂得多。现在朝廷以边事为难，京师治理容易，实在是不妥的做法。大凡王都制定法律，都根据情况随时有所改变，改弦易调，是明主当务之急。先朝确立品位高下，不是一说就定下来，而是根据实际情况，不合实际便着手更改。现在清闲官职，犹且高官兼任，况且烦杂重要的事务，怎能马马虎虎、拈重如轻，随便委职呢？我请求选取武官当中八品将军以下精干忠直的人，以本官待遇，任里尉之职，各自享受其应得俸禄，高的任六部尉，中等的任经途尉，下等的任里正。如不这样，臣请求稍稍提高里尉官职品位，选择本处下品中的本应升迁的人，充当此项官职。如果这样，则会让他们职重责任也大，京师就会气象太平，陛下身边就会安定。”皇帝下诏说：“里正可进品位于勋品，经途官员从九品，六部尉从正九品官员中提拔，就不必从武将中选拔这些官员了。”甄琛又启奏皇上以羽林军作为巡逻力量，巡逻在坊巷之间，纠察盗贼。从这以后，京都治安秩序大为好转，至今仍太平无事。
转任太子少保，黄门侍郎官职依旧。大将军高肇讨伐蜀乱，皇帝任命甄琛为持节使，代抚军将军，统领步、骑兵四万人为前锋都督。甄琛部队到了梁州獠亭时，适逢世宗逝世，班师回朝。高肇死了之后，朝廷认为甄琛是高肇党人，不宜再参与朝政，便命他为营州刺史出任外职，加安北将军。一年后，让光禄大夫杨思穆代替他的官职，当时甄琛都六十五岁了，于是他在中山闲居，很久以后，才到京城。被任命为镇西将军、凉州刺史，朝廷仍然认为他与高肇过从密切，不愿让他留在京师。不久又征召拜授太常卿，仍然以本将军出任徐州刺史。等到入京辞别肃宗，甄琛以年老体弱为由不愿赴任，皇帝下诏任他为吏部尚书，将军职位照旧。不久，又命为征北将军、定州刺史，衣冠锦绣，游历治地，心情大为舒畅。甄琛治州严厉刻苛，没有声誉。崔光不愿接受司徒之职，甄琛给光写信，表面贬责，实际附和。崔光揣度他的意图，回信称赞以取悦于他。不久又征召入京，授予车骑将军、特进等衔，又授官侍中。因他衰老，皇帝下诏赐给他御府杖，每天早晨拄杖上朝，出入禁中。