韦玄成字少翁，因为父亲任职而做郎，常随侍皇帝骑马，少年学习父业，对待贤士特别谦逊，外出遇到步行的熟人，就让随从下车，载熟人回家，以为常事。
韦玄成待贫贱人更为尊重，由此名声日日增大。
因为他精通经术，被升为谏大夫，调任大河都尉。
开始玄成兄韦弘做太常丞，侍奉宗庙，掌管诸陵邑，事务烦杂且易出差错。
韦贤想让韦弘做继承人，所以命令韦弘自己免官。
韦弘避嫌，不肯免官。
到韦贤病重时，韦弘竟因宗庙事犯罪进了监狱，罪未判。
家里人问韦贤谁应作继承人，贤怨恨不语。
于是韦贤门下学生博士义倩等与韦贤之同族计议，共同托韦贤的命令，使家丞上书给皇上，用大河都尉玄成做继承人。
韦贤死，玄成在官听说父丧，又听说定为继承人，深知那不是父亲平素意思，立即假装病狂，卧在大小便之中，胡乱说笑。
玄成被征召到长安，把父亲安葬完毕，面临即将继承爵位，假装病狂应召。
大鸿胪进献奏章，皇上把奏章下到丞相、御史二府查讯证实。
玄成一向有名声，士大夫怀疑他想让爵位而征辟兄长。
考问情事的丞相史给玄成一信说“：古时的辞让，一定有文章的内容可观，所以垂荣后世，而你只坏容貌，蒙受耻辱，装狂痴，把光亮遮住不让人看见。
真是微妙啊！你推托是在争名声。
我谬为宰相执事，希望少闻风声，不然，恐怕你伤害了名声而跌为小人。”韦玄成友人侍郎章也上疏说“：圣王以礼让治国为贵，应当优养玄成，不要冤屈了他的志向，就让他自安于平民屋下。”可是丞相、御史就以玄成病不实，向皇上检举弹劾他。
皇上诏令不要弹劾，带领他来拜见。
玄成不得已就继承了爵位。
汉宣帝认为他的气节高尚，用他做河南太守。
兄韦弘做太山都尉，调任东海太守。
几年后，玄成征召为未央宫卫尉，调任太常。
因为与原来的平通侯杨恽相好被牵连犯罪，杨恽被诛，同伙及友人都被免官。
后来玄成以列侯身份陪祭孝惠庙，正好早晨入朝，天雨泥泞，不驾驷马车却骑马到庙下，有检举弹劾他违章，同情况的数人都削爵为关内侯。
玄成自己感伤贬黜父爵，叹息说：“我有何脸而来奉祭祀啊！”于是作诗责备自己：“伟大的祖先啊，从豕韦氏起，辅佐殷、周，直至汉朝。
您贤德茂材，为皇帝师、为楚王师，功德无量，被封官晋爵，赐福后世子孙。
才智出众的兄长让我继承父亲爵位，因为我不恭敬会同，被削爵为关内侯，这是一奇耻大辱。
我决心挽回影响，请四方人士监督。”汉宣帝的宠姬张婕妤的儿子淮阳宪王爱好政事，通晓法律，皇上觉得他的才能不同凡响，有意想让他做继承人，但是因为太子出身低下，又早丧母，所以不忍心废弃。
很久以后，皇上想感动宪王，打算用礼让之臣辅佐他，于是召见并拜玄成为淮阳中尉。
此时宪王还未到封国，玄成又受诏，与太傅萧望之等讨论惠施的“同异论”，并且要就所讨论之同异逐条上奏。
到元帝即位，又用玄成做少府，调任太子太傅，后任御史大夫。
永光(前43～29年)中，代于定国为丞相。
贬黜十年之间，终于继承父亲做了丞相，封侯到原来的地方，荣耀于当世。
玄成又作诗，说明改正缺点的艰难，借此来告诫子孙。
其诗曰：“尊敬的先君，德高望重，做丞相封扶阳侯，因为我轻忽而丧失，我悔恨不已。
明察的天子，不追究我的失误，安我于九卿，晋升我为三公，恢复我爵位，郡公百官来贺。
但我担心此位难得久居，贬退随时可能降临。
我的子孙们啊，你们要谨慎从事，各人保守好自己的位置，不要学我不谨慎不严肃。
我能恢复爵位，全是天子的恩赐。
后人们努力吧，为汉室兴盛做贡献！”玄成做丞相七年，守正持重不及父亲韦贤，而文辞超过其父。
韦贤在昭帝时迁到平陵，玄成则另迁至杜陵，病重将死，向使者禀告说：“不尽父子之恩，希望免职还乡，归葬父亲墓旁。”皇上答应了他。
玄成的儿子顷侯韦宽继承，韦宽死，子僖侯韦育继承。
韦育死，子节侯韦沈继承。
从韦贤传封地到玄孙就断绝了。
玄成长兄高寝县令韦方山的儿子韦安世做过郡守、大鸿胪、长乐卫尉，朝廷称他有宰相的材器，恰巧他病死。
而东海太守韦弘的儿子韦赏也精通《诗经》。
哀帝做定陶王时，韦赏为太傅。
哀帝即位，韦赏因为旧恩做大司马车骑将军，位列三公，赐爵关内侯，食邑千户，年终八十多岁。
韦玄成同宗的做官到二千石的有十几人。
高祖时，命令诸侯王的都城都立太上皇庙。
惠帝时尊高帝庙为祖庙，景帝进尊孝文庙为太宗庙，又要各郡国立太祖、太宗庙。
宣帝本始二年(前72年)，宣帝又尊孝武庙为世宗庙，要武帝巡狩到过的地方也立庙。
总计祖宗庙在六十八个郡国皆有，合计一百六十七所。
而京师从高祖以下到宣帝，加上太上皇，悼皇考各自所处墓旁修的庙，一共是一百七十六所。
又陵中各有正殿、便殿。
每日到正殿祭祀，每月初一、十五日到庙中祭祀，四季到便殿祭祀。
正殿，每日四次进献食品；庙，每年腊月二十五日祭祀；便殿，一年四次祭祀。
每月浏览一次衣冠。
又昭灵后、武哀王、昭哀后、孝文太后、孝昭太后、卫思后、戾太子、戾后各有寝园，与诸帝合，总计三十所。
一年的祭祀，上食二万四千四百五十五次，用卫士四万五千一百二十九人，巫祝、家臣、乐师一万二千一百四十七人，畜养祭祀用的猪牛羊等杂役还不在数中。
到汉元帝时，贡禹为了节俭国家开支，减轻百姓负担，上奏皇上，提出了关于建立宗庙和宗庙迭毁(亲属尽者庙应废)的建议。
还未来得及施行，贡禹就归天了。
后来元帝两次下诏在三公、九卿中讨论此事，经过七十余人的反复议论，丞相韦玄成等多次上奏，最后决定：废除郡国宗庙，天子在京师建立五庙，五庙以下者亲属完了的就废除，所废除宗庙庙主的神位，收藏到太祖庙里按昭穆次序排列；减少祭祀。
过了一年多，韦玄成死了，匡衡做丞相，元帝生病，梦见祖宗责备他废除郡国宗庙，元帝于是下诏恢复宗庙，匡衡认为不可，代皇上向祖宗陈述道理，请求祖宗保佑元帝康复，但仍不见元帝病情好转。
元帝于是下诏完全恢复了废除的宗庙，祭祀一如既往，但元帝还是死了。
元帝死后，成帝即位，匡衡上奏说前因皇上卧病而恢复废除了的宗庙，终不受保佑。
考察有庙的亲人完了，其宗庙应废除，成帝批准了。
成帝死后，哀帝即位，丞相孔光、大司空何武上奏重议武帝为世宗的问题。
光禄勋彭宣等五十三人都认为孝武帝亲属尽了，他的庙应当废除，但是太仆王舜、中垒校尉刘歆认为武帝武功盖世，安抚四夷使国家安定，召集天下贤人共同谋划，建立制度，变更历法，改换服色..使汉室中兴，应称世宗。
皇上同意，高帝建立大业，称为太祖，文帝道德最高，称为太宗，武帝功绩最显著，称为世宗，各立宗庙。
到平帝时，大司马王莽又上奏谈宗庙的建立与废除问题。
司徒椽班彪说：汉朝紧接亡秦之后，祖宗之制因时制宜。
从元帝到武帝，后进的学者繁衍滋长，贡禹定宗庙迭毁，匡衡改祭祀，何武定三公，后来都屡次被恢复，所以纷纷不定。
为什么这样呢？缺少礼文，古今制度不同，各持一家，不是容易偏定的。
考察诸儒的议论，只有刘歆的议论广博而且厚道了。