霍彦威，字子重，氵名州曲周人。梁将霍存在村落间得到他，十四岁，跟随征讨。霍存爱他豪爽雄迈，收为养子。霍彦威没成年时被梁太祖所赏识，提拔在身边服事，渐渐升武职，多立军功。曾中过流矢，瞎了一只眼。梁太祖开平二年(908)，自开封府押衙、右亲从指挥使、检校司空授任右龙骧军使。三年，自右监门卫将军授左天武军使，迁右监门上将军。乾化三年(913)，和袁象先一同诛杀朱友王圭，梁末帝授予他氵名州刺史，转河阳留后。乾化末年，..州留后李保衡背叛李茂贞献城归顺梁朝，梁朝任霍彦威为..州节度使。这年五月，李茂贞派将军刘知俊率大军攻打..州，霍彦威坚守一年多，始终不能攻下，有时抓到李茂贞的俘虏，霍彦威下令全部放走，秦人感谢他的恩惠，便不再侵扰。霍彦威转任滑州节度使，移守郓州，兼北面行营招讨，总领大军驻在黄河边。部队多次遭受失败，降职任陕州留后。
唐庄宗进入汴州消灭梁朝，霍彦威从陕州赶到请罪，庄宗下诏释放了他。一天，庄宗在崇元殿宴请各位将军，霍彦威和段凝、袁象先等人都参加。酒酣时，庄宗举起酒杯对明宗说：“这一席客人，都是我以前的劲敌，一旦和我同席喝酒，都是你前锋的功劳了。”霍彦威等趴在阶前谢罪，庄宗说：“和你们谈谈旧事，不必害怕。”赐给御衣、器币，尽欢而散。不久放回藩地。
第二年，随从明宗平定潞州，任徐州节度使。契丹侵犯边塞。庄宗任明宗为北面招讨使，命霍彦威为副使。霍彦威善于言谈，颇能应接逢迎，明宗尤其看重他。赵太在邢州反叛，奉诏讨平了他。这时赵在礼占据魏州，与明宗在邺下会师，大军在晚上作乱，明宗被乱军逼迫，霍彦威跟随明宗进入魏州，皇甫晖等人尤其忌恨霍彦威，想杀掉他，霍彦威机智辩解，最后免于受害。从魏州出来后，只有霍彦威部下的士兵得以保全，护卫明宗到了魏县。这时明宗想往北去常山，霍彦威和安重诲恳请他回朝廷，于是跟着明宗到了洛阳，霍彦威带头率卿相在至德宫劝明宗即帝位，十几天内，内外机要事务都由霍彦威决定。擅自收捕段凝、温韬下狱，将要依法处置，安重诲说：“温、段二人的罪恶是有负于梁室，大家都知道。现在主上刚平定内难，希望安定万国，怎么能为自己报私仇呢！”至天成初年，任郓州节度使，遇上青州王公俨抗拒命令，便改任平卢军节度使，到藩镇后，获王公俨并杀掉。第二年冬天，四次到汴州进见，明宗接待很优厚，升官到检校太尉、兼中书令。三年冬天，死在青州任上，五十七岁。讣告送到那天，明宗正到近郊，忽然听到讣告，哭着回宫，停止上朝三天，至月底不奏乐。册赠太师、晋国公，谥号称忠武。儿子霍承训，弟霍彦珂，历任刺史。北宋乾德年中，在洛州建立明宗庙，下诏以霍彦威配享庙庭。