白彦敬本名白遥设，是部罗火部族人。开始他名叫白彦恭，因避讳显宗名允恭，而改为白彦敬。他的祖父是白屋仆根。父亲是白阿斯，在辽国做率府率。
白彦敬擅长骑马射箭，他起家于做官，为补元帅府令史。金朝攻打宋朝，白彦敬做钱帛司都管勾。金设立三省，白彦敬升为尚书省令史，授予都元帅府知事。白彦敬招谕各部，被授给金牌，他行了几千里，功绩显著，破格升为兵部郎中。金熙宗废除统军司而改设招讨司，派白彦敬分别指挥同事去收回以前的牌印，晓谕各部归属招讨司。回来后白彦敬任招讨侍郎，升为大理卿，离开朝廷后任通州防御使，改为刑部侍郎。有人告发开府慎思与西北路部族谋反，白彦敬审讯他们得到了口供，海陵王赞扬他。后升签书枢密院事，派往边疆灵活处置战事。
正隆六年(1161)，金朝调集各路军队攻打宋朝，又调集老百姓的马匹，派白彦敬掌管会宁、蒲与、胡里改三路事。他改任吏部尚书、充南征万户，升为枢密副使。契丹人撒八反叛，枢密使仆散忽土等因为没有功劳被连坐杀死。任白彦敬为北面行营都统，与副统纥石烈志宁前往灵活处置事态，赏赐给他御服皮袄。白彦敬走到北京，听说南征各军逃回来的兵都跑到东京，想拥戴世宗做皇帝。白彦敬同纥石烈志宁商议，暗地里联合会宁尹完颜蒲速赉、利步军节度使独吉义共同图谋这件事。
金世宗即皇帝位后，派石抹移迭、移剌曷补等九人去招降白彦敬、纥石烈志宁。白彦敬拒降，让石抹移迭跪下。石抹移迭不跪，白彦敬全部杀了他们。等到完颜谋衍率军队攻打北京，白彦敬派偏将率兵在建州之境抵抗，然而独吉义首先归顺了金世宗，蒲速赉称病不到。金世宗秘密派人乘着黑夜潜入北京张贴告示，重金收买官吏。白彦敬、纥石烈志宁恐怕被人图谋，于是投降金世宗。白彦敬被任命为曷速馆节度使。没过几个月，被召为御史大夫。
移剌窝斡冒用皇帝的尊号。各路军的战马都很瘦弱，即派白彦敬到西北路招讨司买马，买到六千多匹。移剌窝斡被打败，逃到西边的后山。完颜思敬带领换上新买的三千匹战马的军队准备追击移剌窝斡。白彦敬在夏金两国边界间防守。移剌窝斡被平定，白彦敬被召升为兵部尚书，离开朝廷后任凤翔尹，改任太原尹，兼河北东路兵马总管，不久改任河中尹。大定九年(1169)，白彦敬死在职位上。