房琯的字叫次律，是河南府河南县人。父亲是房融，武则天时，以正谏大夫任同凤阁鸾台平章事；神龙元年(705)，被贬死在高州。房琯年少时好学，风格沉稳整饬，因父亲的地位成为弘文馆生员。后和吕向一起隐居在陆浑山，十年不与人交往。开元年间，写了《封禅书》，去游说宰相张说，张说对他感到惊奇，任命他为校书郎。他又考中了任县令科，被任命为卢氏县县令。后被封为监察御史，因审案不对获罪，被贬为睦州司户参军。后又任县令，所到之处提倡道德教化，兴办能长期受益的事，政绩最为突出。
天宝五年(746)，任给事中，封漳南县男爵。当时唐玄宗有玩乐的愿望，多次出游，把温泉宫扩大为华清宫，围绕该宫设置百官部门。因为房琯善于设计安排，有诏令总管规划骊山，凿岩挖池建皇帝出游的行宫。没完工，因与李适之、韦坚交好牵连治罪，贬为宜春郡太守。历任琅笽、邺、扶风三郡太守，多次提升任宪部侍郎。天宝十五年(756)，唐玄宗逃到蜀地，房琯骑马跑到普安拜见，皇帝很高兴，随从到了成都，又赐他一个儿子为官。
不久和韦见素、崔涣送册封诏令到了灵武，拜见了唐肃宗，详细说明了太上皇让位的意愿，顺便谈到眼前有利和不利的情况，抑制叛军的方法和叛军的情况，言谈典雅流畅，皇帝脸上露出钦佩的神色。房琯已有很高的威望，皇帝又一心信任他，重要事务一一和房琯讨论决定，其他将相没人能比。这时，第五琦因上奏谈赋税军费受到重用，担任了江淮租庸使。房琯劝谏道“：过去杨国忠搜刮盘剥，使天下人怨恨；皇上登基人们没见德政，现又宠信第五琦，这是一个杨国忠死了，另一个杨国忠又产生了，不能让全国人民安心。”皇帝说“：我正紧急调集军队，没有钱财就不行。您可以讨厌第五琦，但哪里去弄钱财呢？”房琯无话可答。
北海太守贺兰进明从河南来了，有诏任命为代理御史大夫、岭南节度使，他进殿谢恩，皇帝说：“我叫房琯任命为正职大夫，怎么成了代理呢？”贺兰进明恨房琯，就说：“皇上知道晋朝失败的原因吗？就因为重视虚假的名望，任命王衍为宰相，崇尚浮华，不管天下大事，因此走向了灭亡。现大唐中兴，应任用实干家，但房琯生性虚浮，好说大话，不是宰相的材料。皇上虽宠信他，但他肯被皇上任用吗？”皇帝说“：此话怎讲？”他回答说“：皇上先前是太子，太子领兵出征叫抚军，进京坐镇叫监国，但房琯给太上皇建议派众王任都统节度，称皇上是太子却分给朔方、河东、河北人口稀少的地方，永王、丰王却统辖四位节度使。这对于太上皇好像是忠心，对皇上却不是忠心。房琯的用意是众王不论哪一个得天下，自己都能保往恩宠，他又多安排自己的党羽，来掌握军队，从这看来，他哪里肯为皇上尽忠呢？”皇帝听信了他的话，开始讨厌房琯了。任命贺兰进明为御史大夫、河南节度使。
碰上房琯请求自己率兵讨平叛贼，皇帝还想依靠他完成这一大业，就下诏命房琯持符节任招讨长安，防御蒲、潼两关兵马节度使，能自己选择幕僚和将领。
他就任命兵部尚书王思礼，御史中丞邓景山为副手，户部侍郎李揖为行军司马，中丞宋若思，起居郎知制诰贾至，右司郎中魏少游为判官，给事中刘秩为参谋。
房琯把军队分成三支进攻长安：杨希文率南军，从宜寿进攻；刘折心率中军，从武功进攻；李光进率北军，从奉天进攻。房琯自领中军任先锋。十月庚子日，驻扎在便桥。辛丑日，中军、北军在陈涛遭遇叛军，作战不胜，房琯想防守等待时机，宦官邢延恩催促出战，因此战败，兵将战死者像砍倒的麻杆芦苇一样。癸卯日，房琯率南军再战，被打得大败，杨希文，刘折心都投降了叛贼。战前，房琯采用春秋时代的作战方法，用兵车两千辆围绕着军营，骑、步兵布置在兵车两边。接战后，叛军顺风呐喊，拉兵车的牛都吓得战抖，叛军又扔草用火烧兵车，兵将和马牛被烧死了不少，总共被杀死了四万士兵，血把大地都染红了。残兵只有几千人，不能组成作战部队了。房琯逃回了皇帝驻地，拜见皇帝，脱光上身请求处罚，皇帝饶恕了他，叫他招集受伤和打散了的士兵，再计划进攻。房琯很自负，将平治天下作为自己的责任，但作战本来就不是他擅长的。他的助手李揖、刘秩等人都是书生，没有经历过战阵，房琯常常夸耀说“：叛军壮士虽然多，能抵挡我的刘秩吗？”皇帝虽然对房琯损失了军队感到遗憾，但宠爱信任没有减少。
崔圆从蜀地来，在大臣中最后拜见皇帝，房琯认为皇帝不召见他，是看不起他。崔圆将金钱送给李辅国，没几天就受到宠信，于是怨恨房琯。房琯常称病不上朝。遇到御史大夫颜真卿弹劾谏议大夫李何忌不行孝，房琯一向与李何忌要好，不想让坏名声加在他身上，假托他酒后上朝，贬官任西平郡司马。琴师董廷兰进出房琯官邸，房琯对他很亲近。
董廷兰依仗房琯的权势，多次招揽贿赂，被有关部门弹劾治罪，房琯对皇帝诉说，皇帝为之大怒，呵斥打发他出来，房琯惶恐不安地回到官邸。后贬任太子少师。
他跟随皇帝回到京城后，被封为清河郡公。房琯罢相后，朝中臣子多认为房琯文武兼备，可以再次任用。房琯也自认为将复出，给皇帝建功。和房琯要好的大臣在朝中公开宣扬他的主张。房琯当时每天邀请刘秩、严武等人宴饮会谈，称病不上朝时也这样。皇帝认为房琯好说大话虚浮怪诞，心怀不满，结党营私，不合大臣规范。乾元元年(758)，将房琯贬出京城任琯州刺史，把刘秩、严武等人也贬出了京城，并下诏书述说他们勾结的情况，通报朝中和外地。以前，..州用武将任刺史，因此法纪废弃松弛，将官府作为兵营，官吏侵占百姓的房屋互相混杂争吵。房琯去了，所有问题都解决了。
人民得以安居乐业，政绩到处流传。后召他回到京城任刑部尚书，在路上他生病去世了，赠官为太尉。
房琯有远大报负，喜欢谈论老子、佛教教义，喜欢客人，善于空谈，但不能解决问题。当时国家多难，急着计划进攻，皇帝用对官吏的要求约束臣子，但房琯任宰相时，很想从容镇定地辅佐治理，加上对部下了解不够，招致失败，所以功业名声受损。