李若水字清卿，氵名州曲周人，原名若冰。他以上舍生登第，调任元城县尉、平阳府司录。参加学官考试获第一名，任济南教授，被命为太学博士。蔡京晚年恢复相位，儿子蔡绦用事专权，李邦彦愤愤不平，打算以病辞谢离开朝廷。若水则说“：大臣以道德事奉君主，不可以就此停止，为什么不取决皇帝面前，使去留的大义，显露于天下呢？难道可默默托病而退去，使天下有尸位素餐的讥讽吗？”又说“：积弊已经很久，要求得治理是很难。建议裁损费用而国家用度不丰裕，减省科赋徭役而百姓财力还是困乏，权贵谦退而越是骄横，仕流泛滥而不能澄清。正应当置驿求贤，解榻待士，采纳他们的小小长处和远见卓识，以振兴治理之功。”共十多条，都很切中时病，李邦彦不高兴。
靖康元年(1126)，李若水任太学博士。开府仪同三司高俅死去，按照以前旧例，皇帝应当挂服举哀，李若水说“：高俅以幸臣的身份逾越等级跻身显位，败坏军政，致使金人长驱直入，他的罪恶应当与童贯等同。他得以保全脑袋而死，尚且应当追削官秩，表示被大家忘记；但官吏们循常习故，打算加以繁琐的礼仪，这不是可以用来平息公议的办法。”奏章一再呈上，才使朝廷停止了这种做法。
钦宗将要派遣使臣到金国去，讨论用赋税收入赎回三镇，诏令推举可堪出使重任的人，李若水名列选人之中。皇帝召见了他，赐给他今名，迁任著作佐郎。作为使臣，李若水在云中会见了粘罕。刚返归朝廷，金兵已经南下，又以徽猷阁学士的身份，辅佐冯氵解前往金国。方停留在中牟，守御黄河的军队互相惊慌以为金兵来了，左右侍臣商议从小路离开，冯氵解问若水：“怎么办？”若水回答说“：戍兵害怕敌人而溃散，怎么能仿效他们，今天恰好以死报国。”下令敢讲退却者斩首，这样大家才安定下来。
已经出行，累次上奏章，说和议必定不可以成功，应当告诫严加守备。到怀州，遇上金国馆伴使萧庆，把他挟持一起回朝。到京城门口，把萧庆拘留在冲虚观，只令萧庆、冯氵解进去。既而双方所议多不合，粘罕加紧攻打京城，李若水入朝见皇帝，告诉这一情况，皇帝命令何..前行。何..还朝，说他们二人想与太上皇徽宗相见，皇帝说：“我应当前往。”第二天皇帝临幸金兵军营，过了二夜才归。提拔若水任礼部尚书，李若水坚决辞谢。皇帝说“：学士与尚书同班，何必辞谢。”李若水不停地请求，改任吏部侍郎。
靖康二年(1127)，金人再次邀请皇帝出郊，皇帝很有难色，李若水认为不要有其他顾虑，随从前行。金人中途改变主意，逼迫钦宗换下皇袍，李若水抱住痛哭，骂金人是狗辈。金人把他拖出去，击坏他的脸，因气结倒在地上，众人都散去，留下铁骑数十人看守。粘罕下令说：“一定使李侍郎无恙。”李若水绝食，有人劝勉他说：“事情已经没有办法，你昨天虽然骂人，国相没有生气，今天归顺服从，明天就荣华富贵了。”若水感叹说：“天无二个太阳，我李若水难道有二个君主吗！”他的仆从也来劝慰说“：您父母年岁已高，如果稍稍屈服，希望能得到一个回去觐见的机会。”李若水大声呵斥说：“我不再顾及家里了！忠臣事奉君主，有死无二。但我亲孝老人，你回去后不要马上告诉他们，让兄弟慢慢告诉他们就行了。”
十天以后，粘罕召他商议事情，而且询问不肯拥立异姓为帝的情况。李若水说“：上皇为百姓着想，罪责自己内禅皇位，主上仁义孝道慈仁节俭，没有什么过错，怎么适宜轻议废立？”粘罕指责宋朝失信，李若水说：“如果以失信为过错，你是最失信的人。”历数粘罕失信的五件事说“：你是大猪和长蛇式的贪暴者，真是一个剧贼大盗，灭亡没有多少日子了。”粘罕命令把他推出去，李若水反而骂得越发厉害。到达郊坛下面，李若水对仆从谢宁说“：我为国家而死，这是职责，只是一起连累你们了！”又骂不绝口，监军的人打破他的嘴唇，他喷血痛骂更加不停，最后用刀裂颈断舌而死，享年三十五岁。
谢宁得到机会回朝，详细说李若水就义情形。宋高宗即皇帝位，下诏说：“若水忠义气节，无与伦比，我听说后，为之流涕哭泣。”特赠若水观文殿学士，谥号叫“忠愍”。李若水死后有从北方逃归的人说“：金人相互说‘，辽国灭亡，死于忠义的十多人，南朝只有李侍郎一人。’他临死前毫无恐怖之色，做歌诗而死，歌诗云‘：昂首责问苍天啊，苍天终于没有话说，忠臣以死效忠国家啊，死又有什么罪咎呢？’在场的人为之悲痛。”