苏孝慈是扶风人。
父亲苏武周，是北周的兖州刺史。
苏孝慈年少时沉着谨慎，很有才干，容貌俊美。
北周初年任中侍上士，后来又拜授都督的官职，他出使到北齐，因其奉命出使，让皇上满意回京后升为大都督。
这年他又出使到齐国，回来以后授予宣纳上士。
以后他又跟随武帝讨伐齐国，因为功高而升为开府，皇上赏赐他文安县公的爵位，食邑一千五百户。
不久又改封为临水县公，增加食邑一千二百户，以后连续升迁做到工部上大夫。
高祖接受北周禅让，登基称帝以后，苏孝慈又晋升爵位为安平郡公，授予他太府卿的官职。
这时皇家大业刚刚奠定，各种建筑刚刚开始，朝廷征召天下的工匠，即使只有一点点技巧的，也无不把他们全部集中起来，交由苏孝慈统领，世人称苏孝慈很有管理才能。
不久，他又升迁为大司农。
一年多以后，又授予他兵部尚书的官职，皇上待他更加亲密。
当时皇太子杨勇对时政非常了解，皇上想提高东宫官吏的声望，就常让朝廷大臣兼任东宫的官职。
这时皇上就授命苏孝慈做太子的右卫率，仍旧担任兵部尚书的职务。
第二年，皇上在陕州设置常平仓，以便把粮食转运到京城。
由于渭水含沙量大，水流忽深忽浅，漕运的人都很苦恼，于是朝廷决定疏通渭水，挖一道水渠同黄河相连，命苏孝慈监督这项工程。
水渠修成后，皇上认为他做得很好。
后来又让他兼任太子右庶子，转而授予他左卫率的官职，仍旧担任工部尚书、民部尚书，人们都称赞他很干练。
几年以后，他晋升为大将军，转任工部尚书，任左卫率如故。
先前，因为官吏薪金不足，台省府寺都设置贷钱的机构，收取利息作为官俸。
苏孝慈认为官府和百姓争利，不是教化天下的办法，就上表章请予禁止，请求对于公卿以下的官吏按职位差别分给田地，皇上都很赞成并采纳了这些建议。
开皇十八年(598)，皇上将要废除太子，又担心苏孝慈在东宫辅助太子，于是就调苏孝慈出京任淅州刺史。
太子因为苏孝慈离开了他，心中很不平，面色上也表露出来。
苏孝慈就是如此的受太子倚重。
仁寿初年，升任洪州总管，在两地他都有仁政。
这以后，桂林山越人纠结叛乱，皇上命苏孝慈任行军总管，击败了叛军，平定了叛乱，这一年苏孝慈死在任上。