张琼，字连德，代地人氏。年轻时强壮健康，有武艺，魏朝时从荡寇将军升为朔州征虏府外兵参军。随葛荣作乱，荣败，尔朱荣拜他做了都督。因征讨元颢有功，除汲郡太守。建明初，为东道慰劳大使，封行唐县子，食邑三百户。转太尉长史，出为河内太守，除济州刺史。尔朱兆败，投奔高祖，迁汾州刺史。天平中，高祖偷袭夏州成功，以琼为慰劳大使，并留他镇守夏州。不久，琼因周文帝攻城，战死。赠使持节、燕恒云朔四州诸军事、大将军、司徒公、恒州刺史。琼有二子，长曰忻，次曰遵业。
忻，普泰中为都督，是尔朱世隆的麾下。因军功娶魏平阳公主，拜驸马都尉、大将军、开府仪同三司、建州刺史、南郑县伯。琼经常担忧忻的官位显赫，对亲近熟识的人说：“凡人做官得爵，不如不高不低，忻位秩过高，这是我最大的忧虑。”忻豪险放纵，又与公主感情不和，很快遭到武帝的迫害，时人认为琼有先见之明。
遵业，征讨元颢立下军功，封固安县开国子，拜宁远将军、云州大中正。天平中，除清河太守，不久加安西将军、建州刺史。武定中，随仪同刘丰讨伐侯景，被景掳获。侯景败，在涡阳杀死了遵业。遵业尸体运回来时，世宗亲自吊唁，赠其并肆幽安四州军事、开府仪同三司、并州刺史。