美好的操守与气节，从来都不是吹出来的，而是做出来的。但这样的人又实在少见，唯其难得，所以才更会让人追思与缅怀。
在流芳百世的竹林七贤中，年龄最大的人，就是山涛。这个世界上为老不尊的人有很多，但山涛却以过人的胸襟与气度，在这个群体中与他人相处的很融洽。其中，又与阮籍和嵇康最为要好。
个人操守相当严谨的山涛，一直过着清贫的生活。他的妻子是韩氏，两人感情向来深厚。因不忍妻子跟着自己受苦，他曾对她许诺说：“困难是暂时的，你忍一忍，我日后定当位列三公，还请你多加忍耐，好做三公夫人啊！”事实证明，山涛实现了诺言，虽然他位极人臣，但始终两袖清风，洁身自好，且从不养婢妾。
因为和司马家族有表亲关系，再加上名声在外，所以，一直拖到四十岁时，山涛才答应出来做官。因其涵养颇深，气度超人，所以和同事相处得都比较不错，不管是司马师还是司马昭执政，都对山涛非常器重和信任。
因为和嵇康关系最铁，所以，当山涛被调离到别处任职时，他就向上面推荐，请嵇康来接替他的职位。没有想到，桀骜不驯的嵇康，为这个事，竟然出乎意料地写了一封著名的《与山巨源绝交书》，向天下告知与山涛决绝断交。
后来嵇康入狱，山涛几次上书为嵇康减刑，都没有成功。临刑时，嵇康托孤山涛，对年仅10岁的儿子嵇绍说：“只要你山涛伯在，你就不是孤儿，他会像父亲一样照顾你。”此后，山涛果然视嵇绍为亲生，悉心加以培养。
等嵇绍长大成人后，经山涛向晋武帝举荐，得以进入仕途，并被破格提拔为秘书郞。八王之乱时，嵇绍为保护晋惠帝身中数箭而死。事后，惠帝的侍从要洗去御袍上的血迹，惠帝痛惜地说“别洗别洗，这是嵇侍中的血啊!”后来的英雄文天祥，在身陷囹圄时，也曾提到过这个著名的典故。
在山涛于朝廷任要职时，碰到过这样一个事：陈郡人袁毅为了政绩，经常贿赂高官，这其中，他也送给山涛高档丝绢百斤。山涛本不想要，但如果拒绝可能就会显得不合群。思忖再三后，山涛将丝绢收下，并藏在阁楼上。后来袁毅事发，很多人都被牵连。山涛取出丝绢交给办案人员，只见丝上积满了尘土，封条印章都未动过。山涛因此保全了自己。
山涛年老时，曾以体弱为由多次辞官，但都被武帝驳回，还下令不准他再上章表辞职。为此，使者还把印绶交给卧病在床的山涛。山涛说：“将死之人，怎能玷污恩宠呢！”
虽然山涛生前位极人臣，但死的时候，旧宅仅有屋十间，因为子孙太多，住起来显得格外拥挤。参与朝政又能独善其身，山涛或许就是人们常说的“大隐”吧！