王僧虔是王羲之的族孙，他的祖父和伯父在东晋都当过大官，伯父王弘在刘宋时期还当过宰相，出身非常高贵。当年王僧虔的父亲和叔伯们把他们的孩子召集在一起，王弘的儿子王僧达在地上蹦蹦跳跳地做游戏，而王僧虔当时才几岁，一个人在地上端正地坐着，用蜡烛油捏凤凰玩。王弘说“：这个孩子将来会成为一个忠厚的长者。”

王僧虔20岁的时候，为人宽厚，尤其擅长写楷书。宋文帝看到他写的书法后，不由赞叹道：“不光书法超过了王献之，器量也超过了他。”王僧虔被任命为秘书郎、太子舍人。他性格谦虚，沉默寡言，不怎么和人打交道，和袁淑、谢庄是好朋友。

他哥哥王僧绰被刘劭杀害，大家都劝王僧虔赶紧逃命。王僧虔哭着说“：我哥哥用忠义来报效国家，用慈爱来抚育我。如果我没有牵连进去倒也罢了，现在能和哥哥一起死的话，就和升天成仙一样。”刘骏登基后不久，将他调为武陵太守，他的侄子王俭在跟随他的途中生病，王僧虔为此废寝忘食地照顾他，同行的人都劝他，他说：“以前马援对待亲生儿子和侄儿没有区别，邓攸对待侄儿胜过亲儿子。我就是这样想的，和古人没区别。他是我死去的哥哥的后代，不应该忽视他。如果这孩子救不活的话，我就马上回去辞职，这辈子都不做官了。”后来他回去担任了中书郎，转任黄门郎和太子中庶子。

刘骏企图独自享有书法家的名誉，所以王僧虔在他面前不敢显露出自己的书法才能。他常常用磨秃了的笔写字，写出来的字当然就不好看了，所以才能活下来。

不久王僧虔调任为豫章内史，入朝担任侍中，升任御史中丞兼骁骑将军。当时的贵族向来不担任监察官，在平民区居住的王家的分支才会担任这个职位较低的职务，王僧虔却担任了这个职务，他说“：这是平民区的人才会担任的官职，我也来试着干干。”后来朝廷把他调任为吴兴太守。当初王献之擅长书法，曾经担任过吴兴太守，而今王僧虔也擅长书法，也被调任为吴兴太守，两代书法家境遇相同，被传为美谈。

后来他又改任会稽太守，中书舍人阮佃夫是会稽人，请假回家。有人劝王僧虔要通过阮佃夫和朝廷搞好关系，对他要以礼相待。王僧虔说“：我立身处世有自己的原则，哪用曲意讨好这种人。他如果不喜欢我，我走就是了。”阮佃夫把这话告诉了刘彧，并指使别人弹劾他，说：“王僧虔在任吴兴太守的时候胡作非为，他从到任到迁官，任用官吏，广收门生，一共有448人。他还擅自批准百姓110家为士族，应该派人去调查。”王僧虔因此被免官。

不久王僧虔被重新起用，升任为吏部尚书，又加散骑常侍头衔，转为左仆射。后来又升为尚书仆射、中书令、左仆射，晋为左卫将军，他坚决推让，于是改任为左光禄大夫。当时郡县里对待囚犯一向是借囚犯生病的时候用毒药把他毒死。王僧虔认为这种做法是不对的，上书表示反对，皇帝采纳了他的意见。

萧道成也擅长书法，他当皇帝后对书法的爱好一直没有衰退。他曾和王僧虔比试书法，写完后问王僧虔谁是第一。王僧虔回答“：我的书法是第一，陛下您的也是第一。”萧道成笑着说：“你真可以说是善于为自己打算的人啊。”同时给他展示了11本古人的墨迹，并让他举出历朝历代书法家的名字。王僧虔也搜集到了许多民间收藏的古人墨迹，皇帝没有而他有的就有孙权、孙休、孙皓、桓玄、王导等人的，一共12本，全部呈交给皇帝。

王僧虔在论述书法的时候说：“宋文帝的书法自称可以和王献之相比，当时人们的评论是：‘他的天赋比羊欣高，但功底不如羊欣。’平南将军王广是王羲之的叔叔，在南渡以前书法水平最高。我的曾祖父的书法，王羲之评价说不比他自己差。能变化古代书法的，只有王羲之和我曾祖父了，不然我们还会继续以钟繇和张芝的书法为标准的。我堂祖王坦之的书法，王献之评价说‘：我弟弟的书法就和骡子一样，跑得飞快，总想超过骏马。’张芝、索靖、韦诞、钟会、卫夫人他们都在前代出名，现在没办法判断他们的优劣，只能看到他们的笔力惊人。桓玄认为自己的书法和王羲之和同属一流，人们认为他只能和孔琳之相比。羊欣的书法名重一时，受过王献之的传授，行书写得最好，楷书和他名声不相称。孔琳之的书法自然放纵，有笔力，但不如羊欣的字规范。丘道护和羊欣都受过王献之的指点，所以孔琳之在羊欣之下。范晔和萧思话都拜羊欣为师，后来范晔改变了师父的传授，失去了原来的规范，只保留了羊欣的一点笔意而已。萧思话的书法简直就是羊欣的影子，不在羊欣之下，遗憾的是笔力弱了点。”王僧虔的这些话大致概括了魏晋南北朝时期江南地区书法家的状况，他的点评很有道理，是书法史上很重要的一篇评论文章。

王僧虔还精通音乐，他在政治、书法等方面都有所成就，是一个全面发展的人，60岁那年去世，谥号“简穆”。