大器晚成常被用来形容一些直到人生中后期才取得成就的人，他们往往默默无闻，一鸣就十分惊人。
张柬之就属于就有这样的人，年轻时就广泛涉猎经史子集，但直到六十四岁都默默无闻。后来，他还是靠着武则天为选拔特殊人才开设的贤良科目才终于崭露头角。没过多久，他得到名臣狄仁杰、姚崇的大力推荐，于七十九岁高龄官拜宰相。当上宰相的第二年，张柬之便带头发动了著名的神龙政变，将重用自己的女皇武则天赶下了皇位。
唐武德八年（625），张柬之生于襄州襄阳县，也就是今湖北襄阳一带。年轻时，张柬之很顺利地成为了一名前途远大的太学生，在考中进士后，他只是当了一个小小的县丞。永昌元年（689），张柬之算是走上了上坡路，他在千余人参与的贤良科目考试中考中头名，受封监察御史，后来又多次得到提拔，一路升至凤阁舍人。
不过，张柬之的才能并没有打动武则天，他被外放到了荆州担任长史。十几年后的长安年间，武则天一次苦于没有人才，便询问狄仁杰何处有奇士，后者推荐了张柬之，并表示他是宰相之材。在狄仁杰的举荐下，张柬之升任为秋官侍郎，也就是刑部侍郎，后来姚崇出任灵武军使，临行前再度为武则天推荐了张柬之。有了这两位重量级人物的推荐，张柬之终于受封同凤阁鸾台平章事，成为了武周宰相。
武则天重用狄仁杰、姚崇，而他们恰恰也是最想推翻她的人，被他们推荐的张柬之也是如此，他一方面不满武周王朝，一方面也想要借助拥立之功真正走上权力巅峰，于是和其他一些想要兴复唐室者通力合作，趁着神龙元年（705）武则天病重卧床的机会率军进入宫中，先是杀死了她的宠臣张易之、张昌宗，又进入其寝宫强行逼其交出大权。最终，神龙政变以中宗李显成功复位告终。
作为主要谋划和参与者，张柬之确实被记为大功，于是中宗将他封为了天官尚书、同凤阁鸾台三品、汉阳郡公，还赐其食邑五百户。所谓天官尚书，也就是人们常说的吏部尚书，而总体上来看，张柬之只是在爵位和待遇方面比武则天统治时有所提升。尽管不算什么英明君主，中宗还是知道限制大臣权力的道理，仅仅过了一个多月，他就一边加封张柬之为郡王，一边罢免了他“知政事”的职权。
据《资治通鉴考异》记载，在这背后发生的一件事是让中宗对张柬之态度大大改变的重要契机。一天，中宗去探望已经退位的母亲，结果发现武则天神色非常憔悴，顿时大惊失色。对自己这个不成器的儿子，武则天流着泪说道：“我把你从房陵接回京城，本来就是要在自己去世后将天下传给你的，结果你却跟随张柬之等贪图拥立之功的奸贼强行政变，让我受了惊吓，才会沦为这个样子。”
听完母亲的哭诉，中宗十分自责，于是他一方面任由武则天嫡系的武三思等人在朝中为非作歹，一方面对张柬之的厌恶也是增加了许多。不久之后，得势的武三思上述弹劾张柬之等大臣诬陷韦皇后，中宗趁机罢免了他们的宰相职务，完成了权力的回收。而失去权力后，张柬之倒也看得很淡，他主动上书乞骸骨，请求回到襄州老家，于是中宗顺水推舟封其为襄州刺史，把他打发出了权力中心。
不过，中宗舒坦了，原本有小概率当皇帝，却因为神龙政变而彻底断送希望的武三思却还耿耿于怀。过了没多久，武三思又陷害张柬之，使其在八十二岁高龄被贬为新州司马。新州位于如今广东罗浮一带，可以想见在当时有多么偏远落后了，张柬之在到达新州后不久，便因为水土不服、心中愤懑郁郁而终。
景云元年（710），睿宗李旦继位，对于张柬之这位李唐宗室的恩人，他十分尊敬和感激，于是追封他为中书令、汉阳郡公，还给他的儿子也授予了官职。玄宗、德宗年间，张柬之先是得以配享中宗的宗庙，又被加封司徒，可以说是死后颇受恩遇。