孙策临终时，为孙权留下两位托孤大臣——张昭和周瑜，并叮嘱：“内事不决问张昭，外事不决问周瑜。”而且，孙策还说：“若仲谋不任事者，君便自取之。正复不克捷，缓步西归，亦无所虑。”
这句话的意思是，如果孙权不能成事，那么你张昭就取而代之吧，而如果我军终究无法在乱世中立足，那你就带领我军往西投靠最为强大的势力，不必再有所顾虑。孙策这则临终表态，与刘备托孤于诸葛亮何其相似。而以东吴当时面临的严峻形势来看，孙策的表态较刘备更加真心实意。
而孙策死后，张昭亲自扶孙权上马，率文臣武将列队而出，向全军示意孙权为新主。张昭在孙权初步掌权时，确实也起到了稳定人心的作用。孙权出征时，往往让张昭留守；江东有人叛乱，也是张昭平定之。但后来孙权当上了吴王，两次任命丞相时，虽然百官极力推荐张昭，但孙权还是把他排除在候选名单之外。这又是为什么呢？
张昭因为是东吴老臣，又被孙策托孤，因此颇有自傲之心，甚至倚老卖老。而且，张昭性格刚直，说话口无遮拦，经常好心办错事，弄得孙权下不来台。有一次，孙权设酒，大宴群臣。席间，好酒的孙权让大家一醉方休、尽兴而归。张昭闻之大怒，马上愤然离席。孙权不知何故，马上拦住他说：“大家共同欢乐，公为何发怒？”张昭怒怼说：“昔日商纣王也是如此欢宴狂饮，他也认为这是好事而不是坏事。”孙权的酒宴，被张昭一句话整黄了，他本人也在下属前面折了面子，岂能不气。
还有一次，辽东的公孙渊向孙权投降。孙权头脑发热，决定派一万人携带大批财物渡海去辽东犒赏公孙渊。张昭得知后，立即劝谏孙权不要这么做，否则这一万人将有去无回。孙权不听，而张昭的语气也越来越不客气，于是双方大吵起来。
孙权按耐不住，手里按着刀说：“我已经尊重您到了极点，而您多次在众人面前让我难堪，我恐怕会控制不了自己！”言下之意，张昭再多嘴，只有死路一条。张昭看了孙权很久，不禁痛哭流涕说：“我早知你不会听，但太后去世前对我再三嘱托，我是尽忠而已。”听罢，孙权把刀扔在地上，与张昭相对流泪。但他的话，孙权还是没听。
之后，公孙渊果然背盟，东吴的一万人马有去无回。孙权跑去向张昭道歉，可张昭闭门不出，还用土把自己家的大门封死了。孙权命人打开封土，可张昭仍然以病重为由不出面。于是，孙权便放火逼他出来，但张昭反而把门窗关的更紧了。孙权无奈，只得又派人把火给灭了。僵持许久之后，张昭才被他的儿子扶了出来。孙权在张昭面前悔过认错，这才被其原谅。所以说，从个性上来讲，刚硬耿直又得理不饶人的张昭，并不适合做宰相。
张昭不适合做宰相，还因为他缺乏作为宰相的政治素质。赤壁之战前，东吴内部就战与和的问题上形成了旗帜鲜明的两派。张昭是力主投降的，这或许与当年孙策给他的遗嘱有关：如果实在无法生存，不如就降了吧。但不管怎么说，如果孙权听了张昭的意见，后来的吴国就根本不会存在了。所以，后来孙权当了皇帝后，口里还是常常念叨周瑜的功劳。而张昭本打算接着奉承几句，还没开口，就被孙权怼了回去：“如果当时听了张公的，我们现在就都要饭去咯。”张昭听后羞愧难当，拜伏于地。
张昭劝孙权降曹，这确实是其一生最大的污点，也直接决定了他不能成为东吴丞相。此外，张昭个性孤傲、刚烈强硬，不仅孙权屡次遭到他的批评，连鲁肃、甘宁、诸葛恪等重臣也都曾被张昭奚落。丞相为百官之首，贵在圆通兼顾，张昭这种个性很难堪此大任。所以，孙权设立丞相时，第一任是孙邵，第二任是顾雍。即使张昭呼声很高，也被孙权弃用，终身与东吴宰相无缘。孙策的“内事不决问张昭”，孙权显然没有听进去。