这时张浚进升为枢密使，抗战派就在朝中占了优势。当时有陈康伯为左相，史浩为右相，朝中的秦桧党人都已被驱逐。所以，应该说朝廷的主流意见都是恢复中原，但是，怎么恢复?是立刻挥师北伐还是暂时韬光养晦?朝中大臣各执其见，争论经年。其中张浚，王十朋，胡铨，虞允文，陈俊卿、王大宝等人主张立即北伐，史浩，陈康伯等主守。
张浚急图恢复，屡次上奏，欲取山东。史浩肯定张浚“大仇未复，决意用兵”的忠义之心，但坚决反对急于用兵的主张，张浚奏请御驾亲征，史浩则向孝宗陈述三条理由以阻止：一曰："下诏亲征"，则无故招致敌兵，何以应付?二曰，若以"巡边犒师"之名，去岁曾有一次，州县供奉甚臣，朝廷自用缗线一千四百万，国库无以负担;三曰，若为"移跸"，则无行宫，陛下自行，万一有一骑冲突，行都骚动，如何是好?可见史浩当时反对是经过深思的。
张浚进位枢密使后，就都督江淮兵马，开督府于建康，北伐也就正式提上了日程。而史浩则认为，北伐劳师费财，南宋又兵弱将庸，主动出兵是冒险之举，退守长江以北，静观金人之变，才是最稳妥之计。史浩还提出了修筑瓜洲、采石两处的城防，以保长江的主张。张浚认为：这是自动向敌人示弱，要筑城防也应筑在淮河上的泗州。
三月，金纥石烈志宁送信给张浚，要求割让海、泗、唐、邓、商等已被宋朝收复的州郡，并增加入贡岁币，这些理所当然地遭到了张浚的拒绝。于是纥石烈志宁在边界调动兵力，宋金前线形势恶化了，和战问题也就到了必须解决的地步。四月间，张浚入见，对的孝宗重申了自己的战略主张。而史浩对局势的判断则与张浚完全相反，他说“窃一传闻之言，多谓敌兵困于西北，不复顾山东。加以苛虐相承，民不堪命，王师若至，可不劳而取。审如此说，则吊伐之兵，本不在众，偏师出境，百城自下，不世之功何患不成?万一未至……宿师于外，守备先虚。我犹知出兵山东，以牵制关陕，彼独不知警动两淮荆湘，以解山东之急耶?……山东去敌万里，彼虽不能守，未害其疆：两淮近在畿甸，一城被寇尺地陷没，则朝廷之忧，复如去岁!”显然史浩主张的是：先加强长江防线，整顿士卒，先立于不败之地，然后伺机而动。
孝宗干脆下诏让大臣们来讨论如何对付金人。洪遵、金安节、唐文若等相继发表了意见，只有宰执没有上奏章。孝宗因此问史浩，史浩上奏说：“先作好充分准备，这才是良策。不要听目光短浅谋士的话，兴没有经过训练的军队去作战，这些没有良好素质的军队，到敌人离去时就来论赏邀功，到敌人来进攻时就丢弃武器逃得无影无踪了，这样做恢复可能实现吗?” 此所谓取快于一时，而含冤万世。他还上书道：“靖康之祸，谁不痛心疾首，掉二帝之蒙尘，悲六宫之远没，确应枕戈待旦，恩报大耻，然陛下初立，应以自治先行，方可图远。如今内乏谋臣，外无良将，贸动干戈以攻大敌，谁能保其必胜?如能侥幸获胜，自当痛快;若然不胜，则重辱社稷，以资外侮，后果那堪设想!”史浩觉得不能侥幸获胜，非到有把握时才能进攻。
这时李显忠、邵宏渊又上奏请求引兵进取，史浩也上奏说：“二将动不动就来请战，难道督府命令可以不行吗?”张浚请入觐，请求即日下诏进建康。皇上问史浩，史浩陈述理由，说不可。退朝后，又用诘问口气对张浚说：“帝王的军队，应当万无一失时，才可以出，岂可尝试以图侥幸。”以后他与张浚又在殿堂上反复辨论。张浚说：“中原沦陷已很久了，现在我们如果不取，豪杰一定会争着去收取。”史浩说：“中原决然没有什么豪杰的，如果有豪杰的话，他们为什么不起来亡金呢?”张浚说：“那儿民间没有武器，因而不能自起，等到我军一到他们一定会积极作内应的。”史浩说：“陈胜、吴广用鉏櫌棘矜亡秦，他们一定要等我部队到才起事，这就不是豪杰了。” 在上面的辩论里，两人都有些走入极端，张浚强调的是民心可用，良机难得，他看到了希望，却忽略了现实的种种困难，所以他无法理解史浩的稳重：史浩看到的是武备不修，取胜艰难，反对冒险，主张卧薪尝胆，所以他认为张浚心存侥幸。这样张浚与史浩的一场廷辩，反复达五日之久，最后史浩劝张浚说：“明公以大仇未复，决意用兵，此实忠义之心。然不量力而图之，是徒慕名尔。宜先为不可胜以待敌之可胜，乃上计也。”张浚以我年纪大了等不及了作回答。史浩继续劝说：“晋平吴，归功于羊怙。明公先立规模，使后人藉是有成，亦明公之功，何必身自为之?”张浚默然。史浩又说“先为备守，是谓良规，议战议和，在彼不在此”。说得很清楚，史浩反对冒失恢复中原。
而张浚一贯刚愎自用，不幸得是，他的固执并不因为岁月流逝而改变，反而因为时不我待而更添急躁。虽然在这次辩论中他处于下风，但他还是在第二天上书孝宗，张浚入内宫上奏说：“史浩的想法不可以改变了，臣恐怕失去一个良好的机会，恳请皇上作出英明决断。”面对如此有利的局势，作为太祖的子孙，被恢复中原的巨大道义力量所振奋，这时孝宗听不到史浩说过的一句话“张浚锐意用兵，若一失之，恐陛下终不得复望中原!”即召见张浚，问他恢复的计划。张浚请孝宗即日下诏，进驻建康，鼓舞将士北伐。此时的孝宗正是初生牛犊，锐气十足，虽然他曾一度在史浩的阻拦下有所犹豫，但经过张浚的鼓励和支持，又坚定了决心。四月，孝宗绕开三省和枢密院，直接下令张浚江淮都督府挥师北伐。
在相府中的史浩忽然得知宏渊出兵的命令，方才知道皇上越过三省，直接给诸将下命令了。便对陈康伯说：“我们都兼右相，但出兵不跟我们说，还用我们做什么用!不辞去还等什么?”遂请求辞相。有政治才干、头脑冷静、处事稳妥的史浩，为右仆射仅四个月，却不惜辞官而去，就是为了坚持宰相应有的军事决策权，坚持自己的思法和观点。当时御史王十朋也论述史浩八条罪状，这就是：怀奸、误国、植党、盗权、忌言、蔽贤、欺君、讪上。孝宗就此罢免了史浩，支持张浚出兵。史浩曾住瓜洲，白遣太府丞史正志前往看他，史正志也与张浚论辩主和。说起来史正志与史浩是同族，史浩祖上史惟则有一弟叫史怀则，他就是史正志的祖上。于是王十朋说史正志拜于史浩门下并像对父亲一样侍奉他，阴险奸邪，望风使舵以求升取，应该予以废黜，以严肃典章刑法。那个林安宅也常出入史浩门下，狐假虎威，作威作福，也应论其罪，将他们一起罢免。孝宗都同意了。
