郭守文的父亲是五代时追随后汉高祖刘知远的郭晖，北伐南征的时候任护圣军使。郭晖在征讨河中的战役中战死沙场，当时郭守文只有十四岁，跟随父亲从军。父亲战死，他变得孤苦无依，无人照顾。节度使郭威把他收在账下，代他父亲养育他。郭威建立后周之后，逐渐长成的郭守文，效力于郭威麾下，为护卫军校，被任命为左雄殿直、东第二雄副都知。
少年时的经历让郭守文变得隐忍而有能力，并不急于展示才能。赵匡胤发动陈桥兵变，建立大宋，升郭守文为西头供奉官，服务于皇宫大内。面对内忧外患，朝廷要派兵东征西讨，郭守文认为时机到了，才跟随大将王全斌参加了战斗。
乾德二年冬，北宋拉开讨伐后蜀之战。郭守文在王全斌麾下，挺进西南，参加平蜀之役。一年之后后蜀灭亡，郭守文因军功擢升简州知州。新获之蜀地，在衔接之时，剑门内外流寇散匪很多。郭守文剿抚并用，以抚为主，将大部分流寇散匪的首领招抚收降，归附宋朝，兵不血刃，安抚一方。王全斌贪财滥杀，和部下诸将一起受到制裁，郭守文却没有受到牵连，可见其克勤克俭，自我约束能力之强。
郭守文的收抚颇见成效，为以后的劝降和治边奠定了基调。
开宝三年，郭守文随潘美征讨南汉，首战告捷，擒俘南汉皇帝刘鋹，潘美派郭守文乘驿车到朝廷告捷。郭守文为灭亡南汉，再立战功，朝廷于是升任他为翰林副使。开宝七年，郭守文再随大将曹彬征剿南唐，平定南唐之都金陵后，生俘南唐后主李煜。第二年，赵匡胤下诏送李煜到汴京。曹彬因郭守文勤于战事、行事慎肃，命他押护李煜，归阙报捷。当时李煜深悔自己贪文误国，不愿活着见宋太祖，欲寻短见。郭守文觉察后对李煜说：“国家只求恢复疆土，天下太平，怎么会因归附晚而受责罚呢？”李煜这才安心。回到汴梁后，赵匡胤嘉奖郭守文，改任他为西京作坊使，兼任翰林司事。
郭守文不仅能对做了俘虏的南唐皇帝李煜进行劝慰，而且还能对边疆少数民族实行抚慰，征伐之后的抚慰让边疆得以安定，大宋没有后顾之忧。太平兴国元年，宋太宗赵光义登基，郭守文奉诏随大将党进北伐北汉。在团柏谷一战，郭守文身先士卒，拼死向前，大获全胜，大败北汉军，再立军功。不久，秦州降附朝廷，新归降的秦州当地少数民族骚动不安，于是宋太宗命郭守文前往秦州抚谕。郭守文到职后，再施当年招抚简州众寇首之术，抚慰少数民族各部族酋长，晓之以情，动之以理，边民纷纷归附，骚动平息，边境得以安定。
北汉政权并没有在团柏谷一战中灭亡，而是在宋太宗举全国之兵讨伐的时候才灭亡。其中郭守文打击叛逃的刘继元和辽兵非常得力，屡建功勋。太平兴国四年，宋太宗倾国之力，讨伐北汉，志在一鼓荡平。当时郭守文与判四方馆事梁迥分别统率行营马步军。北汉皇帝刘继元投降后，其弟刘继文兵据代州，不听刘继元之命，投靠辽国，拒绝归宋。郭守文受命率兵出石岭关，挥戈北征，一战而大败刘继文，再战而兵克代州，雁门关之南尽归于宋。宋太宗见郭守文熟悉北土，善于野战，诏命他屯兵定州，戍守北陲。郭守文不辱军命，屯驻定州，与辽军激战于满城，大破辽军。郭守文以军功升任东上阁门使、兼任澶州刺史，不久又升调京师，任内客省使。
郭守文一路升迁，让朝廷看到了他的能力。在平定西北的战役中，颇有经验的郭守文采用强有力的手段，打怕了边疆诸族，为边境稳定起了重要作用。雍熙二年，诏令郭守文率兵屯守三交，不久加兼武州团练使。当时党项既不服辽国，又不服北宋，边地警报时起时息，西北边陲骚扰不断。郭守文到任后，率兵讨伐入侵诸夏部族，先打败夏州盐城镇岌罗腻等十四个部族联兵，杀敌数千人，俘获上万人，俘获牲畜数以万计。又打败咩嵬族兵众，把他们全部杀死。各少数民族部落非常恐惧，相继来降。使银州、夏州、麟州三州的一百二十五个部族、一万六千余户纷纷归附北宋，因此西北稍稍安定。
郭守文不仅是一位能征善战的将军，而且还能带领兵士和丁壮治理河水泛滥，无论在民生方面还是在军事方面都取得了一定的成绩。太平兴国三年六月，汴河在宁陵决口，郭守文率宋州、亳州丁壮四千余众，前去治理汴水决口的祸患。同年冬，他又与阁门副使王侁、西八作副使石全振监督在滑州灵河县堵塞黄河决堤的口子，取得了很好的效果。太平兴国八年五月，滑州房村黄河决口，黄水泛滥，淹没澶、濮、曹、济四州民田，毁坏官厅、民舍无数。朝廷调发士卒堵塞，命令郭守文全权负责此项工程。郭守文奉命治洪，率兵堵塞决口，挖掘河道，退却漫水，整治田渠，修筑衙舍，深受乡民拥戴、朝廷嘉赞。不久，辽国趁宋黄河决口之危，无暇顾及边事，就派兵南下，围困雄州。郭守文撤出河役，奉命率领数万禁军北上支援。辽军闻讯，解围北撤，待郭守文兵至，辽军早已逃走。
如此具有雄才大略的将官也遭遇过失败，即使负伤指挥战斗也没有挽回颓势。雍熙三年春，赵光义发动“雍熙北伐”。当时郭守文任幽州道行营前军水陆都监。激战中，郭守文策马前冲，被辽军流箭射中。为稳定军心，他神色不变，佯作无事，督战更急，军中将士都佩服他的胆量。此次伐辽之战，宋军先胜后败，损失惨重。郭守文因“违诏逗留退军”之过，被降职为右屯卫大将军。
郭守文有能力，有本事，一次兵败并不能完全被剥夺权力，不久就官复原职，与田钦祚一同任北面排阵使，驻军镇州，后来又改任宣徽南院使、镇州路都部署。他再次升任为北面行营都部署兼镇定、高阳关两路排阵使，一直充任国家北陲重要军职。同年冬，辽军乘秋膘马壮，易于北军作战之地利、天时，大举南侵。郭守文则防患于未然，以静制动，以逸待劳，在唐河一带重创辽军，使辽军战败北遁。