郭淮，字伯济，是太原阳曲人。根据《郭氏谱》记载：郭淮的祖父郭全，曾担任大司农；他的父亲郭缊，曾任雁门太守。建安年间，郭淮被推举为孝廉，随后被任命为平原府丞。曹丕担任五官将时，召郭淮担任门下贼曹，后又转任丞相兵曹议令史，跟随曹操征讨汉中。曹操返回后，留下征西将军夏侯渊抵御刘备，并任命郭淮为夏侯渊的司马。夏侯渊与刘备交战时，郭淮因病没有出战。夏侯渊战死后，军中一片混乱，郭淮收拾散兵游勇，推举荡寇将军张合为军主，各营这才安定下来。
第二天，刘备准备渡过汉水发动进攻。众将都认为敌众我寡，刘备又乘胜追击，打算依水布阵来抵御刘备。郭淮说：“这样做只能显示我们的弱小，而无法挫败敌人，这不是好的计策。不如远离汉水布阵，引诱敌人渡河，等他们渡到一半时再发动攻击，这样可以打败刘备。”于是郭淮布下阵势，刘备见状怀疑他不会渡河，郭淮于是坚守阵地，表明没有撤退之意。郭淮将情况上报，曹操非常赞赏，授予张合符节，又任命郭淮为司马。曹丕即王位后，赐给郭淮关内侯的爵位，又转任镇西长史。郭淮还兼任征羌护军，协助左将军张合、冠军将军杨秋讨伐山贼郑甘和卢水叛胡，全部平定了叛乱。关中地区开始安定，百姓得以安居乐业。
黄初元年，郭淮奉命去祝贺曹丕即位，但在路上得了病，因此耽误了行程。等到群臣聚会庆贺时，曹丕严肃地责备他说：“从前大禹在涂山会见诸侯，防风氏迟到，就被处死了。今天普天同庆，而你却最晚到，这是为什么呢？”郭淮回答说：“我听说五帝先教导百姓用道德，夏朝政治衰败后，才开始使用刑法。现在我生活在唐尧、虞舜的时代，所以我知道自己不会像防风氏那样被杀。”
曹丕听了很高兴，提拔他兼任雍州刺史，封他为射阳亭侯，五年后正式任命他为雍州刺史。安定的羌族大帅辟反叛，郭淮讨伐并打败了他，使他投降。每当有羌人、胡人来投降，郭淮总是先派人打听他们的亲属关系，男女老少的人数，年龄大小等情况。等到见面时，他能一一了解他们的情况，详细询问，大家都称赞他像神明一样。
太和二年，蜀国丞相诸葛亮出兵祁山，派遣将军马谡到街亭，高详驻扎在列柳城。张合攻击马谡，郭淮攻打高详的营地，都取得了胜利。郭淮又在罕打败了陇西的名羌唐，被加封为建威将军。五年，蜀军出兵卤城。当时，陇右没有粮食，大家商议从关中大规模运输粮食。郭淮用威信安抚羌人、胡人，让他们每家都出粮食，公平地征收粮食，军粮足够使用，郭淮被调任为扬武将军。
青龙二年，诸葛亮出兵斜谷，在兰坑种田。当时司马懿驻扎在渭南。郭淮推测诸葛亮一定会争夺北原，应该先占据那里，但商议的人都不这样认为。郭淮说：“如果诸葛亮跨过渭河登上北原，连接北山的兵力，隔绝陇道，动摇百姓和少数民族，这对我们国家是不利的。”司马懿很赞同他的看法，郭淮于是驻扎在北原。战壕还没修好，蜀军就大举进攻，郭淮迎头痛击。几天后，诸葛亮大举向西进军，众将都认为他要攻打西围，只有郭淮认为这是诸葛亮故意在西边显示力量，想让我们重兵应对，他一定会攻打阳遂。当天晚上，蜀军果然攻打阳遂，但郭淮早有防备，蜀军无法得逞。
正始元年，蜀国将领姜维出兵陇西。郭淮于是率军前进，追击到强中，姜维退兵后，郭淮讨伐羌族的迷当等人，安抚了三千多柔然部落，把他们迁徙到关中充实人口。郭淮被升任为左将军。凉州的休屠胡人梁元碧等人，率领二千多家族人归附雍州。郭淮上奏请求让他们居住在安定的高平，作为百姓的保障，后来因此设置了西州都尉。郭淮转任前将军，仍然兼任雍州刺史。
郭淮在正始五年的时候，跟随夏侯玄讨伐蜀国，担任前锋。郭淮分析形势后，认为情况对自己不利，果断地撤军，因此避免了重大失败。回来后，朝廷授予他符节。
八年，陇西、南安、金城、西平等地的羌族部落饿何、烧戈、伐同、蛾遮塞等联合起来叛乱，他们围攻城池，还向蜀军求援。凉州的着名胡人治无戴也反叛并响应他们。讨蜀护军夏侯霸率领各军驻扎在为翅。郭淮的军队刚到狄道时，大家都认为应该先讨伐并平定罕，对内平息叛乱的羌人，对外挫败敌人的阴谋。但郭淮推测姜维一定会来进攻夏侯霸，于是他率军进入沨中，然后向南接应夏侯霸。
姜维果然进攻为翅，正好郭淮的军队赶到，姜维被迫撤退。郭淮乘胜追击叛乱的羌人，斩杀了饿何、烧戈，有超过一万部落投降。九年，蛾遮塞等人驻扎在河关、白土旧城，凭借黄河阻挡官军。郭淮在上游虚张声势，却秘密地在下游渡河，占据白土城，发动攻击，大获全胜。治无戴围攻武威，他的家属留在西海。郭淮率军直奔西海，打算趁机俘虏他的家属，但治无戴得知后折返回来，双方在龙夷以北交战，治无戴被打败并逃走。令居的恶贼在石头山西边，占据大道，切断了朝廷使者往来。郭淮在返回途中讨伐了他们，大获全胜。
姜维从石营出发，经过强川，向西去接应治无戴，他留下阴平太守廖化在成重山修筑城池，聚集羌人作为人质。郭淮打算分兵攻打他们。众将认为姜维的军队向西和强大的胡人联合，廖化据守险要地势，如果分兵两路作战，兵力就会减弱，进攻不能制服姜维，撤退又不能攻克廖化，这不是好办法。不如合兵一路向西，趁胡人和蜀军还没有联合，切断他们之间的联系，这是打击敌人联合的策略。
但郭淮说：“现在去攻打廖化，出其不意，姜维一定会惊慌失措。等姜维赶来救援时，我们已经足以攻克廖化了。而且能让姜维疲于奔命。我们的兵力不用远征西方，胡人和蜀军的联合就会自行瓦解，这是一举两得的策略。”于是，郭淮派夏侯霸等人到沓中追击姜维，自己率领各军去攻打廖化。姜维果然急忙回援廖化，一切都在郭淮的预料之中。郭淮因此被进封为都乡侯。
嘉平元年，郭淮升任征西将军，统管雍州、凉州的军事。这一年，他和雍州刺史陈泰合作，使蜀国牙门将句安等人在翅上投降。嘉平二年，皇帝下诏说：“从前汉川之战，差点全军覆没。郭淮在危急时刻挺身而出，挽救了危局，他的功绩记录在王府中。他在关右三十多年，对外征讨敌人，对内安抚百姓和少数民族。近年来，他打败了廖化，俘虏了句安，功绩显着，我非常赞赏他。现在任命郭淮为车骑将军、仪同三司，符节和统管的职务仍然保留。”郭淮被进封为阳曲侯，食邑总共二千七百八十户，他分出三百户，封一个儿子为亭侯。
据《世语》记载：郭淮的妻子是王凌的妹妹。王凌被杀后，他的妹妹也应当受到牵连。御史前往逮捕她，郭淮手下的将领以及羌、胡的首领几千人都叩头请求郭淮上表留下他的妻子，但郭淮没有答应。他的妻子上路时，没有人不流泪，大家都握紧拳头，想要劫持留下她。郭淮的五个儿子也磕头流血请求父亲，郭淮不忍心看，就命令手下追赶他的妻子。于是有几千骑兵追赶，几天后她就回来了。郭淮写信给司马懿说：“我的五个儿子思念母亲，不惜自己的生命。如果没有母亲，就没有五个儿子；没有五个儿子，也就没有我郭淮。现在我擅自把她追了回来，如果按法律说不通，我愿意接受主管部门的处罚，希望您能宽恕。”信送到后，司马懿也宽恕了他。
正元二年，郭淮去世，被追赠为大将军，谥号为贞侯。他的儿子郭统继承了他的爵位。郭统官至荆州刺史，去世后，他的儿子郭正继承了爵位。咸熙年间，开始建立五等爵位，因为郭淮在前朝建立了功勋，他的后代被改封为汾阳子。
据《晋诸公赞》记载：郭淮的弟弟郭配，字仲南，很有名望，官至城阳太守。裴秀、贾充都是郭配的女婿。他的儿子郭展，字泰舒，有气度和才干，历任官职都有政绩，最后官至太仆。他的另一个弟弟郭豫，字泰宁，是相国参军，很有名，但早逝。他的女儿嫁给了王衍。郭配的弟弟郭镇，字季南，官至谒者仆射。郭镇的儿子郭奕，字泰业。山涛在奏折中称赞郭奕高雅简朴，有高尚的气量，历任官职，最后官至雍州刺史、尚书。
评价说：满宠立志刚毅，勇敢又有谋略。田豫为人清白，谋略清晰熟练。牵招秉持正义，英勇壮烈，威绩显着。郭淮的谋略精细周详，影响了秦州、雍州。然而田豫的职位只在小州，牵招最终只是郡守，都没有充分发挥他们的才能。