在汉四年八月，项羽已经发现自己孤立无援，军粮极度匮乏了，韩信占领了齐国，伙同彭越经常进兵攻打项羽的粮道，彭城也被灌婴拿下。项羽自觉不支，对局势很恐惧。根据《史记·项羽本纪》记载，这时，刘邦先派陆贾去求和，项羽不听，又派一个叫侯公人去，项羽才答应了。双方约定以鸿沟为界，以西归刘邦，以东归项羽。为啥项羽支持不下去了，却是刘邦要主动求和呢?按照史书记载，原因很简单，项羽手上有刘邦需要的人，这就是吕太公和吕雉。在以前的战争岁月，刘邦曾两次去沛县接家里人，但只把儿女找到了，老爹和老婆都被项羽抓了。现在刘邦要把两人换回来。刘邦在自己取得巨大战略优势的情况下，愿意以鸿沟为分界线，和项羽平分天下。这也许再一次说明，刘邦其实是一个很看重家人、亲情的人。
从这个约定看，项羽独霸天下是不可能了。虽然表面上看，是刘邦主动找项羽的，但大家心里都清楚，实际上，是项羽签下了城下之盟。项羽和刘邦签完约，把刘太公和吕雉还给刘邦，他就撤兵了。虽然他撤兵了，但也没逃过刘邦的追杀。在张良的怂恿下，刘邦率领大军，尾随项羽而来。汉六年(公元前202年)十月，项羽沿着鸿沟向荥阳的东南方向撤军。这时候，彭城已经被刘邦的部队占领，他不可能再向东回彭城了，只能向着江东的方向奔命。
当到达阳夏这个地方，项羽的大军被汉军追上。在《樊哙列传》中，记载了“虏楚周将军卒四千人”，汉军取得了一个小胜利。楚军继续南撤，到达固陵后，楚军反击，汉军则被打得大败。按照史书记载，刘邦被打败的原因是，韩信和彭越的援兵没有到达。当然，更可能的原因是，楚军急了，搞了一个绝地反击。
汉军无法打败楚军，没办法，只能筑起高垒，和楚军对峙。这时候，张良对刘邦说，“就这么对峙也不是办法，你应该赶快给韩信和彭越分封土地，让他们死心塌地地和你一起打项羽”。当时，彭越名义上还是魏国的国相，韩信虽然是齐王了，但以前我们说了，韩信这个齐王的封地还没有确定。为了让这两个大佬出兵帮助自己，刘邦封彭越为梁王，并明确了他们的封地。
韩信和彭越这两人看到真实的好处送上门了。大概是因为他们缺乏可以用来造反的基本团队，所控制的嫡系也不多。此时，项羽败势已现，以前还希望用项羽牵制刘邦的可能性不存在了。如果这时候，不跟着刘邦与其看着刘邦灭掉项羽，刘邦打败项羽，必然不会放过他们，想到此，这两人接到封王的文书后，马上带兵，前来支援刘邦。
之后，项羽的楚军继续向南到达陈县，也就是今天河南省淮阳县。在这里，刘邦汇集各路大军，进攻项羽。具体地点，史书说是在陈下，也就是陈县城墙以外。按常理推断，应该是在陈县以东，因为鸿沟是在陈县的以东，项羽是沿着鸿沟以东南下的。
垓下之战拉开序幕。可是，至今，我们对这么著名的战役，究竟发生在哪里，却众说纷纭。
《高祖本纪》、《项羽本纪》、《淮阴侯列传》、《黥布列传》、《彭越列传》均是是在垓下会攻项羽。可是，根据《靳歙列传》的记载是，“还击项籍陈下，破之”。《樊哙列传》记载，“围籍于陈，大破之。屠胡陵”。《滕公列传》记载，“复常奉车从击项籍，追至陈，卒定楚”。《灌婴列传》记载，“从击项籍军于陈下”。对这些一线的战将记载，从未提到过垓下这个地方。
按照传统的看法是，垓下在安徽省灵璧县境内。既然如此，那么有一种说法就是，当各路人马会攻项羽的时候，打了两次大战，第一次是陈下之战，最后的决定性战役是垓下之战。这么说，表面上是可以讲的通的，但如果细分析，却好像也说不过去。
第一原因是，刘邦等统帅级人物不可能和一线作战将领分别打两次战役。既然说打了两次大战，为什么在在刘邦、项羽、韩信、黥布、彭越的列传中都未提到“陈下”，难道说，在陈下和项羽作战的仅仅是樊哙、靳歙、夏侯婴等将领么?刘邦、韩信等统帅们都没来么?显然，说在陈下之战中，没有统帅，只有将领，是完全讲不通的。更何况，《史记》记载中级将领的作战，很多都是从战功簿上摘抄的，可信度可能更高一些。
第二原因是，项羽很难突破在陈下的汉军包围圈。学者辛德勇认为，当时项羽实际上已经被汉军包围在了陈县附近。英布以前被项羽封为九江王，后来叛变，投靠刘邦。早在汉四年七月，刘邦立英布为淮南王，之后，英布利用自己在九江国的旧势力，一直在搞一些策反和瓦解工作。汉六年十一月，刘贾渡过淮河，围困了寿春，派人诱降了在那里镇守的楚国大司马周殷，英布大概同时也来到这里，周殷带着英布原来的部署，和英布、刘贾北上围攻项羽，在路上屠灭了城父(在今天涡阳县以北)。这么看，从地图上看，项羽如果从陈下之战结束后，向西南跑到灵璧县的垓下，要经过城父这个地方。显然，这里已经是汉军的地盘，如果从这里经过，应该有人阻击，但《史记》里并没有记载在这条路上发生过阻击战。也就是说，项羽很难从陈下这个地方率领大军撤出了。
如果项羽率领小部队从这里杀出去还是有可能的，毕竟人少，汉军即使想阻击，也不容易找到他们的行军路线。可是带领10万之众，向西南撤军，不发生激战是很说得通的。因此，也许所谓的陈下之战就是垓下之战了，或许可以理解，垓下就是在陈县附近一个不知名的小地方。