追随刘备
关羽本字长生，后改字云长，早年因犯事逃离家乡至幽州涿郡。
中平元年(184年)，汉室宗亲刘备在涿县组织起了一支义勇军参与扑灭黄巾军的战争，关羽与张飞同在其中。刘备辗转担任许多官职后，投奔昔日同窗公孙瓒，被封为平原国相，任关羽、张飞为别部司马，分统部曲。三人情同兄弟，常一起同床而睡，当刘备坐下时，关、张二人更不辞辛劳随身守护。
兴平元年(194年)，曹操因曹嵩被杀而迁怒于陶谦，于是发兵攻打徐州。陶谦求救于刘备，刘备和关羽率千余人前往救援。曹操兵退后，陶谦表刘备为豫州刺史，关羽与刘备屯兵于小沛。而后在陶谦等人的再三相让下，刘备领徐州牧。
建安元年(196年)，刘备被袁术、吕布夹攻，丢失徐州，关羽便跟随刘备一起投奔曹操。后与曹操许田围猎时，关羽劝刘备杀掉曹操，但刘备此时认为当时的曹操是要匡扶汉室的，觉得杀了他可惜，于是不从。
建安三年(198年)，刘备与曹操共擒吕布于下邳，夺得徐州，关羽与刘备便跟随曹操班师回许昌，曹操任车胄为徐州刺史。后袁术北上投奔袁绍，刘备奉曹操命拦截袁术于徐州，刘备趁机袭杀车胄，命关羽守下邳、领徐州，刘备返回小沛。
阵斩颜良
建安五年(200年)，曹操派刘岱、王忠攻打刘备，却被刘备击败，曹操于是亲提大军出征，刘备败逃，关羽战败被生擒，不得已而投降，曹操待以厚礼，任命为偏将军。后袁绍派大将颜良、文丑、郭图等攻东郡太守刘延于白马，曹操亲自率军救援，并命张辽与关羽为前锋。关羽望见颜良的麾盖，策马冲锋，斩杀颜良于万军之中，枭首而归，袁军将领无人能挡，白马之围被解，关羽被封为汉寿亭侯。
当时，曹操为知道关羽有没有久留的心意，叫张辽用人情试探。关羽对张辽叹息道：“我知道曹公对我的厚爱，但我受刘备将军的厚恩，发誓共死，不可背弃。我终不会留下，在为曹公立下功劳后我便会离去。”张辽向曹操表明，曹操知道关羽会离去，反而重加赏赐，想要留住他，但关羽尽封曹操的赏赐，留书告辞，回到刘备身边。曹操左右欲追杀之，不过曹操认为各为其主而阻止。民间文化把这一段故事叫做“千里走单骑”。
镇守荆州
建安十三年(208年)，刘备投靠刘表，屯兵于新野。曹操率领大军南下，刘备南逃，另遣关羽乘数百艘船驶向江陵会合，但刘备于途中被曹操军追至，幸而关羽驶至汉津，一同乘船至夏口。
刘备联合孙权击败曹操后，曹操留曹仁等防守荆州，于是刘备又与孙权大将周瑜夹攻曹仁，命关羽绝北道断曹仁后路。待刘备取得荆南四郡(长沙、零陵、武陵、桂阳)，拜关羽为元勋，受封襄阳太守、荡寇将军，此时襄阳实为曹操势力范围，由乐进驻守，所以关羽驻于江北。 在此期间，关羽重修了江陵城。
建安十八年(213年)，刘备入蜀助刘璋防御张鲁，张飞、赵云、诸葛亮与关羽共守荆州。
建安十九年(214年)，刘备与刘璋决裂，在攻打雒城时，军师庞统中流矢身亡，刘备乃召张飞、赵云、诸葛亮入川支援，荆州只留关羽驻守。刘备平定蜀地后，以关羽董督荆州事， 授权掌管荆州地区刘备控制的部分，包括荆州南部四郡和从东吴借来的南郡治所江陵和附近的公安，关羽事实上镇守荆州五郡(南郡、长沙郡、零陵郡、武陵郡、桂阳郡)。
建安二十年(215年)，孙权知道刘备已夺得益州，希望取回荆州。刘备却说：“当得到凉州时，便会把荆州交还。”孙权对此十分怨恨，便派鲁肃索要荆州。孙刘两方的将领在阵前“单刀会”，据理相争但最终不欢而散。孙权命吕蒙准备进攻荆州南部，鲁肃将万余人马于益阳牵制关羽，刘备从益州带兵回援。时关羽号称有三万人马，自选五千精锐准备从上游渡河，吴将甘宁率领一千人前往驻守，关羽得知后就没有过河，在河对岸扎营，这个地方后来称为“关羽濑”。此时，曹操进取汉中的张鲁，刘备便迅速和孙权修和，协议平分荆州，即分荆州的江夏郡、长沙郡、桂阳郡属于孙权，分荆州的南郡、零陵郡、武陵郡属于刘备，这就是三国史上著名的湘水划界。
威震华夏
建安二十三年(218年)，太医令吉本，少府耿纪，司直韦晃等人谋反，但不久事情败露，几人被曹操所杀，曹操于是召曹仁为征南将军，讨伐关羽。曹仁屯樊期间，大肆征调徭役，南阳郡一带军民苦不堪言。宛城太守侯音与卫开于是劫持太守造反，与东里滚关羽联合。曹仁率军前往平乱，于次年正月攻破宛城，将侯音斩杀，并屠城。
建安二十四年(219年)，刘备军与曹操军相争汉中，魏将夏侯渊被刘备大将黄忠所斩，曹操亲提大军来争汉中，刘备据守，赵云又在汉水劫去粮草，曹操无奈只得退出汉中，刘备遂占据汉中。
同年七月，刘备自称汉中王，任命许靖为太傅，法正为尚书令，关羽为前将军，张飞为右将军，马超为左将军，黄忠为后将军，并派益州前部司马、犍为人费诗去关羽驻地授予关羽官印，关羽闻知黄忠地位和自己一样，愤怒地说：“大丈夫绝不能和老兵同列!”不肯接受任命。费诗对关羽说：“创立王业的人，所用的人不能都一样。以前萧何、曹参和汉高祖年幼时就关系很好，而陈平、韩信是后来的亡命之人;可排列地位，韩信位居最上，没有听说萧何、曹参对此有过怨恨。如今汉中王因为一时的功劳，尊崇黄忠，而在他心中的轻重，黄忠怎能和您相比呢!况且汉中王与您犹如一体，休戚相前，祸福与共。我认为您不应计较官号的高下，以及爵位和俸禄的多少。我仅是一个使者，奉命之人，您如果不接受任命，我就这样回去。只是我为您这样感到惋惜，恐怕您以后要后悔的。”关羽听了他的话以后，大为感动，醒悟过来，立即接受了任命。