征讨袁术的战事结束后，吕布在一次围猎的过程中偶然抓获了刘备的使者，并从使者身上搜出了刘备与曹操密谋消灭自己的信件。吕布大怒，命高顺和张辽围攻小沛，自己领兵再后接应。
高顺与张辽所部进至小沛城外后，随即向该城发动进攻。刘备命关羽镇守西门，而此处正是张辽的攻击区域。关羽在城头质疑张辽为何会替吕布这样的奸贼卖命，张辽低头不语，随即率部离开西门转向东门。镇守东门的张飞打算出战，被关羽制止。关羽认为张辽武艺并不在自己与张飞之下，且颇有悔恨之心，不应该与之交战。张飞心领神会，下令只准坚守城池，不得出城与张辽交战。
没过多久，曹操得到吕布出兵围攻小沛的消息，便派夏侯惇、夏侯渊等将率领五万兵马前去增援。吕布则命高顺、侯成及曹性等将领迎战。在双方首次的较量中，高顺出马与夏侯惇大战了四、五十个回合，高顺不敌，败下阵来。就在夏侯惇拍马追赶之际，曹性突施冷箭，射中夏侯惇的左眼。夏侯惇拔矢啖睛，将曹性刺死。但高顺率部掩杀，将夏侯惇杀得大败。
不久后，吕布亲自率兵前来，向小沛发动猛攻。关羽、张飞不敌，只得与刘备一起弃城而逃，刘备的家眷也因此再度被吕布俘获。麋芳面见吕布，请求吕布放过刘备的家小。吕布一口应允，命人将麋芳及刘备家眷带到徐州妥善安置。
小说中提到的这段吕布将刘备赶出徐州之战，在历史上的确发生过，但起因并非是因为刘备写给曹操的密信被吕布截获，而是刘备自己的过分举动而引发的。据《三国志先主传》载，此战的起因有两个，一是刘备在小沛大肆招兵买马，部众人数达到一万多人，引起吕布的忌惮。二是吕布打算前往河内购买战马的资金被刘备所抢。这两个举动足以说明刘备早就有赶走吕布、夺回徐州的打算。吕布出兵将刘备赶出徐州，自然也在情理之中。
至于小说中提到的夏侯惇在增援刘备时被射中左目的故事情节，在历史上也确有其事，但罪魁祸首却并非是吕布的部将曹性。据《三国志先主传》载：“布遣高顺攻之，曹公遣夏侯惇往，不能救，为顺所败。”《三国志夏侯惇传》亦称：“太祖自徐州还，惇从征吕布，为流矢所中，伤左目。”从这两段记载来看，曹性射中夏侯惇仅仅是小说作者的虚构，真正的凶手应该是高顺的部将。也很有可能是这个原因，才导致了吕布集团覆灭后高顺的被杀。
在小说描述的这段故事情节中，还有一个小细节值得注意，那便是关羽对张辽的评价。小说中提到，关羽对张飞说过“此人武艺不在你我之下”这样的一句话，就说明在关羽的眼中，张辽的武艺与自己和张飞属于同一个档次。
事实是否真的如关羽所言呢?从《三国演义》中张辽的战绩来看，所言非虚。在小说当中，张辽曾有过多次的单挑记录。面对江东头号猛将太史慈，张辽曾与之大战七、八十个回合不分胜负;面对江东仅次于孙策、太史慈的凌统，张辽也曾与之单挑五十个回合，要不是孙权发现不对，及时派吕蒙接应，凌统难逃失败的下场。另外，在与另外一位名将张郃较量时，张辽也力保不败。
在小说当中，张辽唯一的一次失利便是在官渡之战期间输给了文丑。不过，此次失利并非张辽的武艺不济，而是被文丑射中战马。以这个战绩来看，作为”五子良将”的一员，张辽足以与关羽、张飞的武艺持平，可排名小说武艺前十名之列。