公元34年十月，来歙攻陷落门，隗嚣余党周宗、行巡、苟宇、赵恢等全部投降。
隗嚣失败后，五溪、先零等各部的羌人部落蠢蠢欲动，屡次犯边，边境州郡无力征讨。于是来歙又开始大规模备战，讨伐羌人。公元34年，羌人部落侵犯金城、陇西。来歙率领盖延、刘尚和太中大夫马援等进攻羌人，大败之，杀死、俘虏几千人，缴获牛羊一万多头，谷物几十万斛。接着他又打败襄武流贼傅栗卿等。陇西虽然平定了，但百姓饥荒，于是来歙开仓放粮，运送各县来救济百姓，陇右地区于是安定下来，与凉州的交通也畅通了。
(三)遇刺身亡
公元35年夏天，先零羌人部落又侵犯临洮，来歙举荐马援为陇西太守讨伐之，马援率军大败先零羌人。
与此同时，来歙和盖延、马成率军攻打公孙述部将王元和环安据守的河池和下辨两城，大败敌军。然后他率领汉军乘胜前进，直捣西蜀小朝廷，西蜀陷入恐慌之中，于是公孙述便暗中派刺客行刺来歙。
来歙在一天夜里不幸被刺客刺中。刺刀扎进来歙胸腹处，因扎得较深，刺客急于逃跑，仓皇之中，没有拔出刺刀。此刻的来歙没有兴师动众地派人追杀刺客，也没有实施自救措施，而是忍着剧痛，紧急派人召来虎牙将军盖延。盖延到来时看到来歙胸前插着刺刀，大惊失色，不忍视之，乃伏地哀痛。来歙看到盖延的样子，斥责他说：“虎牙，你怎么这个样子!现在我被敌人刺杀，再不能报效国家了，所以叫你来，是要把军中要事托付给你，你反而学小儿女那样，有什么好哭的!给我起来，不然我让人杀了你!”
盖延收住眼泪，勉强起身接受来歙的遗嘱。来歙把战事嘱托给他之后，又亲自给皇帝写了奏章：“我在深夜时，被人刺中要害。我不敢顾惜自己，深恨没有尽到职责，辜负皇恩，让朝廷蒙受耻辱。治理国家能重用贤人才是根本，太中大夫段襄，正直而刚强，可以大用，望陛下裁决明察。”来歙写完奏章，便丢下手中之笔，拔出胸前的刀子，气绝而亡。(歙自书表，曰：“臣不敢自惜，诚恨奉职不称，以为朝廷羞。夫理国以得贤为本，太中大夫段襄，骨鲠可任，愿陛下裁察。”投笔抽刃而绝)。
光武帝刘秀听到来歙不幸去世的消息后，极为震惊。他看着来歙的绝笔，泪奔如飞。看完后他擦干泪水，说：“来爱卿为大汉江山征战多年，平定羌、陇，爱国忘家，忠孝显著。今遭遇不测被人杀害，朕甚是痛心!”于是派太中大夫追赠来歙为中郎将，赐给征羌侯官印，谥号节侯。来歙遗体被送回洛阳，光武帝穿着孝服亲自送葬。因为来歙有平定羌、陇的功劳，所以改汝南的当乡县为征羌国。
范晔在《后汉书》给来歙以高度评价：“世称来君叔天下信士。而能独以信称者，良其诚心在乎使两义俱安，而己不私其功也。”
来歙做为一名将军，在生命垂危之际想到的不是自己的安慰，而是为国家的前程着想，确属忠义之士!东汉王朝能开创光武中兴，跟这样的忠良将的支持是分不开的。