张骞，是汉中人，建元年间被选为郎官。当时天子向投降的匈奴人询问情况，都说匈奴将月氏王打败，用他的头颅当作饮酒的器皿，月氏人逃得很远，心中一直对匈奴非常怨恨，但是没有人和他们联合起来攻打匈奴。
当时汉朝正打算灭掉匈奴，听到了这些情况，就想派使者联系月氏人。但是，前往月氏必须要经过匈奴境内，于是朝廷就招募一位能够担当使者的人。张骞便以郎官的身份去应征，被派出使月氏，他和堂邑侯家的一个名叫甘父的匈奴奴隶一起从陇西出发了。
在路过匈奴境内的时候，他们被匈奴人抓住，送到了单于那里。单于将他们扣留，说道：“月氏在我的北面，汉朝怎么能派使者去呢？我想派人出使越池，汉朝能听任我这样做么
就这样张寡被匈奴扣留羁押了十多年，匈奴人给他娶妻，还生了儿子，但是张骞手握汉朝的节杖没有失去。在匈奴居留期间，匈奴对他的看管越来越松，张骞于是就抓住一个机会，带着随从逃往月氏。他们向西走了几十天，终于到了大宛。
大宛王早就听说过汉朝物产富饶，想要和汉朝来往但却一直没能如愿，因此他见了张骞很高兴，就问他说：“你要到哪里去？
张骞回答：“我作为汉朝的使者要出使月氏，却被匈奴人扣留。现在我逃了出来，希望大王您派人为我引路，送我去月氏。如果我能到那里，在返回汉朝之后，汉朝肯定会送给您数不胜数的财物。
大宛王表示赞同，就派人一路护送张骞前往康居，同时还安排了向导和翻译。
到达康居后，康居又辗转将张骞送到大月氏。当时大月氏王已经被匈奴所杀，他的太子被立为王。将大夏国征服以后，月氏人在那里定居下来，那里土地肥沃，物产丰富，又很少有贼寇，百姓安居乐业，大月氏王认为自己离汉朝太远了，所以没有一点想向匈奴复仇的意思。
张骞从月氏到大夏，没能掌握月氏的真正动向。张骞在月氏停留了一年多，然后回国。他沿着南山东行，打算从羌人地区穿过回到长安，但是又被匈奴人抓住。他又在匈奴滞留了一年多。
单于去世了，左谷蠡王出兵攻打单于的太子，自立为单于。匈奴发生了内乱，于是张骞带着自己的匈奴妻子还有堂邑父一同逃回了汉朝。汉朝任命张骞为太中大夫，堂邑父为奉使君。
张骞为人坚强有毅力，待人宽厚，让人信服，所以蛮夷人都喜欢他。堂邑父原本是胡人，擅长射箭，陷入困顿的时候就射些飞禽走兽充饥。当初，张骞出发的时候有一百多人，离开十三年，只有他和堂邑父两人回来。