元狩二年春，以冠军侯去病为骠骑将军，将万骑出陇西……转战六日，过焉支山千有余里，合短兵，杀折兰王，斩卢胡王，诛全甲，执浑邪王子及相国、都尉，首虏八千余级，收休屠祭天金人。
——《史记·卫将军骠骑列传》
当初，张骞从西域归来，向汉武帝详细介绍了西域各国的风土民情，他说道，“大宛国位于大汉正西方约一万里处，当地城郭、房屋与中原相似，百姓也以耕作为生，且多产好马，马汗像血一样鲜红。大宛国东北为乌孙国，其东为于阗国，于阗以西，河水向西流入西海，以东的河水则流入盐泽，盐泽一带的河流都是在地下流淌的暗河，往南便是黄河源头。盐泽距离长安约五千里，匈奴的西界便在盐泽东部，直到陇西长城，南面与羌人部落接壤，将我国通往西域的道路完全隔断。
乌孙、康居、奄蔡、大月氏都是游牧国家，随牲畜逐水草而居，风俗与匈奴一样，大夏国在大宛西南方，其风俗与大宛相同。我在大夏时，曾见到蜀地出产的邛竹和蜀布，我问当地人这些是从何而来，他们说是商人自身毒国购买来的。身毒国在大夏东南约几千里的地方，风俗与大夏国类似。
因此，臣估计，既然大夏在我国西南一万两千里的地方，而身毒国又在大夏东南几千里以外，况且还有我国蜀地所产的物品，说明身毒国距离蜀地不算太远。如今我出使大夏，如取道羌人地区，不仅道路险阻，羌人又依附于匈奴，十分危险；可是如果从稍北一些地区走，便又会落入匈奴手中；而如果能够通过蜀地前往身毒国，道路应该好走很多，而且不会太过危险。”
汉武帝听说大宛、大夏、安息等都是大国，多产奇异之物，人民定居，与大汉极为相似，但军事力量却很薄弱，且喜爱汉朝财物；大月氏、康居等国兵力虽强，但却可以通过贿赂、引诱的方法让他们归附，如果能够不通过战争便能使其归附，那么汉朝疆域何止扩大万里。
因此，汉武帝欣然同意了张骞的建议，命张骞从蜀郡、键为郡出发，以王然于等人作为向导，分别从冉、徙、邛、僰四地出发，兵分四路寻找通往身毒国的道路。然而，各路使者分别走出一两千里便无法继续前进，北路被阻于氐、莋，南路则被阻于巂、昆明。尤其是昆明地区，由于此地没有政权，盗匪极其众多，经常劫杀汉朝使者，以致始终无人能够通过其地。
此外，滇国和夜郎虽有政权，但由于与汉朝的道路阻塞，他们各自称霸地方，根本不知道汉朝的强大，以至于见到汉朝使者后，竟然提出了“汉朝与我国相比，谁更强大”的疑问。
各路使者回国后，向汉武帝汇报了寻路结果，其中南路使者表示滇国乃是大国，朝廷应当争取使其归附，于是汉武帝重新开始经营西南夷地区，命人继续修建西南夷道。不过，由于南方丘陵众多、道路险阻，汉武帝也明白，想要打通南部道路并非一日之功。
与此同时，经过河南地和漠南的数次大战之后，汉朝北部威胁大减，西域匈奴便成为了摆在汉朝眼前的最大威胁，而随着单于庭和右贤王的北迁，右贤王逐渐失去对河西诸王的控制，让汉武帝看到了消灭西域匈奴势力，通过打通西域走廊，沟通中亚大宛、大夏、安息等国的希望。
汉武帝分析后认为，要消灭西域的匈奴势力，关键之处便在于打通河西走廊，只有这样才能切断匈奴与西域各国以及西羌各部的联系，打通汉朝与西域诸国之间的沟通通道，为彻底清除西域匈奴势力，以及汉朝国土向西扩张扫清障碍。
为此，在瓦解了国内淮南王刘安、衡山王刘赐和江都王刘建的叛乱，重新稳固了朝廷统治之后，汉武帝开始着手攻打盘踞在河西的匈奴部落。
彼时，匈奴在河西走廊的总人口约有五十多万，控弦十万左右，主要划分为两大势力，即位于河西走廊东部、贴近汉朝的休屠王，以及位于河西走廊西部的浑邪王，两王又各自节制着二十多个部落。休屠王控制着狐奴水（今石羊河）流域，浑邪王则控制着弱水（今黑河-额济纳河）流域，两王各有部众约五万，可用之兵约一万骑。其他匈奴各部则盘踞于河西走廊各条河谷，部众多少各不相同。
右贤王北迁之后，对于休屠王和浑邪王控制力急速下降，伊稚斜单于则顺势将触手伸向河西，意图拉拢控制河西诸部，为此不惜将用于祭祀的祭天金人都交给了休屠王保管。
元狩二年（前121年）春，汉武帝任命霍去病为骠骑将军，命其率领一万骑兵西征。由于这是霍去病第一次独立领军出征，为了确保取胜，汉武帝下诏命霍去病入京面授机宜。
霍去病入京途中，在途径河东郡时，河东太守将霍去病迎到平阳侯国的传舍，然后又派人请来霍仲孺，在他的安排下，自幼便不知道生父是谁的霍去病，这才得以与父亲相认。由于身负皇命，霍去病虽然刚刚才与父亲相认，但也只能在替父亲购买了大量田产房屋和奴婢后匆匆离去，并与父亲约定，待自己凯旋之后再来相见。
在接受了汉武帝的言传身教后，霍去病率兵前往陇西郡，然后自陇西出发，沿狄道向北，顺着洮河进入黄河干流，再由此向东进发，来到黄河岸边。
为了攻打河西走廊，汉武帝早在一年前便派大行李息向东寻找适合大军渡过黄河的渡口，李息沿河一路寻找，最终在黄土高原西端，与青藏高原、内蒙古高原的交汇处，一片水流较为平缓的河谷地带（今兰州西固）停了下来。这里群山环绕、河流平缓，非常适合修筑渡口和军事要塞，李息选定地址后立即上奏汉武帝，汉武帝则从内地征调工匠、士兵，于此修建了一座大型军事要塞和军队渡口，这便是金城要塞。
霍去病率兵抵达金城要塞后，于此渡过黄河，然后再逆黄河西进数十里，接着又沿乌亭逆水（今庄浪河）北上，逐渐悄然接近河西走廊。
到了这里，摆在霍去病面前的有两条路，要么沿河谷一路转向西北，寻找低矮处翻越乌鞘岭，便可直入河西走廊，这条路虽然险峻，但却路程最短，且极为出其不意；要么在抵达乌鞘岭南麓后转向东北，绕过乌鞘岭后再转向西北，自东南方向进入河西走廊，这条路虽然不必翻山越岭，但不仅路途遥远，而且途中还要经过腾格里沙漠南部，更为要命的是，这个方向乃是河西匈奴防御汉军的重点区域，极容易引起匈奴各部的警觉。
极善于长途奔袭的霍去病，自然不会给匈奴人充足的准备时间，他毅然决然的选择了抄近道，打匈奴一个措手不及。
汉军一路沿河谷行进，在穿过乌亭逆水上游的一处山谷后，向北翻越乌鞘岭，便来到了狐奴水（今石羊河）支流松陕水（今古浪河）的源头，而游牧于松陕水流域的匈奴遫濮部，便不幸成为了霍去病进入河西走廊后的第一个打击对象。
翻越乌鞘岭之后，霍去病一面命大军沿河休整，一面派出大量侦骑搜寻附近的匈奴部落，不久便有侦骑回报，发现了仍忙于放牧的遫濮部。
霍去病二话不说，立即整军备战，率领如虎狼一般的汉军骑兵扑向了毫无准备的遫濮部。
遫濮部只是一个中等部落，部众总共也不过万余，虽然他们游牧的地区位于河西走廊东部，距离汉朝边境地区不远，但此地别说汉朝军队了，就连汉人都难得一见，他们哪里知道会有一支汉朝大军已经悄然杀到，立时便被打了个措手不及。
毫无准备的遫濮王面对杀气腾腾的汉军，仅一个照面便被汉军击溃，片刻之后整个部落便再无抵抗能力，遫濮王亦被汉军斩杀，部众四散而逃。
霍去病也不去管那些逃走的匈奴部众，对于那些投降的部众也都予以赦免，只是将遫濮部搜刮了一番作为物资补充，然后便继续率军沿着祁连山脉北麓西进，侦骑四出，不断搜寻沿途的匈奴部落。
不久，他们便又在杂木河流域找到了游牧于此的且末部。相较于遫濮部，且末部可就弱小了很多，面对汉朝大军根本生不起丝毫抵抗心思，其部众便立即四散而逃，霍去病同样不过分追击，与对待遫濮部一样搜刮一番后，便率领军队继续向西挺进。得知汉军逼近，沿途的当阗部等匈奴部落，自知不敌的他们纷纷遣散部众以躲避战火。
霍去病一路领军西进，不久遇到了实力较为强劲的屠各部，屠各部是休屠王之子统领的部落，得知汉军杀到之后，休屠王之子立即整顿兵马前来迎战。虽然屠各部势力较强，但由于正值初春牛羊骏马繁衍的关键时期，休屠王之子仓促之间也不过调动了千余兵马，双方一场大战，屠各部惨败，差点被擒的休屠王之子心惊胆战之余，甚至都不敢返回部落，便连忙率领残部向北逃往了休屠王城。
盘踞于狐奴水上游休屠王城的休屠王，从逃至此处的部众口中得知汉朝大军杀到后，尤其是在听到那些逃亡者夸张的描述后大惊失色，连忙整军备战，以防止汉军进攻自己的王城。
由于沿途逃散的匈奴部众太多，霍去病预料休屠王恐怕已经从这些人口中，得知了自己率领汉军杀至河西的消息，必然早有防备。既然休屠王极可能已经做好了迎战的准备，长途奔袭的霍去病又岂会再去与对方面对面展开决战，毕竟河西走廊还是匈奴人的地盘，一旦被休屠王缠住，等到匈奴各部反应过来纷纷来援，奇袭岂不是变成了孤军深入？
霍去病既然选择了长途奔袭，自然打的就是一个出其不意攻其不备，因此他并未沿狐奴水北上与休屠王决战，而是将攻击重点放在了更靠西部的浑邪王身上。
为此，霍去病率兵渡过狐奴水，继而向西翻过焉支山，直接杀到了浑邪王的势力范围。
浑邪王麾下诸部，虽然没料到汉军会越过休屠王直接杀奔自己而来，但经过逃散而来的其他各部民众示警之后，却已经有所准备，因此当霍去病率兵翻越焉支山后，附近的折兰、卢侯等部落立即便得知了消息，自知不是对手的折兰王和卢侯王，随即率领本部兵马向西逃到了浑邪王城。
由于霍去病率领的汉军一路轻装上阵，行军速度极快，以至于匈奴各部始终无法组织起有效的抵抗，浑邪王同样如此。不过，虽然来不及调集大军，但浑邪王毕竟自身实力强劲，在整顿了本部兵马，又汇集了折兰、卢侯等部兵马之后，自认已经拥有了一战之力，遂亲自领兵前往迎战霍去病。
统率汉军扑向浑邪王本部的霍去病，途中便与浑邪王所率的匈奴大军遭遇，双方立即展开决战。然而，浑邪王还是有些轻敌了，这支孤军深入的汉军面对匈奴大军，不仅毫不怯阵，反而在破釜沉舟的情况下爆发出了极强的战斗力，一番激烈的厮杀过后，浑邪王的大军惨败，就连折兰王、卢侯王也都被阵斩，浑邪王则大败逃走，浑邪王之子连同其相国、都尉等大量贵族则纷纷被俘。击败浑邪王之后，孤军深入的霍去病不敢久持，在短暂休整之后，立即率领兵马东返。
就在霍去病已经率兵东撤之际，休屠王却仍在休屠王城等待着汉军的到来，直到有逃散的部众前来报告，他这才知道了霍去病越过焉支山，已经击败浑邪王并率兵东撤的消息。
一直以来，汉匈交战，都是汉军被匈奴人牵着鼻子走，匈奴人何尝被如此玩弄过，得知消息的休屠王大怒，立即整顿兵马追击而来，发誓要将霍去病率领的这支汉军歼灭在河西地区。
霍去病自出兵以来，正是凭借着轻兵急进，这才赶在匈奴各部有所准备前屡屡得手，然而撤军途中，由于军中有大量匈奴俘虏，严重拖慢了行军速度，最终还是在皋兰山下被休屠王所追上，双方随之爆发大战。
历经连番大战，早已疲惫不堪的汉军，实在难以抵御休屠王的进攻，幸好李息得知消息及时率军赶到，这才在一番血战后杀退了休屠王，甚至连休屠部祭天的金人都被汉军所缴获，不过汉军损失同样极为惨重，霍去病所部十损其七。
此战，霍去病在六天之内率领汉军长途奔袭上千里，连破河西匈奴五部，斩敌八千九百六十级，虽说自身损失同样极大，但这等彪悍的战绩，仍然让汉朝上下啧啧称奇，凭借此战之功，霍去病得以加封食邑两千两百户。