元狩元年(前122)五月，匈奴在东翼战场向汉军发动进攻，万余铁骑入侵上谷。第二年春三月，汉武帝下达了出击命令，在西线开辟了新战场，并未派汉军从上谷出击。汉武帝起用霍去病为骠骑将军，率领汉家万余骑铁军跃出陇西，宛如矫健的游龙，沿着岩石裸露、砾石堆积的祁连山峡谷迅速向西北挺进，长途奔袭。
一路上翻越了险峻的乌戾山，跨过了奔腾的狐奴水，转战六日，厉兵匈奴五部，势不可当，差一点儿活捉了单于的儿子。
按照汉武帝的精心谋划，汉军采取了声东击西的战术，突然挥戈北上，甩开了匈奴右贤王的主力，越过焉支山(甘肃永昌县西，山丹县东南),挺进一千余里，直插匈奴休屠王领地之腹心，在皋兰山(甘肃兰州市南)下同匈奴展开恶战。鼙鼓咚咚，矢镝乱鸣，血雨横飞。汉军轨杀匈奴折兰和卢侯两个部落的首领，活捉了浑邪王的儿子以及相国、都尉，杀死匈奴人众八千九百六十人，还缴获了休屠王祭天用的金人。这在精神上对匈奴也是沉重的打击。汉军虽然战果辉煌，损失也很惨重，班师还朝的只有千余人，与匈奴伤亡相差无几。尽管如此，汉武帝对自己的亲戚仍然褒扬有加，增封霍去病二千二百二十户。将休屠王的金人像陈列在甘泉宫，作为胜利的纪念。