前56年，由于握衍朐鞮单于不得人心，匈奴发生内乱，原为左贤王的呼屠吾斯自立为郅支单于，此时匈奴内部另有多名单于。前54年，郅支先后击败闰振单于和呼韩邪单于，但此后呼韩邪单于南下投靠汉朝，郅支只得向西发展。约公元44年，郅支单于与巴尔喀什湖畔的小国康居结为同盟，但不久由于争执而率兵讨伐康居，杀死数百人，并强迫康居人为他筑城。这座名为“郅支城”的城池耗费了500名劳工与两年的时间。据推断，郅支城可能位于今塔拉兹附近。郅支单于在西域横行霸道，烧杀抢掠，并扣押了两名汉朝使节，西域诸国颇有怨言。
前36年，甘延寿出任西域都护，陈汤为副校尉。陈汤认为郅支单于企图建立一个强大的匈奴帝国，应先发制人将其击破。甘延寿虽同意，但坚持应先上奏朝廷。时逢甘延寿生病，陈汤趁机矫诏集结大军。甘延寿闻之，惊起阻拦陈汤，陈汤按剑怒叱：“大众已集会，竖子欲沮众邪？”甘延寿只得同意先斩后奏，并上疏向汉元帝请罪。
40,000名汉朝与西域诸国联军集结，兵分两路进军郅支城，一路沿塔里木盆地南部行军，翻越葱岭，途经大宛；另一路由甘延寿亲自率领，从温宿国出发，从北路进入赤谷，途经乌孙和康居。行至乌孙境内时，康居副王抱阗率数千名康居骑兵劫掠乌孙，被陈汤率领胡军击败，击杀460人，解救了470名乌孙俘虏，多名康居贵族被俘并被迫担任向导。大军行至距郅支城30里处扎营，匈奴派遣使者前来汉营，甘延寿和陈汤回应说：“单于上书言居困厄，愿归计强汉，身入朝见。天子哀闵单于弃大国，屈意康居，故使都护将军来迎单于妻子，恐左右惊动，故未敢至城下。”
次日汉军到达离城3里之地，扎营布阵。匈奴派出数百步骑兵，摆出夹门鱼鳞阵，但被汉军驱回城中。汉军随即将郅支城包围，并放火焚烧土城墙外围的木城墙。当日夜，数百名匈奴骑兵出城欲逃走，被汉军击杀。郅支单于原本害怕康居人为汉朝做内应，准备逃走，但当他得知汉军为数众多时随即归还，笼城固守。于是单于披甲在城楼上督战，数十名阏氏夫人用弓箭射击围城军队，汉军射中单于的鼻子，数名阏氏被杀。夜过半，汉军突破外层的木城，守城军队退入土城，此时万余名康居骑兵出现，分十余处趁夜袭击汉军，但作战不利。天亮时分，四面燃起大火，汉军遂击鼓进军，康居兵撤退。汉军四面攻入土城，单于等百余人退入宫城，汉军纵火攻城，郅支单于在乱军中被杀。军候假丞杜勋斩单于首，解救了先前被羁押的两名汉朝使节。
汉军在战役中斩首阏氏、太子、名王以下1,518人，145人被俘，超过1,000名匈奴军投降。汉军士兵被准许持有战利品，投降的匈奴士兵被分配给参与战役的15个小国。甘延寿和陈汤战后上疏通报战事，奏称：“臣闻天下之大义，当混为一，昔有康、虞，今有强汉。匈奴呼韩邪单于已称北籓，唯郅支单于叛逆，未伏其辜，大夏之西，以为强汉不能臣也。郅支单于惨毒行于民，大恶通于天。臣延寿、臣汤将义兵，行天诛，赖陛下神灵，阴阳并应，天气精明，陷陈克敌，斩郅支首及名王以下。宜县头槁街蛮夷邸间，以示万里，明犯强汉者，虽远必诛。”
次年春天，甘延寿与陈汤持郅支单于首级回到长安谒见汉元帝。郅支的首级被挂在城墙上展示十日后付之一炬。郅支单于也是历史上唯一被汉军击杀的匈奴单于。