四万多人，规定了统一的号令，编组了分支队伍序列，大张旗鼓向北进发。
甘延寿与陈汤将大军分为六校，三校走南道，过葱岭（喀喇昆仑山脉西部）经大宛；另三校走北道，入赤谷，过乌孙与康居境，陈汤沿路捕获康居副王的亲属及一些贵族，经过解释，他们愿做向导，并将郅支的情况作了详细介绍。而后大军便直抵郅支城都赖水边，在距城三里远的地方安营布阵。只见城头上彩旗飘展，数百名披甲兵士登高守备，有的向汉军招手挑逗，甘延寿与陈汤观察之后便令军士四面包围其城，以箭杀伤守城兵士，于是展开了一场对射。
郅支单于得到汉军进攻的消息时，先打算逃跑，因为他怀疑康居人对他怀恨在心，有做汉军内应的人。可是又听说乌孙等国也发兵参战，他便有走投无路之感。带了一些人走出去又返回来，说：“不如坚守。汉兵远来，不能久攻”（《汉书·陈汤传》）。
当汉兵猛烈攻城时，郅支单于身穿甲衣带领他的妻妾数十人一齐登上城楼，他的妻妾也都拉弓射箭。攻城的飞箭射死他几个妻妾，又射中了他的鼻子。郅支便发怒了，下楼骑马跑回了他的宫室。第二天，陈汤命令将士四面齐用火攻，又击鼓助威，汉只冒着烟火突破外围的木栅，并且趁机冲进土城。郅支单于身边只有男女数百人及一些吏士，毫无抵御能力。汉兵勇猛击杀，将郅支刺死。军候杜勋割下郅支单于的首级，又从狱中解救出两名汉朝的使者，从宫中搜出已故使者谷吉所带的文书信件。人城将士搜捕敌军，诛杀了郅支单于的妻妾、太子以及得封的王公等共一千五百一十八人，生擒官吏一百四十五人。另外俘虏敌兵一千余人，都交给了参与打击郅支的小国军队。
这次胜利，结束了西汉与匈奴的百年战争（参见西汉与匈奴的战争），为遇难受辱的汉使报仇雪恨，提高了汉朝在西域各国的威信。战后，甘延寿与陈汤立即写出上报朝廷的奏疏，派人连同郅支首级送回长安。
疏曰：“臣闻天下之大义，当混为一，昔有康、虞，今有强汉。匈奴呼韩邪单于已称北籓，唯郅支单于叛逆，未伏其辜，大夏之西，以为强汉不能臣也。郅支单于惨毒行于民，大恶通于天。臣延寿、臣汤将义兵，行天诛，赖陛下神灵，阴阳并应，天气精明，陷陈克敌，斩郅支首及名王以下。宜县头槁街蛮夷邸间，以示万里，明犯强汉者，虽远必诛”（《汉书·陈汤传》）。
正当甘延寿与陈汤带领将士凯旋而归时，朝中的司隶校卫（执法官员）也从长安出发了，他们于大路之上拦住陈汤，对他进行检查。
原来陈汤向来贪财。攻克郅支城后，缴获了大量财物，陈汤私自藏起来不少金银财宝，知情者在西域时便向朝廷举报了此事，所以司隶校卫拦路搜查，准备拘捕。陈汤立即上书皇帝说：“臣与吏士共诛郅支单于，幸得禽灭，万里振旅，宜有使者迎劳道路。今司隶反逆收系按验，是为郅支报仇也”（《汉书·陈汤传》）！皇帝便下令撤回司隶，并令沿路县城摆设酒食夹道欢迎得胜之军过境。回朝之后，论功行赏时，中书令石显、匡衡认为甘延寿和陈汤假传圣旨，犯有大罪，以功相抵，不予诛杀就可以了，如果再予封爵赏赐，那么今后的出国使者争先效仿，必然无事生非，为国招难。元帝听了觉得也有道理，但他内心还是想嘉奖有功之将，于是此事便议而不决，拖延下去。
宗正刘向认为，对待甘延寿和陈汤仅以功过相抵是不公平的。他又上书皇帝，专门评析了扫除郅支的艰难以及意义，他认为甘、陈“总百蛮之君，揽城郭之兵，出百死，入绝域，遂蹈康居，屠五重城，搴歙侯之旗，斩郅支之首，县旌万里之外，扬威昆山之西，扫谷吉之耻，立昭明之功，万夷慑伏，莫不惧震。呼韩邪单于见郅支已诛，且喜且惧，乡风驰义，稽首来宾，愿守北籓，累世称臣。立千载之功，建万世之安，群臣大勋莫大焉”（《汉书·陈汤传》），他引经据典加以论证，又与前朝和当代的功臣名将进行类比，阐明自己的观点是应予封爵表彰。
于是元帝下诏赦免了甘延寿、陈汤的假传圣旨之罪，然后又让大臣讨论封赏事宜。石显、匡衡仍然坚持他们的主张。但元帝最终于封甘延寿为义成侯，赐陈汤爵位为关内侯，各赏食邑三百户、黄金百斤，并拜陈汤为射声校尉，延寿为长水校尉。
成帝刘骜即位后，丞相匡衡又向成帝起奏陈汤私藏战品的事，说虽然赦免其罪，但不应有官职，于是陈汤被免职。之后陈汤向成帝上书，说康居王送到汉朝来的王子（名为侍子，实有人质之意）不是真正的王子。成帝命人核实，确实是真王子。假如王子是假的，那末证明康居王对汉朝采取了欺骗手段，现已验证是真的，那末陈汤就犯有诬告乃至欺君之罪。陈汤被捕入狱，准备处以死刑。
这时，太中大夫谷永向成帝上书，极力赞誉陈汤的功绩，并引用《周书》说“记人之功，忘人之过，宜为君者也”，亟请皇帝开恩。于是陈汤被成帝特赦释放，但取消了他的爵位，只当个一般士兵。
几年后，西域都护段会宗受到乌孙兵马的围攻，段会宗派人请求朝廷尽快发兵援救。丞相王商、大将军王凤及百官讨论数日仍无结果。王凤向成帝建议，请陈汤来帮助策划。成帝立即召见陈汤。陈汤早在攻击郅支时落下风湿病，两臂不能屈伸，因此入见皇帝时，皇帝先下诏不用行跪拜之礼，让他看段会宗写回来的紧急求救奏书。陈汤推辞说：“将相九卿皆贤材通明，小臣罢癃，不足以策大事”（《汉书·陈汤传》）。成帝听出他话中有怨气，便说：“国家有急，君其毋让。”陈汤说：“臣以为此必无可忧也。”成帝问他为什么这样说？他回答说：“一般情况下，五个胡兵相当于一个汉兵，因为他们的兵器原始笨重，弓箭也不锋利。如今他们也学汉兵的制作技巧，有了较好的刀、箭，但仍然可以三比一来计算战斗力。现在围攻会宗的乌孙兵马不足以战胜会宗，因此陛下尽管放心。即使发兵去救，轻骑平均每天可走五十里，重骑平均才三十里，根本不是救急之兵。”陈汤知道乌孙之军皆乌合之众，不能持久进攻，因此他推算了日期后说：“现在那里的包围已经解除。不出五天，会有好消息的。”过了四天果然军书报回，说乌孙兵已解围而去。大将军王凤通过这件事深感陈汤经验丰富，大有用处，于是奏请皇帝启用陈汤，任他为从事中郎，军事上的大事都请他做出决断。陈汤严明法令，采纳众人的意见办事，颇有将帅风范。但他又经常接受人贿赂的金钱，最终因此而身败名裂。
陈汤后被免职为庶人，徙居敦煌。住了几年后，敦煌太守上书朝廷说：“陈汤曾经诛杀郅支单于，威风远及外国，现在降为庶人，不宜住在边塞地方。”于是又把他迁到安定（今甘肃固原县）。议郎耿育看到陈汤处境可怜，便又上书于皇帝，再次论述了他的功绩，说明当今国家“枭俊擒敌之臣，独有一陈汤耳”他之所以被冷落遭不幸，是由于嫉妒之臣的排挤、打击所致，恳请皇帝予以关怀、照顾。皇帝下诏让陈汤迁回长安居住，不久去世。
几年后，王莽执政后，追谥陈汤为破胡壮侯，封其子陈冯为破胡侯，陈勋为讨狄侯。