元狩四年（公元前119年），汉武帝设置大司马位，大将军卫青、骠骑将军霍去病皆加官为大司马。同时下令，骠骑将军秩禄（即俸禄）与大将军相同。卫青和霍去病因为有了大司马这一加官称号，得以名正言顺地管理日常的军事行政事务。汉武帝于建元二年（前139）罢太尉之位，直到设置大司马位，作为汉武帝加强中央集权的重大举措，除外掌兵政外，更重要的还在于可进入内朝参决政事，秉掌枢机，以代替太尉之职。霍去病成长起来之后逐渐代替卫青领军出征，究其原因，大约有以下几种说法：1.正常的新老交替，卫青作为大汉除了皇帝之外的最高军方首脑不可能次次亲自出征不给新人出头的机会；2.卫青作为位高权重的万户之侯，公主之夫，已封无可封，为避嫌而不再出征，作为卫青的外甥和皇帝的爱徒，霍去病的成长是皇帝和卫青乐见其成的；3.少时受苦的卫青身体并不好，随着年纪渐长，加之汉代医疗条件有限，卫青不再适合常年奔战。
漠北之后，“无功不得封侯”的汉代，追求军功的部下纷纷离开不再出征的卫青转投霍去病门下，而且经常得到官爵。有人依此推断卫霍二人感情不好，但从霍去病请立三子封王而维护太子刘据地位可以看出他和卫青的政治立场是一致的，从李敢事件中我们可以看出霍去病与卫青依然亲厚，漠北大战一年后，继其父李广之职成为郎中令的李敢因为错怨是卫青导致了父亲的自杀，于是击伤了大将军。霍去病知道后，射杀了李敢为舅舅报仇。至于那些转投到霍去病门下的人，卫青认为这是人之常情，而是否能得到官爵，这并不是卫霍二人决定的（卫霍一生，奉法遵职，从未以权谋私），而是因为当时赏罚分明的军功制度。
元狩六年（公元前117），24岁的骠骑将军霍去病去世了。谥封“景桓侯”。取义“并武与广地”，彰显其克敌服远、英勇作战、扩充疆土之意。
汉武帝对霍去病的死非常悲伤。他调来铁甲军，列成阵沿长安一直排到茂陵东的霍去病墓。他还下令将霍去病的坟墓修成祁连山的模样，彰显他力克匈奴的奇功。
霍去病生为奴子，长于绮罗，却从来不曾沉溺于富贵豪华，他将国家安危和建功立业放在一切之前。汉武帝曾经为霍去病修建过一座豪华的府第，霍去病却拒绝收下，说：“匈奴未灭，何以家为？”这短短的八个字，因为出自霍去病之口而言之有物、震撼人心，刻在历朝历代保家卫国将士们的心里。
霍去病少言多行，从不说空话。汉武帝曾经想亲自教他孙武兵法，他回答道：“打仗应该随机应变，而且时势变易，古代的兵法已不合适了。”霍去病是霍仲孺的私生子。其父未曾尽过一天当父亲的责任，当霍去病长大后，知道了父亲的事，有次任骠骑将军出征时顺道到了平阳（今山西临汾），霍去病便命下属将霍仲孺请到休息的旅舍，跪拜道：“去病早先不知道自己是大人（大人：汉唐时指父亲）之子。”霍仲孺愧不敢应，匍匐叩头说：“老臣得托将军，此天力也。”随后，霍去病为霍仲孺置办田宅奴婢，并在领军归来后将同父异母的弟弟霍光带到长安栽培成材。漠北之后，李敢因私怨刺伤大将军卫青，作为其顶头上司，霍去病于狩猎中射杀李敢。论私，李敢挟私报复行凶在先，霍去病为亲复仇；论公，李敢目无法纪刺杀全军最高统帅，而霍去病得知后当机立断严格执法。（这不仅是个人私情的问题，在当时，身为臣属，以下犯上刺杀大将军是祸及全族的重罪，参见同僚意图刺杀霍光事件）
当然，少年将军霍去病也并非完人，霍去病作为也曾经御下严峻。然而再严峻他仍然是军神，无往而不胜。他一生四次领兵正式出击匈奴，都以大胜回师，灭敌十一万，降敌四万，开疆拓土，战功于整个中国军事史来说，都是彪炳千秋的传奇。霍去病的墓至今仍然矗立在茂陵旁边，墓前的“马踏匈奴”的石像，象征着他为国家立下的不朽功勋。千载之后，世人仍然遥想少年大将霍去病的风采，为他那不恋奢华保家卫国的壮志而热血沸腾。
霍去病不是一个长于兵家理论的将领，他甚至对此不感兴趣。《史记？卫将军骠骑列传》载，汉武帝曾经有心教他学习《孙子兵法》和《吴起兵法》，但霍去病却说：“顾方略何如耳，不至学古兵法。”霍去病也不是—个爱兵如子、能与部下同甘共苦的将领。相反，他在历史上又以“不省士”即不关心士卒的饥寒饱温而闻名。他出征之时，汉武帝曾遣太官将几十车食物送至军中，但在引军归来时，“重车余弃粱肉，而士有饥者”。有时士兵粮食匮乏，甚至因饥饿而不能举手，但霍去病还在“穿域蹋鞠”，踢球健身。显而易见，霍去病不是一个完美的军事家。然而他却能够做到战无不胜，军功远远超乎那些熟知兵法又身经百战的沙场老将，这其中的原因，主要有以下三个方面：
首先，霍去病具有超乎寻常的英雄气概。司马迁说他“有气敢任”，即不避艰险，勇挑重担，英武果敢。从其作战记录可知，霍去病打仗有两大特点，一是敢于冒险，二是凶狠顽强。前者是说他敢于孤军深入，又经常是冲杀在前。例如，他为骠姚校尉时，居然仅率800骑兵而脱离大部队，追击数百里而与数倍于己的强敌（霍去病此战斩敌2028人。已是自己所率兵士的3倍多，当时与之交战的匈奴军人数肯定要多于此数）。又如，元狩二年秋，霍去病将兵迎接欲降汉的匈奴浑邪王。匈奴军众“见汉军而多欲不降者。颇遁去”局势十分混乱。霍去病当机立断，率先“驰入”匈奴军中，“得与浑邪王相见，斩其欲亡者八干人”．控制了局势。由此可知《汉书？霍去病传》所记霍去病作战“常与壮骑先其大军”之言不虚。后者是说霍去病敢打硬仗、恶仗。如元狩二年第一次出征河西时，霍去病仅率骑兵1万人，孤军长驱直入．历经艰险，“转战六日，过焉支山千有余里”．杀敌数千。回师途中又以骑兵与敌“合短兵”鏖战于皋兰山下，虽然获胜还朝，但汉军“师大率减什七”，损失过半。这场战役进行的是何等艰苦与激烈，自可想见。
其次，霍去病绝不是只有意气之勇的匹夫，而是一员既勇且谋、能够决胜千里的战将。前引霍去病“不至学古兵法”语虽不无偏颇，但从中也可约略看出他的为将之道，这即是不拘泥于习俗常规，重视战前的“方略”即谋划，同时又注意根据战场实际而随机应变。霍去病非常善于运用骑兵集团在沙漠、草原地带机动作战，他可以指挥骑兵进行短程奇袭．也可以指挥骑兵进行长距离、大规模的正面进攻，可以用骑兵打运动战，也可以用骑兵打遭遇战，表现出良好的战术素养和高超的临战指挥艺术。
再次，霍去病所率领的骑兵，无论是800人的“轻勇骑”，还是l万人、5万人的大军，都是精心挑选出来培养的优秀士兵。如漠北之战时，“敢力战深入之士皆属骠骑”。他们不仅武艺高强，而且作战勇敢，加上优良的装备，所以霍去病的部队很可能是汉军的精锐之一，战斗力远远强于“诸宿将所将士马”。此外，在汉军麾下，还汇集了一些投降汉朝的匈奴族校尉，他们熟知匈奴道里，可以引导汉军长驱直入而不迷失方向，还可帮助汉军取食于敌，使他们得以轻装“绝大漠”，充分发挥其机动、灵活、快速的优势，捕捉战机，创造战机。
霍去病是汉武帝亲自培养、提拔起来的。他对霍去病的十分宠信。其最根本的原因，是因为霍去病的才能，和他所具有那种强烈的忠君报国精神和奋发有为的气势。当汉武帝为霍去病建造起精美的住宅并嘱他前往察看之时，霍去病就说出了“匈奴未灭。无以家为也”的千古名言。从某种意义上说，霍去病正是因为具有领兵才能和为国忘家的高尚品格，才能够有机会屡建奇劝。
