卑微的出身卫青的出身极其卑微。他原是一个叫郑季的县吏在平阳侯曹家做事时，与曹家婢女卫媪私通所生的私生子。
卫青的母亲在平阳公主的夫家做女仆，因丈夫姓卫，她就被称为卫媪。卫媪与卫姓男子生有一男三女，即儿子卫长君，长女卫君孺、次女卫少儿、三女卫子夫。丈夫死后，她仍在平阳侯家中帮佣，与同在平阳候家中做事的县吏郑季私通，生了卫青。
卫青的童年，是很悲惨的。七八岁之前，卫青都是由母亲卫氏抚养，但卫青长到七八岁半大小子的时候，食量大增，卫氏一个人养不起他了，只好把他送到亲生父亲郑季的家里。按常规，一个县吏的儿子，是应该上学读书的。但卫青的身份特殊了，一听说是私生子，还敢奢望别人对你有好感吗？郑家人对他当然是冷眼相待，就连他生父郑季都让他去放羊，他的同父兄弟们甚至都把他当奴隶看待。
唯一能与小卫青相伴的就是那几只羊。卫青为了放好羊，须每天起早贪晚，跋山涉水，有时为了寻找一块好的草地，时常遭风吹雨打，忍饥受饿一整天的事情时有发生。回到家里后，也得不到一点温暖，家里所有人对待他都像对待小奴隶一样，随意鞭笞辱骂，他饱尝了人间的苦难。
"改变能改变的，接受不能改变的，"对于这些艰难困苦，小卫青根本就没有一丝力气去改变，于是，他只有忍着，忍着，忍着……等到卫青稍大的时候，他再也不愿过这种受虐待、受凌辱的生活，便义无反顾地回到了母亲身边，回到了曹家。后来很幸运地被皇帝的姐姐平阳公主遇到，平阳公主十分喜爱这个英俊懂事、勤奋好学的青年，让他做了自己的侍从骑奴。这样，卫青又开始了一种新的奴隶生活。
作为皇亲国戚的公主府的家奴，卫青逐渐学到了一些文化知识，懂得了一些封建社会上层待人接物的道理。这时他最小的姐姐卫子夫，也已长大成人，长得十分美丽，成了公主府里一名才貌双全的歌女。他们一家几口，都在公主府里过着低贱的、供人驱使的、寄人篱下的日子。由于从小就是这么过来的，给县官也是当奴隶，给皇帝姐姐也是当奴隶，卫青也从未有过别的想法，他也不敢想。
然而，有一次，他和别人一块儿去甘泉宫，一个囚犯看见了他，给他相了相面说："你是贵人，应该封侯的。"卫青笑着说："奴婢生的儿子，人家骂得轻点，打得轻点，我就谢天谢地了，哪还敢指望封侯？"一人得道，鸡犬升天其实卫青说这话，并不是因为他胸无大志，实在是在那个年头，以他的身份，不敢有非分之想，既不能像当年项羽似的那么豪情万丈，也不能像陈胜一样发出"燕雀安知鸿鹄之志"的感慨。但我们要知道，不说并不代表不想，卫青也想战场冲杀，也想带兵打仗，也想为国效劳，也想建功立业。但这个时候的他是没有资格说出口的，他的大志只能深藏于胸，只待机会的降临。
机会真的就来了。武帝建元二年（公元前１３９年），卫青的同母异父姐姐卫子夫进了宫并得到汉武帝宠幸。所谓一人得道，鸡犬升天。卫青和他的兄弟姐妹也发达起来，卫青也被召到建章宫当差。但卫子夫得宠、卫家突然兴盛，肯定会被人嫉妒，比如皇后。
原来陈皇后虽然与汉武帝结婚数年，被立为皇后，但没有生过儿子，她想到如果卫子夫生下男孩，就会被立为太子。子贵母荣，卫子夫也就会扶摇直上，成为皇后。她深感自己的地位受到了威胁，因而悲愤交加。可是卫子夫正得皇帝宠爱，陈皇后不敢直接加害于她，就经常在自己的母亲大长公主面前诉委屈，发怨言。
大长公主是汉武帝的姑母，也深知此中的利害，唯恐女儿失宠，自己的尊荣受影响。于是就找了个借口，要加害卫青，并把他逮捕下狱，准备把他处死。当时卫青有一个好友，名叫公孙敖，是皇帝身边的一个侍从，他听到了消息，率领平时和卫青要好的几名壮士，闯进囚室，把卫青救走。
汉武帝得知后，非但没有怪罪，还赏赐了他们。卫青同母兄弟姐妹都显贵了，几天里赏赐达千金之多。连公孙敖都由此显贵。等到卫子夫成为皇后，卫青也被任命做了大中大夫。这正是大难不死，必有后福啊。从这时起，汉武帝开始着力培养他，并在元光六年（公元前１２９年）派他和李广等三位将领一起兵分四路出击匈奴，卫青一生的功业从此开始。
牛刀小试，大获全胜卫青天资过人，对用兵打仗几乎是无师自通，不怎么学就会，是天生的将军胚子。刘彻把他从长公主哪里救出来后，就干脆日夜带在身边。卫青也老老实实在皇帝身边跟着，等待着一个能让他大展鸿图的时机。
元光六年（公元前１２９年），刘彻派出卫青等四位将军，一人领了一万骑兵出击匈奴，其中有一路的将军是当时的一时名将---飞将军李广。刘彻对四路大军的期望值很高，结果事与愿违，战果十分令人失望：两路大败；一路一无所得，等于是在匈奴境内来了一次武装大游行，劳民伤财而已；仅有一路差强人意歼敌７００余人，算是胜仗了。但这一路的将军不是名将李广。李广其实是败得最狼狈的一路，连本人都被匈奴给逮住了。幸好李广反应够快，立马装死，趁着匈奴士兵欢呼雀跃不注意时，抢了一匹马跑回来了，才算没有给刘彻的这次四路出击丢人丢到家。得胜一路的将军是位英气勃勃的青年将领，就是卫青。
第二年，卫青带领三万骑兵从雁门向匈奴出击，斩获匈奴首级数千，又一次获得大胜。
这一下，满朝文武大臣都是吃惊的眼珠子掉地下了，五体投地佩服刘彻的知人之明了。其实在此之前，满朝文武大臣没有一个看好卫青，因为，卫青是皇后卫子夫的弟弟，刘彻的小舅子，如假包换的皇亲国戚，更准确的说，是外戚。大家都觉得卫青出战那也不过就是个银样蜡枪头，出来凑个人场，顶多就是在战场上走一圈镀镀金封住众人口舌。可没想到，两次牛刀小试，卫青很给刘彻长脸。刘彻很高兴，决定让卫青担负起更重大的责任：率领汉军主力收复河南之地（现河套地区），彻底消除匈奴对京城长安的威胁。
华丽转身河南地区在秦朝时是由大将蒙恬率３０万虎狼秦军从匈奴手中夺回来的。后来秦末天下大乱，匈奴趁中原群雄争斗不休无暇顾及边陲的时机，又进兵占领了河南地区。河南地区离汉长安８００多里，匈奴骑兵两昼夜就可以赶到，边境一有个风吹草动，京城就要进入紧急状态，搞得人心惶惶很不安定。不把河南地收回来，达官贵人和小老百姓一样的晚上睡觉都睡不安然，京城的安全就始终无法得到保证。
战役开始的第一阶段是让出将入相的老大臣韩安国在渔阳上谷（今河北北部北京一带）领着偏师纠缠住匈奴单于的主力死缠乱打，让匈奴主力不能分身救援河南地。然后卫青带领汉军主力５万人沿黄河北岸西进，避实击虚，对河南地区的匈奴军队进行深远距离的迂回包围。卫青这边进行的是暴风骤雨势如破竹的顺溜，一战收复河南地，斩杀和捕获匈奴５５００多人，牛羊百万余只，匈奴白羊王、楼烦王（什么乱七八糟的王呀）几乎是只身逃走。
这次功劳大了，刘彻十分高兴，封卫青为长平侯。世间事总是一家欢乐一家愁，很难皆大欢喜的。卫青这边喜气洋洋，可惜了韩安国以偏师迎战匈奴主力，结果大败，被匈奴抢去了几千人和大量财物，被刘彻一顿臭骂，心里窝囊的不得了：刘彻你不亏心呀。为了给你小舅子长脸，就拿我们这些老家伙的脸不当脸了，看不上我早说呀，我走不结了。越想越窝火，结果就气死了。
丢了河南地，匈奴上下是恼怒异常，军臣单干连气带怒，死了。他弟弟伊稚斜即位，这也是一个心雄四海的狠角儿，立刻率领全体匈奴对汉朝展开了疯狂的反扑，匈奴右贤王几次进袭河南地，造成了很大的破坏。
刘彻气坏了，命令卫青无论如何得给右贤王点颜色看看，不能让他老这样嚣张。卫青得令后带领部下三万骑兵从河套地区出发，利用夜色掩护绕过匈奴要塞，６００里长途奔袭，于第二天夜间秘密包围了右贤王王庭。右贤王尚在酣然高卧，醒来后已是四面楚歌，没办法，只好三十六计走为上，逃吧。不过这厮还算是重情义的汉子，就在这样电石火花的瞬间，还没有抛下自己的小老婆，居然带着一块跑出包围圈了。这次胜利的成果太大了：俘获右贤王部高级贵族１０余人，部众１．５万余人，牛羊１０万余头。刘彻接到消息后，做出的第一决定是，封卫青为大将军，并立刻派使者持大将军印前往迎接卫青，让卫青以大将军身份凯旋。
至此，卫青完成了从奴隶到将军的华丽转身。
人才两全可以说，卫青是一位人品与才华俱佳的将领，他性格谦和，礼贤下士，体恤士卒，从不居功自傲，因此很得部下的拥戴。这样的将领在中国历史上可谓稀少。也许这与他自小贫苦的出身有很大的关系。他去世后，汉武帝为他修筑了林木茂密的陵墓，这也许正象征了他谦谦君子的品格。
卫青虽然出身低微，但从小就尝到战争带来的苦难，经受了艰苦生活的磨炼，使他养成一种勇敢无畏的尚武精神。他不但武艺高强，膂力过人，而且在长期实际斗争中，学到了不少用兵作战的军事知识。在西汉的将领中，他可称得上是一个出类拔萃的军事家。他每次临战都身先士卒，为官兵树立了不畏强敌、不怕牺牲的榜样。他治军有方，赏罚严明，人品出众。
元朔六年（公元前１２３年），右将军苏建随卫青出击匈奴。苏建所部与匈奴单于的军队相遇，激战一日，全军尽没，苏建只身逃回。卫青问部下军吏应如何处置苏建，议郎周霸提出："今建弃军，可斩，以明将军之威。"卫青没有采纳，他认为：不应为树立自己的威信而斩杀大将。即使苏建当斩，也必须奏请天子裁决，做人臣的又怎可擅自专杀于境外？军吏们听了，都称赞卫青的话有道理。
卫青在军事战术运用上更是精益求精。他经常能根据敌我双方的具体情况，以己之长，击敌之短。在几次出击匈奴的作战中，由于汉军长途跋涉，人马困乏，而匈奴则是以逸待劳，在地理上占有优势，卫青看出了这一点，往往采取出其不意、攻其无备的速决战术，一鼓作气，打败敌人。这在河南之战中表现得最为突出。而在临敌应变方面，卫青也表现出了他的智勇兼备、临危不惧的大将风范。漠北之战，就是一个典型的例子。
谦让仁和据史书记载："青仁，喜士退让。"当时有一个大臣名叫汲黯，性情倨傲，好当面指责旁人的过失，不留情面。即使是皇帝有了错误，他也敢于直言进谏，无所顾忌，因此总是不得长久在位。这时卫青正权倾朝野，炙手可热，而且他的姐姐又是皇后，一般大臣谁不慕而敬之。只有汲黯敢与卫青分庭抗礼。
有人劝汲黯说："大将军现在尊宠无比，群臣无不甘拜下风，您见大将军不可不拜。"汲黯说："以大将军的身份地位，居然有只作揖不行跪拜礼的客人，不是更加重了他的声望吗？"卫青听到汲黯的话，对他更加敬重，曾多次向他请教朝中大事，对待汲黯远远胜过一般大臣。
当家奴出身的卫青变成了贵极人臣的大将军时，朝中官员无不巴结奉承。这时，平阳公主寡居在家，要在列侯中选择丈夫，许多人都说大将军卫青合适，平阳公主笑着说："他是我从前的下人，过去是我的随从，怎么能做我的丈夫呢？"左右说："大将军已今非昔比了，他现在是大将军，姐姐是皇后，三个儿子也都封了侯，富贵震天下，哪还有比他更配得上您的呢？"汉武帝知道后，失笑道："当初我娶了他的姐姐，现在他又娶我的姐姐，这倒是很有意思。"于是当即允婚。时迁事移，当年的仆人就这样做了主人的丈夫。这样一来，卫青与汉武帝亲上加亲，更受宠信。但卫青为人谦让仁和，敬重贤才，从不以势压人。
正因为卫青既是文韬武略、智勇兼备，又能礼贤下士、严于律己，为维护汉朝的安定和统一而征战一生，建立了不朽的功勋，所以才受到汉武帝的特殊礼遇，死后随葬在汉武帝的茂陵（今陕西省兴平县境内）之侧，其墓形很像匈奴境内的庐山，象征着他生前的赫赫战功。
英雄落幕卫青当了大将军后，作为汉军的最高统帅，他两度率大汉骑兵出定襄（今内蒙古和林格尔西北），和匈奴军进行漠南（蒙古大漠以南，内蒙古地区）会战。第一次漠南会战打得风调雨顺得心应手，１０万汉军和７万匈奴兵大战，斩杀匈奴兵３．９万，匈奴兵应该是大部被歼了。汉军死伤不详，考虑到匈奴士兵的实际战斗能力，汉军伤亡大概也不会低于此数了。第二次漠南会战是刘彻决心最大组织最严密投人兵力最多的一次战役，大将军卫青率领３０万大汉铁骑向匈奴进击，以期一次性彻底将匈奴打垮，一劳永逸地解决匈奴问题。但这次战役却打得磕磕绊绊别别扭扭的，战役目标完全没有达到，战果也是很小了：斩杀匈奴军１．９万人，汉军损失了前军和右军（总共才前后左中右五军，损失该是相当的大了），前将军赵信帅８００精骑投降匈奴。
这仗就属于典型的糊涂仗了，汉匈双方都自称取得了胜利。但所有参战的汉军都知道：这其实就是一个败仗了。所以汉军虽然喊叫着胜利，却都打不起精神，只是恹恹的萎靡。
公元前１０６年，大司马大将军卫青去世，谥为烈侯。汉武帝命人在自己的茂陵东边特地为卫青修建了一座像庐山（匈奴境内的一座山）的坟墓，以象征卫青一生的赫赫战功。
