卫青的出场，客观上是陈皇后引荐的。
陈皇后妒忌卫子夫，与母亲窦太主密商，想要除去情敌。窦太主一时也想不出什么好办法。忽然听说建章宫中有一个小吏，叫做卫青，是卫子夫的同母弟。太主扳不倒卫子夫，就想从她母弟身上撒气，便叫人捕捉卫青。
卫青确实是卫子夫的同母弟。其母本是平阳侯家的婢女，嫁与卫氏，生有一男三女。长女名君孺，次女名少儿，三女就是卫子夫。后来夫死，卫媪又回到平阳侯家为佣。侯家有一家童郑季，与卫媪勾搭私通，居然生有一男，取名为青。那郑季本有家室，不能将卫媪娶回家。卫媪便自己养育这个私生子，无奈辛苦艰难，力不从心，只好将他送到郑家。郑季之妻见丈夫不仅有外遇，而且将私生子带回家，当然醋意与怒气一齐迸发。郑家的其他儿子，也不认这个同父兄弟。但木已成舟，他们空喊叫几次，也没有别的办法，便叫他去牧羊。这个寄人篱下的私生子，在别人的白眼和青眼中，也慢慢成长着。一次，他跟同里之人走到甘泉，经过一个徒犯的居室。有一个髡奴，把他打量了半天，惊奇地说道：“小哥儿今日穷困，将来必定发达，官至封侯哩！”他听了摇摇头，苦笑道：“我为人奴，还想什么富贵？”髡奴道：“我颇通相术，绝不至看错。”他已经有点不耐烦地说：“我但求不被人打骂，就心满意足了，还想什么封侯？请你不要再拿我寻开心！”说罢，摇头自去。《史记》卷一百一十一《卫将军骠骑列传》、《汉书》卷五十五《卫青霍去病传》，此下所述卫青、霍去病事，并见史、汉此传。
卫青长大成人，受不了郑家的虐待，又去找他的生母。卫媪就到平阳公主处求情，公主召他进来，一见是个相貌堂堂的彪形大汉，就叫他去做骑奴。每当公主出行，他就骑马相随。尽管身份低微，但比起在郑家所受的苦楚，他已经很满足了。这时，卫媪所生的三个女儿，都已进入长安。长女卫君孺嫁与太子舍人公孙贺；次女卫少儿，与平阳家吏霍仲孺私通，生子霍去病；三女卫子夫，已由平阳公主家的歌女，选入宫中。他本应姓郑，但想到生父从未养育他，郑家兄弟从不认他，便与郑家断绝亲情，改从母姓为卫，单名依旧叫青。因卫家已有长子，他认作同宗，排行为二，又志在希荣，便自取一个表字，叫做仲卿。从卫青取字来看，他尽管牧羊儿出身，但历来有心人不需细讲，遇事稍一琢磨，便无师自通，远远胜过那些死读书的穷学究。所以，卫青以后才能统率大兵，横扫大漠。
卫青在平阳公主家做了一两年骑奴，认识了骑郎公孙敖等朋友。他们替卫青荐引，把他转入建章宫当差。他好好地居住在上林，谁想到祸从天上起，却得罪了窦太主，被人捉去，险些儿丢了脑袋。亏得公孙敖等一班朋友，招集骑士，把他抢了回来。一面托人转达武帝。武帝听后，也觉得窦太主做得太过分，索性召见卫青，封他为建章监侍中。不久，又封卫子夫为夫人，超迁卫青为大中大夫。就是卫青的同母兄弟姐妹，也一并加封。他那个同母兄长，一向默默无闻，甚至连姓名也不知道。此时也被封为侍中。当时人因他成为贵戚，排行最长，遂称他为卫长君。卫氏长女君孺之夫公孙贺，本来侍奉武帝，仅为舍人，这时也夫以妻贵，升官太仆。次女少儿，与霍仲孺生下霍去病后，这时又改嫁前曲逆侯陈平的曾孙陈掌。陈掌既得少妇，又沐恩荣，平白地成为天子连襟，受官詹事。连抢救卫青的公孙敖，也超任大中大夫。
元光六年（前129），边境上谷守将飞报长安，匈奴大举兴兵入塞，前锋已进至上谷。武帝遂命卫青为车骑将军，带领骑兵万人，直出上谷。又令骑将军公孙敖出代郡，轻车将军公孙贺出云中，骁骑将军李广出雁门。卫青初次领兵，首当敌冲。偏匈奴认为汉兵四路之中，李广资格最老，且才气无双，所以将骑兵大队移往雁门对付李广。结果，李广尽管英勇善战，终究寡不敌众，竟然被活捉。最后尽管逃了回来，却损失惨重。出代郡的公孙敖，也损失七千余人。公孙贺行至云中，不见一敌，闻得两路兵败，只好收兵回营，总算不折一人。独卫青出兵上谷，因匈奴所留骑兵不过数千人，被他掩杀一阵，斩获了数百人，还都报捷。武帝见四路兵马，两路败绩，一路无功，只有卫青旗开得胜，很是高兴，封卫青为关内侯。
是年秋月，匈奴又来犯边，武帝命李广为右北平太守。李广善射，箭入巨石，又戒备极严，匈奴不敢进犯，且称他为“飞将军”。后李广奉调回京代任郎中令。其余边郡守将，没有李广的声望，所以匈奴时出时入，飘忽不定。武帝遂再令车骑将军卫青，率骑兵三万出雁门，将军李息出代郡，捕捉匈奴主力决战。这次出师，卫青又得与匈奴兵交战一场，斩首数千，得胜而回。卫青连打胜仗，武帝更是另眼看待。
元朔二年（前127）春月，匈奴又发兵突入上谷、渔阳。武帝又遣卫青、李息两将军，由云中直抵陇西。卫青屡败胡兵，击退白羊、楼烦两王，斩获敌首数千，截获牛羊百余万，尽得河套南地。捷报飞传长安，武帝当然分外高兴，即派使者犒劳两军。使者回报，赞扬卫青功高一筹。武帝遂下诏封卫青为长平侯，连他的部下将领，也邀特赏，校尉苏建得封平陵侯，张次公得封岸头侯。
随着抗匈战争的节节取胜，汉朝设置了朔方郡，给匈奴以巨大威胁。匈奴右贤王连年入侵，想要夺回朔方。元朔五年（前124），武帝特派车骑将军卫青，率骑兵三万出高阙。又使卫尉苏建为游击将军，左内史李沮为强弩将军，太仆公孙贺为骑将军，代相李蔡为轻车将军，俱归卫青节制，并出朔方。再命大行李息、岸头侯张次公为将军，出右北平，作为声援。汉军十余万，浩浩荡荡，出击匈奴。
匈奴右贤王探知汉军大举出击，也料知不敌，便退出塞外，凭险据守。他令人哨探，不见有什么动静，便以为汉军远道而来，还须休整。自己乐得轻松几天。况且身边带有美酒娇女，日饮美酒，夜拥妇人，快乐胜似神仙。谁知卫青率大军衔枚疾行，竟趁着夜色将匈奴兵营帐团团围住，喊杀连天。当时，右贤王正与爱妾对饮，猛听得喊杀之声，酒意被吓醒一半。忙令营兵出寨迎敌，自己连忙抱着爱妾上马。带了数百骑兵，混至帐后。待寨前两军混战之时，自己一溜烟似的混出营外，向北逃去。汉军多到寨前杀敌，围在寨后的少数兵士，没有挡得住，竟被右贤王逃脱。前面的匈奴兵，明知抵挡不住汉军的进攻，再加上听得右贤王已经从营后逃走，更无心抵抗，一大半做了俘虏，汉军突入敌营，捉住十几个裨王，一万五千余敌兵，数十百万头牲畜。
这是汉军出击匈奴以来，取得的一场最大的胜利。捷报传到未央宫中，武帝喜出望外，当即遣使传旨，擢升卫青为大将军，统领六师，加封卫青食邑八千七百户。卫青的三个儿子尚未成人，也一并封侯。卫青上表固辞，让功于诸将。于是，随军大将公孙贺、李蔡、公孙敖、韩说、李朔、赵不虞、公孙戎奴等，并授侯封。卫青还朝献捷，公卿以下，皆迎出长安城外，拜谒于马前。武帝也起座慰谕，亲赐三杯御酒，为卫青洗尘。这种恩遇，可谓旷古无两。
卫青的威仪，居然引动了一位孀居的公主，愿与大将军结成连理。
这位公主，就是武帝的嫡亲大姐平阳公主。她曾嫁与平阳侯曹寿为妻，这时曹寿已经病殁。公主虽然年近四十，却耐不住空房寂寞，还想着要再嫁。她召见仆从，问列侯之中，谁人最贤？众人一齐称道大将军卫青。公主稍感为难，说：“他曾是我家的骑奴，曾骑马随我出入，如何是好？”仆从道：“他已经今非昔比，身为大将军，姊做皇后，三子皆封侯。当今满朝文武，何人比他尊贵？”公主听了此言，深以为然。暗想卫青正当壮年，身材状貌，甚是壮伟，胜似前夫百倍。我若嫁得此人，也算是后半生的福气。只是眼前无人牵线，令她感到为难。左思右想，她当年对卫皇后有荐引之恩，求她为自己撮合最为合适。母亲皇太后和丈夫崩逝，都超过一年，再嫁的时间也合适。主意已定，她淡妆浓抹，打扮得齐齐整整，穿着艳服，乘车入宫。
卫皇后看着平阳公主鲜丽的衣饰，再看她娇羞的面容，已经猜透了三分。等到交谈几句，听她一派口气，更心中了然。便问她是否想再醮，中意的又是谁。公主顾不得羞涩，直言说是卫青。卫皇后一口答应，待公主满意而去，就召入卫青，与他商量此事。卫青想到当年在公主府中做骑奴，见她为人还算善良；现在居然能够娶得公主，那多年所受的苦楚，总算得到报偿，心里也感到几分满足。皇后又将此事告知武帝，武帝也认为是好事，便颁出一道诏书，令卫大将军得尚平阳公主。成婚这一日，大将军府中钟鼓乐之，琴瑟友之，热闹红火，自不待言。等到凤辇临门，那再醮公主与大将军拜堂成亲，满朝文武，四座宾朋，都来道贺，夸赞这天作之合的美满婚姻。
卫青自尚公主以后，与武帝互为姐夫，亲上加亲，尊宠无伦。满朝文武，也都来趋奉卫青。只有右内史汲黯，见卫青后只是长揖，不屑下拜。有人提醒他，大将军功爵最隆，应该加敬。汲黯笑道：“与大将军抗礼，便是使大将军成名。若为此生憎，便不是大将军了！”卫青听说后，认为汲黯才是真贤士，对他优礼有加。《史记》卷一百二十《汲郑列传》。
汲黯素学黄老，主张清静无为。武帝心内多欲，常欲有事朔方，汲黯也时常谏阻，武帝看他胆怯，从未介意，认为有卫青这般大将，数次出塞，未闻挫失，正可乘此张威，以便彻底解除匈奴的威胁。那匈奴尽管受到重创，但元气未伤，又入代地，攻雁门，掠定襄，威胁上郡。于是，元朔六年（前123），武帝再使大将军卫青，出讨匈奴。同时，命合骑侯公孙敖为中将军，太仆公孙贺为左将军，翕侯赵信为前将军，卫尉苏建为右将军，郎中令李广为后将军，左内史李沮为强弩将军，分掌六师，统归大将军节制，从定襄出发。
这次出塞，卫青那外甥霍去病，年已十八，熟悉骑射，官拜侍中，自愿随征，便承制带去。于是，甥舅合作，在西汉抗击匈奴的战场上，演出了更为威武雄壮的历史活剧。
