古代中国，“火箭”一词，最早见《三国志·魏明帝纪》注引《魏略》。魏和二年（228年），蜀国诸葛亮出兵攻陈仓（今陕西省宝鸡市东），魏守将郝“以火箭逆射其云梯，梯然，梯上人皆死”。但当时的“火箭”，只是在箭杆靠箭头处绑缚浸满油脂的麻布等易燃物点燃后用弓弩发射出去，用以纵火。火发明后，上述易燃物被燃烧性能更好火药所取代，出现了火药箭。靠火药燃气反作用力飞行的火箭问世后，仍沿用这一名称，但其含义已根本不同。
（一）宋、金、元时期的火箭
北宋（960—1127年）是火药和火器用之于军事目的的较早时期。在这以前，五代（907—960年）末期可能有的地区已有了军用火药，并制出初期的火器。北宋初期，由于作战的需要，对兵器制造极为重视。除常规武器外，这时的火器主要是靠弓弩发射的火药纵火箭和靠抛石机投出的各类火球（火药包）。并设“广备攻城作”，管理火药、猛火油等十一个作坊。宋初的统治者，有时亲自观看纵火箭的演放。但1127年北宋亡于金，因此汴京等地的火药、火器作坊和工匠为金所有，并反过来用火药攻打南宋。蒙古政权于1206年建立后，先后灭西辽和西夏，进而南下攻金，于1153年占领金中都（今北京）。金被迫迁都南京（即北宋的汴京，今河南开封）。自此蒙古军也掌握了火器。
1128年，南宋政权建立于临安（今浙江杭州），中国境内除吐蕃（今西藏）、大理（今云南境内）外，主要是南宋、金和蒙古三个政权经常相互交战，并且彼此都使用火器。因而在十二、十三世纪的中国一些主要战场上，总是硝烟弥漫、火光冲天、响声震耳。根据史料记载，1161年，金主完颜亮率水军在采石镇（今安徽省当涂北）附近的长江江面上与南宋大将虞允文指挥的水军发生激战。完颜亮在岸北以小红旗指挥先行抢渡入江的金军，准备次第渡江攻占采石，再挥兵趋建康府（今南京）。不料采石的军民在虞允文的指挥下，奋力应战。宋军虽只有一万八千人，在人数上居寡势，但他们善于水战，又掌握有浆轮战船和先进的火器“霹雳炮”。他们首先将抵至南岸的金船七十艘拦腰切断，用轻快战船“海鳍”冲至敌舟，使其沉没。又出动藏于中流的精兵从上流攻向金军。宋军从船上发射霹雳炮，使对方伤亡很大。这种武器由纸筒做成，内置发射药和爆药，并混有石灰屑。点燃药线后，发射药燃烧喷出火焰，借反作用推力将武器射向敌舟。然后发射药引燃爆药，发出巨响，纸筒炸裂而石灰散为烟雾，使金军睁不开眼。宋军趁乱火烧其余金船，并射杀其有生力量，取得采石大捷。霹雳炮飞向空中，下落到江面时，甚至还可在水面上爆炸，实际上是火箭弹。
完颜亮失败后，又从另路攻宋的水军，由工部尚书苏保衡率领，企图从海路攻打南宋都城临安。但他们在山东密州胶西县陈家岛（今胶州湾）又被宋将李宝军击败。李宝，河北人，早年为岳飞（1103—1142年）部下，屡建战功。1161年任浙西路马步军副总管，率战船一百二十艘，射手三千人，抗击金水军。途中援救了被金军困在海州的魏胜抗金义兵，并与山东义军取得联系，再从海上进军到密州胶西县。当得知金军不惯水战的情报后，及时发动进攻。逼近金船后，李宝所部突然鼓噪而进，金军失措。“宝命火箭射之，烟焰随发，延烧数百艘”。金船大半起火被焚，少数幸免于火的金船，也由跃上船头的宋军以短兵击刺。金军中汉人脱甲而降者三千多人，主帅苏保衡只身逃离，金舰队被全歼。魏胜攻克海州后，又增加了金军的后顾之优。这时金内部发生宫廷政变，东京留守完颜雍自立为帝（世宗），废完颜亮。完颜亮进扬州，为部下所杀。
金军在与宋军多次交战中，由于受火箭袭击而遭溃败，因而决心掌握这种武器技术，并以这种武器对付敌军。1232年四月，蒙古将领速不台受大汗窝阔台（世宗）之命，率部围攻金都（开封府）。守城军民奋战十六昼夜，金将赤盏合喜以铁制炸弹（“震天雷”和“飞火枪”）袭击蒙古军，使其畏惧。速不台不得不暂时退兵。1233年，金归德府守将蒲察官奴又率忠孝军，分乘战船出发，趁夜捕杀蒙古守堤巡逻兵，偷渡至蒙古军在王家寺的大营。所谓忠孝军，是依附于金的各族部队，包括回 、乃蛮、羌、浑和中原的汉人，作战英勇。初由金定远大将军完颜陈和尚（名彝，1192—1232年）统率，成为抗蒙的一支劲旅。蒲察官奴将忠孝军分成若干小队，持飞火枪夜袭蒙古大营。由于蒙古军腹背受敌，仓皇间溃败，溺水死者三千五百余人。官奴尽焚其寨，取得一次胜利，这是文献明确记载的火箭攻击战。
1233年，金都城久困后终被攻陷，速不台率蒙古军入城。最初，窝阔台（1186— 1241年）听从中书令耶律楚材（1190—1244年）的建议，弃屠城旧制。楚材说：“凡弓矢甲仗金玉等匠及官民富贵之家，皆聚此城中。杀之则一无所得，是徒劳也。”又说：“所争者，土地与人民耳。得地无民，将焉用之？”因诏从其议。除完颜一族外，余皆得免。因而开封府内制造火器（包括火箭）的技工尽为蒙古所有。蒙古军掌握火箭等火器后，其军事装备为之一新。1234年，南宋与蒙古合攻金的最后据点——蔡州，金灭亡。此后，蒙古便竭尽全力于西征和灭宋两项目标。火箭技术也就被传入了欧洲。
元代版图很大，但统治时间并不长。由于阶级压迫和民族压迫深重，各地不断爆发抗元斗争。元末至正年间（1341—1368年），农民起义的规模最大，而元军在镇压群众起义时，也动用了火箭。1351年湖北罗田人徐寿辉聚众破薪州、黄州，将士头戴红巾，号称“红巾军”。红巾军于1352年攻下武昌，再分兵取江西、湖南等地。当徐寿辉部乘数千艘船顺流至九江攻城时，元总管李枷督军守备，以木桩封锁江面，更发火箭向红巾军战船射之，使义军受到损失。1353年，徐寿辉率部从江西向浙江进发，攻下杭州，1355年称帝后迁都汉阳。与此同时，其他各地起义也接踵而起。
徐寿辉率众起义后，1352年，泰州盐贩张士诚（1321—1367年）及其弟士德、士信也率盐丁起兵，五月攻下高邮，屯兵于东门。时元将纳苏喇鼎麾兵挫其锋，张士诚部卒鼓噪应战，元兵“乃发火筩火镞射之，死者蔽流而下”。不久，张士诚另路援军赶到，元兵不能支，主将纳苏喇鼎战死，遂溃不成军。次年，张士诚以高邮为都，自称诚王，国号大周，建元天赫。此后，更渡江攻下常熟、湖州、松江、常州等地。1356年，张士诚又定都平江（今江苏省苏州）。1352年元将纳苏喇鼎攻张士诚时用的“火镞”就是火箭，而“火筩”指喷火筒。元兵溃败后，这些武器又为张士诚部所有。因而在元代，除官兵外，农民义军也掌握了火箭武器。
（二）明代的火箭
元末的农民起义动摇了元代的统治。原来属于郭子兴部红巾军属下的朱元璋夺取了农民起义的果实，在排除异己后，于1367年出兵北伐，1368年即位，国号为明（1368—1644年），建元洪武（1368—1398年），定都南京。明太祖朱元璋在推翻元代统治和统一中国的斗争中，也是多以火器取胜。前述元末徐寿辉的红巾军建都汉阳后，1357年其部将明玉珍率军入蜀称帝，国号大齐。洪武四年（1371年），朱元璋令汤和、周德兴、廖永忠率水军攻齐，蜀齐以长江三峡之天险抗击。1371年，廖永忠至夔州，欲攻瞿塘关，时蜀平章邹兴设铁索飞桥横据关口，桥上安置火炮，且值长江水涨。廖永忠不得正面进攻，乃命壮士操小舟偷渡上游，趁夜水陆兼行，以铁包船头，置火器向前。先破陆寨，再由上流水军夹击水寨，“发火炮、火筒夹攻，大破之。邹兴中火箭死”。遂焚桥断索，长驱直入。在这次瞿塘关战役中，明将廖永忠水陆军并进，以火炮、喷火筒和火箭兼用的迂回夹击战术，取得成效。
