1944年9月8日19点左右，英国首都伦敦的居民，没有听见空袭的警报，却看到了猛烈爆炸后的火光，当时谁也不知这是什么武器。后来查明，它是法西斯德国在荷兰首都海牙近郊，隔着英吉利海峡发射的V-2弹道导弹。
导弹的出现，是军事科学技术发展的必然结果。第一次世界大战后，随着飞机在军事上的应用，人们开始研究远距离控制飞机和自动制导炸弹。1926年美国人哥达斯成功地发射了世界上第一枚液体火箭，并达到了超音速。与此同时，德国的一批业余火箭研究者，成立了“宇宙航行俱乐部”，从事火箭理论与试验的研究。20世纪30年代，法西斯德国出于侵略战争的需要，成立了庞大的火箭研究中心。经过十年的努力，他们在空气动力理论、火箭推进技术、自动控制系统、电子设备、无线电雷达技术、航空材料工艺等方面做了大量工作后，终于在第二次世界大战结束之前，制成了世界上最早的V-1飞航式导弹和V-2弹道式导弹。
导弹与火箭不同，它的原意是“导向炮弹”或“导向火箭”。导弹与火箭的根本区别就在“导”字上。就是说，装有控制系统，能自动导向目标的火箭武器是导弹。
从第二次世界大战结束以来，弹道导弹经历了四个发展阶段：
40年代末至50年代末为第一阶段。这一阶段主要解决弹道导弹的有无问题。继德国之后，美苏在此期间先后成功地研制了近、中、远程各种类型的弹道导弹。如美国的“红石”、“丘比特”、“宇宙神”；苏联的“SS-1”、“SS-5”和“SS-6”等。这一阶段弹道导弹的性能较差，发射准备时间长，且易被发现，防护能力差，生存力低。
50年代末至60年代中为第二阶段。这一阶段主要解决的是提高战略弹道导弹系统在核袭击下的生存力以及进一步提高战略弹道导弹的性能。在此期间，美国出现了地下井发射的洲际弹道导弹“大力神Ⅱ”、“民兵Ⅰ”、“民兵Ⅱ”以及潜射导弹“北极星A1”、“北极星A2”等。苏联也相应装备了洲际弹道导弹和潜射导弹。这一阶段弹道导弹提高了生存能力，缩短了发射准备时间，提高了命中精度。
60年代中至70年代末为第三阶段。这一阶段主要解决导弹的突防问题。为此出现了集束多弹头导弹和分导式多弹头导弹，这些导弹都带有突防装置。此外，通过加固地下井，进一步提高了生存能力。洲际导弹的命中精度已达到0.185公里。
80年代以来，战略弹道导弹进入了一个新的发展阶段，总的趋势是进一步提高导弹的进攻能力、生存能力、突防能力和战备性能；大力研制全导式多弹头；广泛实行固体化和机动化。