早在4世纪中期，日耳曼的一支蛮族法兰克人闯入了罗马帝国，358年，罗马帝国皇帝允许他们在高卢定居。5世纪末，法兰克人已经控制大部分的高卢地区。
法兰克人梅洛温在高卢建立了第一个法兰克人的王朝，但此王朝的后几位国王非常软弱无能。有位颇具雄心的大臣“矮子丕平”，于751年在教皇的支持下，废黜梅洛温王朝末代国王，创建了加洛林王朝。丕平死后，法兰克王位传到查理与卡洛曼兄弟手中。不久卡洛曼即病死，查理遂成为法兰克王国唯一的统治者，后人称之为查理大帝（742～814年）。
当时，统治意大利北部的是伦巴底国王德西迪里厄斯，他本是查理的岳父。而查理的弟媳在丈夫死后，便带着失去了继承权的儿子逃往伦巴底寻求保护。德西迪里厄斯便以此为借口，向罗马教皇施压，要求让这个孩子重新获得继承权。于是教皇派人与查理协商，希望他把军队的指挥权划归在教皇手下，以便向伦巴底国王挑战。查理是个虔诚的基督徒，再说，他也想把意大利北部据为己有，岂能错过如此天赐良机。于是，他立刻以解救教皇的厄难为名，向意大利进军。
法兰克军兵分两路，查理亲自率领其中一路大军翻越阿尔卑斯山，长驱直入。伦巴底军的抵抗十分顽强，仍挡不住查理锐利的攻势。另一路法兰克军也已赶到，两路夹击，伦巴底军招架不住，只得退回都城帕维亚，依靠坚固的城墙进行防御。但查理是个不达目的决不罢休的人，他在城外扎下冬营，度过凛冽的寒季，经过长时间的围困，德西迪里厄斯被迫投降，并被押到法兰克王国。
胜利之后，查理与教皇签订了协定：罗马教皇从查理手中接受托斯卡纳等土地，而教皇授予查理“罗马人的外国皇帝”资格，并被封为“法兰克人与伦巴底人的王”，具有罗马与意大利北部地区的统治权。
778年夏，查理又率兵越过比利牛斯山远征西班牙，用强大的武力把撒拉森人逼退，迫使他们退回比利牛斯山以南地区，在那里建立了一个西班牙马克边区。萨克森人居住在德意志西北部的森林中，凶悍善战且一直保持着他们的异教信仰和独立的地位。他们常常入侵，胜则南下烧杀掳掠，败则隐没在丛林之中，踪迹难寻。经过3年苦战，查理终于击败萨克森军。萨克森王维蒂金逃往国外。一年后他又渡河返回本土，重新起兵，并在战场上屡屡得胜。查理调动了几乎所有的兵力，再次击溃维蒂金军，但他再次逃往国外。盛怒之下，查理对参加反叛者进行了最为残酷的血洗。据说有4500名萨克森人被集体屠杀。然而令人惊异的是，782～783年，维蒂金又卷土重来。查理进行了多次围剿，始终无法将其彻底征服。从772年到804年，查理大帝和萨克森人大战18次之多，经过33年的较量，他终于意识到萨克森人倔强不屈的性格，便改变策略，一方面对被征服的萨克森人强行迁徙并使其改信基督教，另一方面放弃了大屠杀而实施安抚，最终征服了萨克森人，使其成为法兰克臣民。维蒂金被封为萨克森公爵，他就是日后法国卡佩王朝的先祖。
经过几十年的连续征战，查理建立了一个继罗马帝国之后欧洲最强大的帝国。他派了一支远征军去讨伐并征服极西端的不列颠人，又用武力把东方的文德人远远赶出边境之外。接下来是对匈奴人和阿瓦尔人的战争。这些强悍的游牧民族曾骚扰欧洲达几个世纪，后来就驻扎在多瑙河下游，一直是查理大帝的心腹之患。查理大帝与匈奴、阿瓦尔人的鏖战空前惨烈，前后持续8年之久。在战斗中，他调用了最大的人力和物力，并曾亲自深入匈奴首都潘诺尼亚，直捣敌军的老营，击溃了匈奴主力部队。匈奴的行宫被夷为平地，以致很久以后这片地区还一直是无人区，从而彻底解除了匈奴人对欧洲的威胁。不久，多瑙河流域的一些国家纷纷向法兰克人称臣。
在查理大帝统治的46年间，他曾进行过53次重要战役，亲自参加过30次远征；他18次大战萨克森人，九战阿拉伯人，三战匈奴阿瓦尔人，最后还抗击过北欧海盗，在武功上可谓达到了鼎盛。799年5月，教皇利奥三世遭到阴谋篡权者的袭击，逃往查理的宫廷避难，查理派人护送他返回罗马。教皇见他力量这样强大，便赠给他罗马军旗，想和他共同控制欧洲。
800年圣诞节那天，查理大帝来到罗马圣彼得大教堂做弥撒。正当他做祈祷时，教皇利奥三世突然拿出一顶金冠，戴在查理大帝的头上，罗马的教士和贵族们开始齐声高呼：“奥古斯都·查理承上帝之命戴上金冠！天佑我罗马人的皇帝，赐予他和平、胜利！”这样，查理大帝就被奉为“罗马帝国皇帝”。
查理大帝的征战不仅扫平了西欧的混乱局面，使西欧自罗马帝国以后第一次统一在一个较为安定的国家政体之内，这对日后欧洲历史发展的进程和文化的振兴，都产生了十分深远的影响。814年查理大帝去世。他死后不久，帝国就出现了分裂。到了413年，他的三个孙子各自为王，所统治的王国分别成为后来的法兰西、德意志和意大利的前身。