基督教刚刚开始的时候，号称是穷人的宗教，认为富人升入天堂比骆驼钻过针眼还要难。在罗马帝国时期，它基本上是遭到镇压的宗教，但是随着历史的发展，基督教逐渐成为整个欧洲的正统宗教。一直到现在，从某种意义上讲，西方文明就是基督教文明。
（1）罗马统治者对基督教的镇压
公元1～4世纪，由于基督教在思想上明确要求推翻罗马统治，在行动上拒绝崇拜罗马神和罗马皇帝，因而遭到了罗马政府的残酷迫害和镇压，《教会史》称之为“十大迫害”。
尼禄（公元54～68年在位）时的“火把事件”被认为是“第一次迫害”。64年，罗马发生火灾，熊熊大火整整燃烧了9天，直烧得罗马成为了一片焦土。罗马昔日的11个区仅保留下了4个。为平息人们的不满情绪，尼禄逮捕一切纵火嫌疑犯。据塔西佗所记：“这些人是当时负有恶名，为人所厌恶的一群被称做基督徒的人。”对于这些“罪犯”，尼禄用“各种残酷之极的手段惩罚他们……有些被用兽皮蒙起来，让群犬撕裂而死；有些被缚在十字架上，黄昏以后，点火燃烧，当作火把，照明黑暗”。
2世纪初年，小普林尼在任行省总督时，曾就如何对待基督徒的问题请示皇帝图拉真，图拉真在复函中明确指示，找到罪证的被告发者，必须受严厉的惩处。
据《圣经》提供的材料，12门徒中，彼得被罗马人逮捕，钉死在“十字架”上；雅各在耶稣死后不久被犹太大祭司处死于耶路撒冷；另外10门徒，大部分也在传教中被杀，由此可见，罗马帝国对基督教徒的迫害是十分残酷的。
但是罗马帝国末期，由土地问题和其它许多问题而引发的罗马帝国奴隶制危机，无论从经济上、内政上还是外交上都十分强烈地表现出来，帝国君权也随着危机的加深而愈加衰弱，整个社会的道德风尚、精神信仰发生了巨大的变化。不仅劳苦大众，连帝国一些知识分子和中层阶级的人士也对罗马政权的腐朽统治丧失信心。而从犹太教派生出来的饱含着多灾多难的犹太民族特有的容忍精神和聪慧联想的基督教则为人们提供了一个绝好的精神庇护所。到了公元3世纪末，基督教在罗马城里也拥有了相当多的信徒。甚至有5万人在圣安息日朝着耶路撒冷虔诚地膜拜。就连当时的皇帝戴克里先的皇后普里斯卡及公主瓦列里姬也满怀景仰地接受了洗礼。
但戴克里先却不想让步。公元303年，戴克里先藉口其驻节地小亚细亚的尼科米底亚宫起火，有人说是基督徒所为，下令禁止基督徒举行宗教仪式，拆毁全国教堂，烧毁经书，没收教会财产，将基督徒逐出军队和官吏队伍，将顽固的主教牧师提前送去见上帝，持续两年的宗教恐怖使基督教受到了沉重打击。这是罗马史上对基督徒规模最大的一次迫害，被《教会史》称为“第十次迫害。”
（2）君士坦丁大帝皈依
罗马帝国到了4世纪，危机更加严重。在戴克里先统治时，为了保证帝国的有效运行，采取了“四帝共治制”的分权统治方案。他任命了另一个“奥古都斯”——马克西米安来统率西罗马。他们各自又物色了一位“恺撒”（副帝）以辅助统治，这就是伽勒利和君士坦西阿。
公元306年7月5日，经过一番激烈的争权夺利战争而获胜的西罗马皇帝君士坦西阿在大不列颠的征讨战中死于约克。在不列颠军队的欢呼声中他的儿子君士坦丁成为西部“恺撒”。但此时他尚未在整个西罗马确立起他的绝对统治地位。前西罗马皇帝马克西米安的儿子马克森提乌斯仍然在罗马城内飞扬跋扈不服统治。于是君士坦丁为了捍卫西罗马皇帝的尊严，只得选择战争。
据说，公元312年，君士坦丁与马克森提乌斯决战前夕，君士坦丁作了个奇怪的梦。他梦见空中出现了一个光辉灿烂的十字架，旁边的一行字写着“有此符号者胜”。从梦中醒来，君士坦丁充满了必胜的信念。决心与马克森提乌斯决一死战。他命令所有士兵在盾牌上刻下希腊文X与P两个字母，这两个字母就是希腊文基督二字的字首。在这场战争中他果然击败了马克森提乌斯。战后，君士坦丁大帝开始意识到，基督教可用来作为强化帝国统治的手段和工具。于是他发布通告，放宽了对基督徒的限制，并采取了一系列宽容政策来改善基督徒的生存条件。于是罗马帝国的基督徒们把所有的希望寄托在君士坦丁大帝的身上。
公元313年，君士坦丁大帝与东罗马皇帝李西尼在米兰会谈，讨论承认基督教公开合法化的问题。李西尼为了实现由他一人统治整个罗马帝国的梦想，争取时间以加紧筹备武力，很快就同意了君士坦丁的建议。米兰会议以后，双方共同签订了一个著名的宗教宽容赦令，即米兰赦令。宣布宗教信仰自由，承认基督教徒与其他宗教徒具有信仰的同等权利，并把过去没收的教堂和教堂财产归还给他们。这是对基督教的一个让步，也是寻求基督教支持的一种表示。君士坦丁此时还不是基督教徒。
但会后不久李西尼就开始不断进行挑衅活动，君士坦丁大帝被迫在公元314年与李西尼开启战端。由于双方不分胜负，只好缔结和约。但和平持续不到9年，公元321年，李西尼又开始对基督教徒进行无情的迫害。公元323年，君士坦丁大帝和李四尼在阿得里亚堡重摆战场，这一仗李西尼全军覆没。至此，君士坦丁大帝重新统治整个罗马帝国，再次完成统一罗马帝国的大业。
这时，教会中发生了一场严重的争论，逐渐蔓延到帝国的每一个角落，对君士坦丁大帝的统治极为不利。这场历史性的争论即阿里乌斯派的异端争论。阿里乌斯是亚历山大教会的长老。亚历山大教会在这时与罗马教会并居基督教的中心地位，所以阿里乌斯公然提出在圣父、圣子、圣灵三者中，只有圣父是永恒的。圣父首先创造圣子，而后圣子创造圣灵，因此，圣子与圣父不能同等。这是对基督教基本教义的分歧，结果造成了基督教徒思想上的混乱，因此这个观点遭到了罗马教会的驳斥，但却得到了罗马帝国东部的基督教徒的支持。君士坦丁大帝深知如不立刻作出一个权威性的裁定，很显然东部基督教徒将会分裂成两派，那时他利用基督教会凝聚整个帝国基督教徒成为坚强同盟的可能性将完全丧失。
于是在公元323年，君士坦丁大帝以皇帝身份，自愿担任调停这次争论的角色。他在小亚细亚的尼西亚召集了东部所有主教参加的会议。当时共有318名主教出席了会议，罗马教会也派遣了一个主教团参加。会议用了很长时间辩明这一争端，阿里乌斯也亲自出席辩论，但大多数与会者反对阿里乌斯的学说，认为圣父与圣子是同一的。会议据此制定了“尼西亚信经”，确认基督与圣父、圣灵同体，因而也是永恒的。这时君士坦丁还未受洗，他担任了会议主席，并批准了会议决议。阿里乌斯被流放到伊利里库姆，他的一些拥护者被放逐到高卢。
这次会议虽然暂时解除了教会的危机，但阿里乌斯的理论并未消失。他在宫廷官员中有许多拥护者，君士坦丁后来也倾向阿里乌斯教派。因为这个教派拥护皇帝的强权政治，它不谋求教会独立，愿意使教会完全依附世俗政权。
尼西亚会议之后，君士坦丁对全境的基督徒公开承认，基督教获得了传教与信仰的绝对自由，至此，教会具有了权威性。
公元337年，君士坦丁患了重病，在病中从阿里乌斯教派的教士优塞比乌斯手上接受了基督教洗礼。
（3）君士坦丁大帝皈依的巨大影响
君士坦丁的最大功业之一，就是确立了基督教在欧洲不可动摇的地位，强化了帝王政权与基督教会的合作，奠定了中世纪欧洲的基础。
刚诞生时的基督教为广大受苦受难的人们播下了新的希望，对救世主的热切盼望减轻了他们的痛苦。但仅仅两三百年，人们的救世主不仅没有来解救他们，反而给他们悄悄地戴上一副新的精神枷锁——基督教会的压迫。尤其具有讽刺意味的是，踌躇满志的君士坦丁大帝永远也不可能想到，从他那里得到保护的基督教羽翼日渐丰满，他们的野心随着他们势力的扩张而与日俱增，当他们看到垂死的西罗马帝国已完全依赖他们的时候，就毫不犹豫地由奴仆上升为主人，把这个世俗政权遮蔽到自己的羽翼之下。妄图把基督教作为统治工具的世俗政权确实认识到了基督教的作用，却低估了它的威力，到头来自己反倒成为为教皇们的统治摇旗呐喊的士兵。至此，古希腊、罗马的文明之光在欧洲彻底熄灭了。