基督教在这许多相互之间毫无关系而又有不同传统与环境的各个地方发展，若没有形成不同的教条与习惯，也足够令人惊讶了。尤其是在希腊这个爱好辩论及形而上学的民族中，基督教似乎早已注定要演变成一股异端的洪流。唯有借着这些异端才能稍微了解基督教，基督教虽然打击这些异端，但多多少少还是接受了他们的形式与色彩。
只有一个“信仰”可将这些分散的会众联合起来，就是基督是神的儿子。他将要二次降临，在地上建立他的王国，所有信他的人，在最后的审判时，将要接受永生的赏赐及祝福。但是关于基督二次降临的时间，基督徒们各持己见。尼禄王死后，提图斯王拆毁圣殿，接着哈德良王又破坏了耶路撒冷城，许多基督徒都为这些大灾难而欢呼，认为这些都是基督二次降临的预兆。到2世纪末，当罗马帝国遭受混乱的威胁时，德尔图良及其他的教父均认为世界末日近了。有一个叙利亚的主教带着他的会众进入沙漠之地，希望能在中途遇见基督。另有一个本都的主教，因为宣布基督在一年之内二次降临，而使社会秩序大乱。当这些现象过去后，基督仍然未来，因此许多聪明的基督徒开始重新解释基督二次降临的时间，以缓和人们的失望情绪。在一封可能是巴拿巴所写的书信中，曾提到基督将在1000年后二次降临。某些很谨慎的信徒也发表了他们的意见。他们认为，当这个世代或犹太人被灭亡了，或者当福音被传遍外邦各地，基督才会二次降临。《约翰福音》中也曾记载，当基督离开信徒后，他要差遣“圣灵”到信徒当中。最后，“天国”由地上而转变成在天上，从今生转变成来生，甚至连教会都反对千年国度的信息——基督将在1000年后二次降临——甚至指责其中的不当。对天国的盼望，维持了基督教的生命。
在公元后的3个世纪里，有一些跟随基督的人，开始在信仰上有了分歧。于是有了许多教派，除了基本的教义外，他们各自的教条均不甚相同。这些各自不同的宗教上的信念，都希望能获得成长中的教会的采纳，然而教会不但不采纳他们，反而逐一将其列为异端。假如我们想将这些宗教上的信念加以评述的话，我们就误解了历史的功能。诺斯替派是一个希望借着神秘的方法寻求神圣知识的教派，它不仅是异端，而且是基督教的劲敌。其诞生早于基督教，在基督降生之前即已宣布救世主的理论。那个与彼得同称西蒙而被彼得斥责为“买卖圣职”的撒马利亚魔术师，可能就是《大展览》（Great Exposition）的作者，这集合了许多东方关于如何引领人进入神秘境界而知道所有事情的方法。在亚历山大城，俄耳甫斯教派、新毕达哥拉斯学派及新柏拉图主义者的传统，与斐洛“理性”哲学融混在一起，激发了巴西利德斯（Basilides，公元117年）、瓦伦廷（Valentinus，公元160年）及其他人形成了一个有关神性流露及世界拟人化的“依恩”（aeons） 的奇异体系。在埃泽萨地区，巴尔德撒纳斯（Bardesanes，公元200年）借着散文与诗描写“依恩”，创造了叙利亚的文学。在高卢信奉诺斯替教的马库斯，向妇女们透露守护天使的秘密。他的这个启示是具有谄媚性的，但是他也因此得了不少的信徒。
然而早期的异端中，最大的倒不是诺斯替教，而是那些受他们神话所影响的人。约140年，马西昂（Marcion），一个富有的锡诺普青年，到了罗马，宣誓要继续完成保罗将基督教从犹太教中分离出来的工作。他认为四福音的基督，将他的父神描写成一位仁慈、宽大、充满爱的神。但是《旧约》中的耶和华，却是一个执法如山、暴虐好战严厉的神。这个耶和华绝对不可能是温和的基督的父亲。他提出疑问，若神是善良的，为什么他会因为亚当对知识的好奇，吃了禁果、喜悦女人，而判定整个人类必须因此受痛苦？耶和华的确存在，是宇宙的创造者，但他却用物质造了人，因此将人的灵魂拘禁在罪恶的身体中，为了拯救人的灵魂，脱离罪恶的身体，一个更伟大的神差遣了他的儿子到地上来。于是，基督以虚幻的、非真实的肉体出现了，借着他的死，善良的人获得灵性上的复活。马西昂又解释说，所谓善良的人，就是那些跟随保罗、拒绝耶和华及犹太的《律法》、弃绝希伯来经文、远避婚嫁及所有感官之乐及能够借禁欲主义而克服肉体的人。马西昂为了宣传这些观念，特地发行了包含《路加福音》与保罗书信的《新约》。于是罗马的教会把他逐出教会，但将他来罗马时奉献给教会的金钱退还给他。
当诺斯替与马西昂的思想同时在东方与西方迅速传播时，已有一个新异教首领在密细亚一带出现。大约在156年，孟塔努斯（Montanus）严厉抨击基督徒尘世成分的增加，及教会中主教专权的渐长。他要求基督徒回到原始单纯而严谨的境界，全会众均有先知讲道或说启示性言语的权利。有两个妇女——普里西利拉（Priscilla）和马克西米拉（Maximilla）——因为接受了孟塔努斯的论调而落入宗教的神魂超拔状态中，她俩的言论也成为该教派中活的神谕。而孟塔努斯本人，当他做预言时，带着一种动人的忘形的神态，以至一些追随他、富有宗教狂热的佛里吉亚人，认为孟塔努斯就是基督曾应许的保惠师。他宣布天国已经近了，《启示录》所提到的新耶路撒冷城，也将由天降临在附近一个平原上。他带领许多人搬到那所说的预定地，以至于许多城镇都搬空了。在早期的基督教生活中，婚姻与亲情的关系非常不受重视，而所有的财物都由公共享有，大多数人都是专一的禁欲主义者，准备自己见基督。约公元190年，当罗马总督安东尼在小亚细亚压迫基督徒时，成百的孟塔努斯的信徒因为渴望乐园，聚集在安东尼的席前求死，愿为理想而殉道。安东尼无法成全他们，只将一部分人处死，而对那些释放的人说：“可怜的人啊！若是你们都想死，难道没有绳子和悬崖吗？”在罗马，教会禁止了这个教派、视之为异端。6世纪，查斯丁尼下令消灭这个教派。而许多虔诚的孟塔努斯信徒聚集在他们的教堂，用火将自己活生生地烧死。
其他一些较小的异端，从未断绝过。禁戒派戒肉、酒及性欲；阿布斯蒂内恩特（Abstinent）派则实行自我禁欲，并视结婚为罪恶；多塞提斯特派（Docetist）认为基督的身体不过是个幻象，并非真的血肉之躯；迪奥多蒂翁派（Theodotian）认为基督只不过是一个人而已；基督义子派（Adoptionist）及萨莫萨塔（Samosata）地区的保罗的追随者，认为基督曾降生为人，但是借着道德的完整，而达到了至圣境界。形态派（Modalist）、撒伯里乌派（Sabellian）认为基督与上帝是同一个人，一性论派（Monphysite）认为他们的本质是一个，一志论派（Monothelite）认为他们的意旨是一个。虽然充满了各样的异端，但是教会借着优越的组织、坚固的教条及对信徒们需要更清楚的了解，克服了那些异端。
到了3世纪，东方又有了新的危机。公元240年，沙普尔一世加冕时，有一个泰西封的年轻的波斯神秘家摩尼（Mani）宣称自己是真神差遣到世上的弥赛亚，为的是改善人类宗教及道德生活。他借用拜火教、密特拉教、犹太教、诺斯替教的教义，将世界分成两个敌对的领域，一个是光明，一个是黑暗，他认为世界是属于黑暗的王国，并且人是由撒旦造的，然而光明之神的使者秘密地将一些光明的因子——思想、智慧及理性——传给人类。他并且强调说，即使是女人——撒旦用来引诱男人犯罪的杰作——在她里面还是有不少光明的因素。若一个人远离性的诱惑、偶像及巫术，并且过素食主义及禁食的禁欲生活，那么他里面的光明因子将会克服他犯罪的冲动，而使得他能够得救。经过三十年很成功的传道之后，摩尼在拜火教僧侣的建议之下，被钉死在十字架上，然后他的皮又被塞满了稻草，挂在苏萨城的一个城门上。摩尼的殉道点燃了信徒们狂热的信心，于是摩尼教传到了西亚及北非，奥古斯丁也曾醉心于此达十年之久，并且历经戴克里先的迫害，及伊斯兰教的征服，仍能苟延残喘达1000年之久，直到成吉思汗的来临。
那些古老的宗教仍然占据了帝国大多数的人，犹太教聚集了一些被放逐的穷人，将他们分散到各个会堂，使他们虔敬地遵行《犹太法典》。叙利亚人仍旧拜他们的太阳神巴力，埃及人的祭司仍很忠心地照顾他们动物的神庙。西布莉、伊希斯、密特拉仍受到人们的崇拜，直到4世纪末；当奥勒利安做罗马帝国的皇帝时，改良后的密特拉教会获得了罗马帝国的信任。他们仍旧到庙中许愿与献祭，帝国各地的人都热心信仰这个为帝王所赏识的宗教。但是渐渐地他们这种信仰生活已不符合古典的教条，除了少数人仍旧虔诚地过他们信仰的生活外，大多数人已不再警醒了，于是一些希腊人和罗马人，不仅因此放弃了他们以往信仰的这个宗教，更放弃了生活的意志。而且，过度的家庭节育、生理上过分的亏耗、战争的蹂躏，使他们的信徒人数更加减少，他们的教堂中也渐渐失去了教士。
约公元178年，当奥勒留在多瑙河与马科曼尼人争战时，异教徒曾企图乘机抵抗基督教。我们仅能由俄利根的《驳塞尔苏斯书》（Against Celsus）中对此略知一二，而这本所引用的一部分乃是出自塞尔苏斯所著的《真言》（True Word）。塞尔苏斯不是个纯理论派的哲学家，而是个绅士，他觉得他所享受的文明与古罗马的信仰有密切的连带关系。他决定打击基督教这个劲敌，以保护古罗马的信仰。他对这个新的宗教细加研究，甚至连满腹经纶的俄利根都敬佩他的博学。塞尔苏斯特别攻击《圣经》的可靠性、耶和华的性格、基督所行的神迹的重要性，及基督的死与他全能的神性之间的矛盾，并讥笑那些相信末日的火灾、最后的审判、身体的复活的基督徒：
认为神会像厨子一样，带着火将全人类烤焦，唯有基督徒能幸免此祸，这种想法，简直荒唐！不仅是现存的基督徒，即使是去世已久的基督徒，也要复活呈现他原来的身体。这简直是蠕虫的盼望！……唯有那些愚昧无知的奴隶、妇女及小孩，及没有受过教育的裁缝师、补鞋匠、漂洗者及罪人……或神所赦免的傻子，才会相信基督教的这套理论。
塞尔苏斯对基督教的传播，及基督教对异教、对服兵役及对罗马帝国的藐视和敌意大为震惊。若是罗马帝国的居民均屈服于这样一种和平主义的哲学，那么罗马帝国如何保护自己的疆土，如何抵抗盘踞在边疆的野蛮民族？他认为一个好公民，应该信仰自己国家和那个时代的宗教。其实这还是其次的，最重要的是要有一个能支持道德的品格及对国家忠心的统一信仰。于是，塞尔苏斯不计以往他曾给予基督徒的侮辱，苦苦哀求他们能转向罗马古老的神，敬拜罗马帝国的守护神，共同捍卫处于危机之中的帝国。没有一个人注意他，连异教文学也未曾提过他。若不是俄利根为了辩驳而提到他，他可能早被人遗忘了。君士坦丁大帝比塞尔苏斯聪明多了，他知道一个死的信仰是无法挽救罗马帝国的命运的。
