一、教父时期
１、早期教父的教会观
有关教会的教义，在基督教早期的文献当中就有其根基了。在使徒时代的教父与护教者的文献中，论到教会通常被称为神产业的代表者。虽然说到神的子民为真以色列人，但是在历史上的预备时期，却往往不被人所了解。甚至在第二世纪，关于教会的观念，也都有些可以觉察出来的变迁，那乃是由于异端的兴起，使得真正大公教会外部的特性显露出来。因为这样的结果，大家都特别强调外部的特性，以兹区别何为真正的大公教会，结果教会被认为是一个外部的组织体，为使徒继承者之主教所治理，并且拥有真正的遗传。这种观念颇为流行，认为世界所有普遍的教会，都是地方教会，也都有地方教会的历史性，但是这个地方教会，不能被视为一分离的团体，应当被视为普遍教会的一部份，只有这些分离单位的教会对大公教会尽忠、服从时，她们才被认为是真教会。
２、其他派别的教会观
可是在其他派别里，他们特别强调教友的圣洁，以此圣洁程度来定夺教会的真伪。主张此学说的人，就是第二世纪中叶的孟他努、第三世纪中叶的诺洼天，与四世纪初的多纳徒派为代表，主因是由于他们反对教会逐渐的世俗化与贪爱世界而产生的。孟他努派的领袖，猛烈地攻击教会的松驰与世界化，并且坚持苦修的生活习惯，他们说受洗以后所犯的大罪是不可赦免的，但是他们却也说，藉着殉道能够补赎大罪。诺洼天派并不同意孟他努派的说法，但却赞同、遵循追求教会的圣洁，他们主张教会没有权柄赦免那些受逼迫而否认神信仰的人再加入教会，但却发现有些主教接纳这些人入教，并重新给予施洗。多纳徒派在罗马皇戴克里先**的时代，也有这样的趋势，他们有力地坚持教会惩戒，与纯洁的教友制度，反对灵性上有缺失的人作他们的牧师，拒绝政府干扰教会；但同时他们却又力求皇帝的恩宠。
教父们对于这些派别非常反对，并且强调教会的主教制度。居普良是特土良的学生，是头一个倡导教会主教制的人。他认为，主教是由主自己所选召的，是使徒真正的继承人，并主张根据马太１６：１８节，教会是建立在主教上，而主教是教会绝对的主宰，至于决定谁属于教会的权力完全在乎主教，某人犯罪后想重新加入教会也是由主教决定；他是以神祭司的身份来领导教会崇拜，并以那个资格来献祭。居普良是头一个教导牧者有真正祭司职份的人，按他来说，主教可以成立一个教团，召开主教会议，如此可代表教会整体的合一，他乃是以主教的合一作为教会合一的根基；他同时也主张各主教间地位的平等，并不将优先权让给罗马的主教；并称背叛主教就等于背叛神，任何人不服从主教，就没有资格和教会来往，结果那人的得救也遭到怀疑，而真正的会友总是在教会内，教会以外没有真正的救恩。这种的教会观使得居普良否认异端所施洗礼的有效性，很明显地，对他来说，一个在教会之外的人，不可能吸引别人到教会来，而且他相信只有教会领袖才可领受圣灵──因他只有在教会内才分赐给人──才能将赦罪之恩分赐给人。这样，居普良是首先发表大公教会观念的人，清楚地包含所有基督教会的各分支，并且藉着有形的与外部的合一联系在一起。一位神学家说：“这是居普良导致教会错谬与腐败更深一层的贡献。”
４、奥古斯丁论教会
奥古斯丁的教会观也是在以上所说的思想范围内，他与多纳徒派之思想间有一番挣扎，迫使他对教会的本质有更深一层的反应。说来可悲，他的教会观与他所倡罪与恩典的教义不相一致，事实上在他的教会观念上存在着二元论，一方面奥氏主张预定论，认为教会是蒙拣选者的集团，拥有神的灵并有真正的爱心，其中最重要的是在于实质，而非仅是外部的参加教会圣礼而已，且由于此团体的代求，罪就得到赦免，得到神的恩典，因此圣徒（教会）真正的联合是无形的，但是此联合只能在大公教会内，因圣灵只有在教会内才工作，且只有在教会内才有真正的爱。
另一方面，奥氏也是一个主张主教制的人，一般说来他持守居普良的教会观，认为真正的教会就是大公教会，而在这个教会中，使徒的权威透过主教的继承而延续下去，且教会将不断扩展下去；而在教会之外就无救恩，因为人只有在教会内才能被爱充满得着圣灵；而教会的圣礼不仅仅是一种象征，乃神能力实际的应用，在洗礼中神真的藉此赦免人的罪，在主餐中真实地给人属灵的复苏；在这个教会中虽有各形各色的人，但是论到完全的纯洁则在将来才会实现。
多纳徒派人士批评奥古斯丁将教会分成两个：现今混杂的教会与将来在天上的纯洁教会。奥氏为了回答他们，他主张现今的大公教会也有纯洁性，但是在客观的组织上，即在教会的职份，如大主教、主教、神甫等，圣礼与管理上当力求纯洁；除此之外，奥氏也护卫一个主观上的圣洁，虽然他承认教会中有好的有坏的信徒混杂一起，但是他却主张这两类人同时存在，并不具有相等的意义，虽然那恶的人不能从教会外部的组织上除去，但是就内部来说，他们与真正敬虔的人是分离的，他们虽属于教会却不在教会里，他们是基督身体里的毒瘤，一定要被铲除掉。如此在思想上奥氏影响了多纳徒派想要在生活中实践的纯洁性。
５、奥古斯丁论神国
在这里还有一点值得考虑的，就是奥氏论神国的教义。早期教父用“神国”一词来描述教会发展的结果与目标，也就是所说末世论的国度。但奥古斯丁说：“教会在现今就是天国。”虽然他也把这意思用在教会的领袖身上，可是他说这话的主要意思是，圣徒组成了神的国。虽然神的国在本质上来说，是那些敬虔的圣徒，但是也是有组织的教会，在上帝之城与世界之城间的对比，被认为是基督教与异邦主义、善与恶、教会内的圣徒与恶人、属灵的与属肉体的、蒙拣选与未蒙拣选之间的对照。
在奥古斯丁有关教会分歧的观念中缺乏综合性，但值得怀疑的是，到底实际情况中是不是真能有综合性呢？兹提出一些问题之三重回答来回答这些问题。可以说：谁在教会中？（a）一切预定得救的人，包括未悔改之人。（b）一切信者，包括那退后之人。（c）所有参与圣礼之人。可是问题又来了，哪一个是真教会呢？是受洗礼者的外部交通呢?还是选民与圣徒的属灵交通呢？抑或二者都是，因为在外部交通和属灵交通之外没有救恩？此外为选民所组成的教会，与信者所组成的教会，怎么能发生关系而有联系呢？我们可以清楚发现，因为信者当中有些人不是在被选之列，所以后来也是灭亡了，二者可说毫无关系。当奥古斯丁说，没有一个人有了神为父而不在教会中的时候，他说的就是那有形的大公教会。自然问题又发生了，关于那些未曾加入教会的选民又将如何呢？再者，假如有形的大公教会，如奥古斯丁所主张的，就是基督的真身体，这岂不证明多纳徒派所争论，恶人与异端者不能容留于教会的论点是真实的吗？再有，假如这个教会是以神预定的恩典为根基，那么曾经接受重生之恩与在洗礼中罪得赦免的人，怎么能再失去恩典而得救呢？最后，如果神是诸多恩典的唯一来源，而且此恩典又是随他己意来分配的，那么要把这个能力归给有形教会的洗礼，又靠教会组织成为会员来得救，这样做可以被认为是适当的吗？关于这一点，可以说奥氏对预定的见解，使得他与他同一时代的人，远离了圣礼主义的方向。
二、中古时期
１、教皇观念的发展
在中世纪时期有两项较显着的观念，那就是天主教的权势占了优势，与以教会为神国的观念。
在主后四、五世纪的时候，教会的遗传非常盛行，说基督将那首要的权柄赐给了彼得，使他超过其他使徒以上，并且说彼得是罗马天主教的第一任教皇；此外，据说这个首要的地位传递给了他的继承者，就是帝国基层的主教。主后五三三年，拜占庭皇帝犹斯丁念承认罗马主教的权位，在所有其他区域的主教以上；贵格利一世时拒绝“普遍主教”的称呼，但是在六○七年，这名称又加给他的继承者波尼法修第三，而波氏也接受了。此后，罗马的基层主教属灵的权势在西方世界中广被接纳，这就是天主教教皇制度的开始。这样一来，教会就接纳了外部有形的元首，不久就演变成为一个无上的主权者。
２、教会被认同为神的国
随之而来的发展就是大公教会即为神的国，因此天主教的管区就是属世的国，这种观念受到两种伪造的鼓舞：君士坦丁的贡献与伪造的教宗谕令。这二者在当时都是欺骗百姓，藉此来证明教皇的权威，是早在第三世纪时的教皇就颁布授予的了。
把有形的与有组织的教会当成是神的国这件事，有很深远的结果。如果只有教会是神的国，那么所有基督徒的本份与活动就都必须投给教会，因为基督说到这个国度，是所有基督徒应该努力的最高目标，而自然生活与社会生活对教会来说，不过是次要的生活而已；一切不受教会管辖的，都被认为是世俗的，若要抛弃或拒绝它，将被认为是虔敬的事；隐士与修道士的生活则被视为最伟大的理想生活。还有一个结果，就是将不当的意义加在教会外部的组织上，怎么说呢？因为神的国在新约中，不但被解说为基督徒生活的目的，而且也是基督徒蒙福的总结，因此按照这种说法，救恩一切的祝福，藉着教会的条例、法令、仪式才临到人，若没有这些礼节上的用途，要想得救是不可能的。
将神的教会当成神国的结果，导致了教会真正的世俗化，教会既然被认为是外部的国度，就自觉有责任解说、维护她与世界国度的关系，那么久而久之就只关心政治，而忽略了人得救之事，世俗化代替了永世的追慕。教皇有鉴于神国至高的特质，以及神国包罗万象的护理，所以认为应该透过要求皇帝服从教会的统治，来实现国度的理想。这就是诸如贵格利第七、英诺森三世与波尼法修八世等大教皇的野心。
３、罗马天主教的教会观
在宗教改革之前，罗马天主教的教会观，就已经明确的规定了，后来在天特总会中，不敢讨论教会的定义，乃因当权者还是愿意教皇制度存在的缘故。他们还没预备好要承认教会的权柄根本是属于教皇的，也不承认主教是从教皇得权柄，但却主张主教是由基督直接而得权者。这样冲突的见解，使得他们要用明文来制定教会的意义到底是什么。
可是天特要理问答，却把教会界说为“所有信者的团体，有一个无形的元首基督，及一个有形的元首，就是彼得的继承者，占有罗马天主教的教区。”而天主教最有名的大主教伯喇尔明，也对天主教的教会观提出了清楚的说明，根据他的说法，教会乃是“本着承认同一的基督信仰而结合，引用同一的圣礼，在合法牧师的指导之下，并基督在地上的代理人，即天主教教皇治理之下的团体。”这个定义的头一句（承认同一的信仰），将不信的人排除在外；第二句（同一圣礼的使用），将使用圣礼与天主教规定不合者排除在外；第三句（服从天主教教宗），则将天主教以外的一切教派，如希腊的基督徒等排除在外。
论到天主教的教会观，应注意下列几点：
（1）教会的有形性质
天主教教会特别着重教会的有形性，而认为教会有形性可见之原因，乃在于神圣道的具体化（incarnation）。因为神的道不能降入人心，只能够像人一样在人中出现，并藉着人为有形的媒体来执行他的工作；而教会甚至被认为是道成肉身的继续，那么基督自己藉着委派使徒，并且委任他们中之一人（彼得）为他们之首，就组织了教会。教皇就是彼得的继承人，主教就是其他使徒的继承人，前者持有直接与绝对的权威，而后者仅有从教皇承续而来一点点的权威。
（2）教会的教导与信仰
在教导的教会与相信的教会之间，有一个很重大的区分，前者包括从其教会之首而来全部的教训，后者包括尊敬牧师权威的所有信者。天主教认为教会最重要的属性就是教导，因她认为自己是大公的、独一的、属使徒的、无谬的与永远的教会，除此以外她都不承认别的教派为教会，因此她采取了毫不容忍的态度来反对其他的教会。而教会里的听众，是以教导的教会为依存。
（3）教会的身体与灵魂
教会像人一样，是由身体与灵魂合成的，教会的灵魂就包括那些信基督，并藉着超自然的恩典、恩赐、与基督联合的社团。并非所有的选民都在教会的灵体里，也不是所有在教会灵体里的人都是选民，因为至终有些人堕落了；有些不在教会组织里的人，不一定不在教会的灵体里，即如一些慕道友在没有加入教会前已经得到了主的恩典。而教会组织体，就是那些承认真信仰的人们，不拘他们是罪人或义人，只有受洗的人是属于教会的，但有些受洗的人却还没有属于教会，亦即他还未受主恩典，还未成为真教会之一员。
（4）教会分配救恩
基督把为罪人所赚得的恩典与祝福分配给教会，他乃是完全藉着神甫的代理来执行，结果教会这机构，在逻辑上来说是先于机体，换句话说，有形教会是在无形教会之先。
（5）教会是救恩的机构
教会就是一个得救的机构，即救人的方舟，这样说来她有三项的功能：（１）藉着传道来宣扬真信仰；（２）藉圣礼使人成圣；与（３）遵照教会法规来治理信徒。只有教导的教会才能做这些事，因此严格说来，教会就是教导的教会，她在基督之下是人得救的唯一中保，她并将救恩分赐给众人，是全人类得救唯一的方舟。得救的次序并不是神藉着他的道引人到教会，正相反，是教会领人明白道，而进入基督里。
三、改教时期以及改教后期
在改教时期所产生的教会观与天主教的教会观，有着显着的不同。路德马丁是逐渐地脱离教皇制的观念。
１、路德派的教会观
路德反对教会无谬、特别祭司制度与神奇式的执行圣礼的观念，恢复了全信徒都是祭司的圣经观。他认为教会是相信基督之人的属灵交通，这种交通是为教会元首基督所设立支持的。他着重教会的唯一性，但分为有形的与无形的两方面，这是从路德开始而有此区分的，但他也特别指出，这并非是两个教会，乃是一个教会的两方面。他坚持教会的无形性，意即他否认教会在本质上是由一个可见的首领所领导的外部社团，他坚称教会的本质乃在无形的范围内：即藉信心与基督有交通，并藉圣灵得着救恩的祝福。
然而此同一的教会，成为有形的，并被人认知，并非由于教皇为其元首，亦非由于大主教的治理，也非由于外部的各种条件，乃是单单由于圣道、圣礼的纯洁执行，而真正重要的事是，一个人属于属灵无形的教会，但这与做有形教会的会友有着密切的关系。基督藉着圣灵召集教会，用圣道与圣礼来达成建立教会的目的，因此外部的教会社团是必须的，路德将此形容为“信而受洗的群众，或在城市、或在全国、或在世界各地属于神甫或主教的人。”从外表上来看，教会总有一些假冒伪善与邪恶的会友，他们是无份于教会属灵的操练。
２、重洗派的教会观
重洗派是极端反对天主教的外部化。虽然天主教大部份是以旧约为其教会组织的根据，可是他们却否认自己是旧约的教会，有了这样的观点，他们就坚持教会的根基只在于信徒，所以是新约的教会；虽然孩童在旧约教会中有地位，但在新约教会中却没有合法的地位，因为他们既不能有信心，又不能做任何承认。由于此派坚持教会的属灵性与圣洁性，所以他们中间有许多人就摒斥有形的教会及其蒙恩之道。为了与路德派管区制度有别，重洗派要求绝对的政教分离，有些人甚至走极端说，一个基督徒不能作官、不可起誓、也不可参战。
３、改革宗的教会观
改革宗的教会观虽然与路德派在某些重点上多少有些出入，但在根本上却是如出一辙的。二者均同意教会的本质乃在于圣徒间的相通，是一个属灵的实体，亦即所说无形的教会。虽然路德宗主要是在教会条例，如教会职份、圣道与圣礼上追求教会的合一与圣洁，可是改革宗却在信徒的交通上找到比上面所述更大的范围。前者只经由教会而得到祝福，因为神藉着他自己绝对预定的方式来分配恩典，那就是传福音与执行圣礼；而改革宗的见解，在有形教会的范围之外还有得救的可能性，并神的灵非绝对地仅限于一般的蒙恩之道，乃是何时何处或如何工作都随己意。还有，改革宗论到教会的真正标帜，不仅在于圣道或圣礼诚实地被执行，也在于教会惩戒忠信、认真地执行。除此之外，二者更重要的区分在于教会的行政上。
４、改教后期不同的教会观
（1）索西奴派与阿民念派的教会观
此两派的教会观有很深远的影响。宗教改革家所希求的就是在维持有形与无形教会间的关系，但是历史证明此事颇为困难，而在路德宗与改革宗之外的教会，往往忽视了无形教会而偏重有形教会或正相反。索西奴派当然提到无形教会，但在实际生活中却忽略了表显无形教会的特点，因为他们以为基督教只不过是一个可接纳的教义而已。阿民念派也是一样明白地否认教会的本质是圣徒间无形的交通，而藉着有形教会表显出来。此外，他们都剥夺了教会独立行使惩戒的权力，而将此权交给政府。
（2）卫理宗的教会观
与上述正相反的论点，即是对有形教会的忽视。有一个人名叫拉巴第，在一六六九年成立了一间“福音派”（ＥvangelicalＣongregation）的教会，只有真信者才能属于这个教会。一般说来，敬虔派都非常坚持一实践的宗教，不单只对抗世界化，也看世界本身为罪活动的地方，是每一个儆醒的基督徒所应当逃避的，免得心灵受到危害，同时使得信徒对教会的功能与圣礼漠不关心；而真正的教会则被认为，在信徒交通的范围内不断地增进，且蒙圣灵的光照，也凭着信徒的内觉在外部上同意他们的信仰与生活。这种见解在卫理宗的一些团体中被使用，也在救世军中看到它被使用。在救世军中，悔改者并不成立一教会，只不过是耶稣基督的常备军，藉着显着的制服和特殊的生活方式与世有所区分。
（3）天主教的教会观
自从改教以来，天主教在绝对教权制度上更变本加厉，进而坚称教皇的权威。法国加利亚派（布瑟为其元首）的主张历经了两百多年，与耶稣会、超孟他努派（ＵltramontaneＰarty）的主张正相反，它主张教皇在其决定上是可能有错的，而且教皇必须服从大公会议的决定，这也是大多数天主教的教科书所教导的。一七九一年，英国一千五百多名天主**，签署了一项声明，否认教皇无谬是天主教的教义。可是加利亚的抵抗逐渐消失了，并于一八七○年梵谛冈会议中，宣告了“当罗马天主教教皇说话的时候，具有最高的使徒权威；关于信仰或道德上的事，他可以予以解说，成为普世教会遵守的教义，然后藉着神的帮助（神在圣彼得身上应许的），完全享有不可错谬的权威，也就是救主愿意他的教会所享有的。”但是德国人不愿意接受这种决定，因此为他们自己设立了一个“原初的天主教”（ＯldＣatholicＣhurch)，以雷根斯为其第一任主教。天主教的合一只是表面的，但她还是较复原教，更夸扬自我的合一，而在这点上就说不过去。她不单在教皇无谬的问题上有分歧，且在修道士数目不断增加，往往导致各修道团间的对抗与苦毒的雄辩，这就显示出她们较许多抗罗宗支派间的分歧更激烈。此外，天主教内的改革派、脱离罗马自由教派（Ｌos-von-Ｒome）与新派运动，清楚显示出天主教所夸示的合一，只不过是组织表面上的一致，而非属灵的合一。