基督教所遭遇的第二次教难，就是一六五九至一六六五年间杨光先所兴起的历狱，离开第一次南京教难大约五十年？其起因也有一部分相同，就是以为西士治历，破坏中国成法，在沈涔第一疏中也有这条理由，不过这一次却完全为了关于治历上所生的愤恨而起。杨光先是安徽翕县人，在明朝为新安卫官生，以参劾大学士温体仁给事中陈启新而得名。他鉴于汤若望做钦天监监正，用西洋法来修中国历，在历书上写着『依西洋新法』字样；认为是暗窃正朔之权以予西洋；变成使中国奉西洋正朔了。所以在顺治十七年十二月初三日上了一个奏章，参劾汤若望非中国圣人之教，未准。说者皆以为杨氏是回教人，监正一职，向为回人充任，中国历算，向探回回历法，今为西洋人所夺，因生嫉妒，想把西洋人**。最近陈援庵先生谓此未必可靠。杨氏是否是回教人？在中国书中没有根据，这话很有理由。所以杨氏反对西洋人修历，不过借题发挥，是完全出发于排外思想，与前述破邪集等人的立场差不多。看他后来参劾汤若望等的三大罪状：(一)潜谋**，(二)邪说惑众，(三)历法荒谬。还是注重于一二两点。
因为顺治帝于汤若望等教士，甚为宠眷，杨氏的参劾，当然不生效力。他只好改变方针，从事于运动权贵，乞灵于文字，来潜植势力。于是著成辟邪论上下两篇；印刷五千份，广为散布。上篇是驳斥李祖白所著天学传概一书。(李祖白是天主教**，任官于钦天监的。)以为依照天主教说，是率天下而无君臣父子。他更说：
『若望借历法以藏身金门，而棋布邪教之党羽于大清十三省要害之地，其意欲何为乎？
大清因明之待西洋如此，习以为常，不察伏戎于莽，万一窃发，百余年后，将有知予言之不得已者。』
这是他最大的理由，意思就是以邪说惑众，潜谋**为教士们的罪状。下篇是驳斥耶稣即天主之意，以为荒谬无稽。按天学传概一书，本为利类思(Buglio)神甫所著，李祖白许之渐各作序文弁首，而辟邪论误以为李祖白所著。而天主教历史中？则谓利类思作此书为对辟邪论逐条辨明。说：『杨光先见之，又作一书，名不得已，较辟邪论诬枉尤甚』。在不得已中说，天地万物，系阴阳二气所凝成，没有什么主宰的创造。以亚当为人类元祖，把中国人都变成西洋人的子孙了。并且西洋人来中国传教，无非要谋我中国。又说：澳门屯兵不少，汤若望实在是个头脑，不可以不防备他。利类思乃作不得已辨以辟其诬。杨书流传既广，影响甚大。不但朝野人士有因而相信他的，即向来与教士们表同情的人，虽明知其言不实，也不敢得罪权贵，没有仗义执言的人。恰值顺治去世，教士们失了有力的保护，康熙年龄甚小，政权都操在辅政大臣手里。当时辅政大臣熬拜，本来不喜教士，现在又惑于杨光先的话，便有机会可乘。杨光先上了一个奏章，说汤若望等将潜谋**，于是便掀起大狱，把汤若望逮捕，发交礼部审问，这是康熙三年八月间事。汤若望这时年已七十有三岁。适患痿痹之症，口舌结塞，由南怀仁(Verbiest)在旁，代为申说，审问图谋不轨事，毫无证据。从此每日提审在京的汤若望南怀仁利类思安文思(Magalhaes)四神甫，一连审了十二堂。及至十月间，传出谕旨，提审四神甫及奉教职官李祖白潘尽孝等尽行收监。南怀仁等皆琅铛入狱，惟汤若望监押礼部。过了两月，判定汤若望邪说惑人，革职监候绞，其余有职的革职充军。便将汤若望移押刑部大狱，这狱本为大盗著匪拘押之所，而汤若望以老年受此酷刑，痛苦已极。杨光先意犹未足，再三上书，说西洋历法，种种不善，举数年前顺治幼子荣亲王之死，钦天监所选殡葬时刻，大为不吉，以致累及顺治之丧。辅政大臣以此为情节重大，命六部九卿会勘。廷臣们已惑于杨光先先入为主之言，以为汤若望罪同弑逆，应得肢解之刑，其余如李祖白等七人，罪应斩决。乃于康熙四年四月初一日大会朝臣二百余人，公同定案，不意案方议定，地忽大震，朝臣莫不惊惶散出、相顾失色，及至重复入堂坐定，地又大震，屋宇摇荡，墙壁倾倒。大家以为上天示警，应减轻罪名，以回天意，次日，便将南怀仁等三神甫释出，汤若望肢解之刑，改为监候斩。接着又一连地震三日；人皆露宿，惴惴不安。该辅政大臣以此案呈请太皇太后定夺，而太皇太后览奏不悦，掷摺于地，严责诸辅政大臣，对他们说，『汤若望向为先帝所信任，礼待极隆，尔等欲置之死地，毋乃太过』。遂命速即开释，惟李祖白等以荣亲王事应当斩决。于是汤若望得蒙开释，而李祖白宋可成宋发朱光显刘有泰五人，均被冤杀。其他奉教大员，如御史许之渐，臬台许钻曾，抚台佟国器，均遭革职。
汤若望蒙赦以后，即归宣武门内天主堂(即南堂)，而杨光先既得胜利，便做了钦天监监正，同时，把南堂夺为自己的住宅，汤若望迁到东堂与南怀仁等同住，到第二年汤若望即因病去世，时年七十五岁，在中国为道工作，已有四十四年。
当京中这件案子闹得利害的时候，各省督抚，也奉旨拘拿西洋教士，解京审办，并禁止天主教的传习，堂宇查封，经像焚毁。然而各地方长官，很有许多同情于教士们的，不忍加以拘拿，如江苏福建湖广等省，都很优待教士，到期派兵护送进京。松江知府，甚至为潘国光(Brancati)神甫设筵饯行，南京刘迪我(LeFarre)神窗，亦蒙官厅优待。惟在山西陕西山东江西等省，教士却备受凌虐。山西金尼阁(Trignult)陕西李方西(Ferrariis)以及山东汪儒望，江西聂伯多(Caneveri)浙江洪度贞(Auzeri)等，均被锁押，教友亦遭苦刑，甚至有因而丧命的。各省解京神甫，共计三十个人，内有耶稣会二十五人，多明尼会四人，方济各会一人。五月间先后到京，即有一人弃世。诸神甫大半皆年齿高迈，须眉皓白，他们在中国有已历四十余年的，却从来没有会面的机会，如今反可以会东堂，末始非窘难中的乐事。这样居留了两个月，方奉旨定断：除南怀仁等四教士仍得留居京师外，其余俱遣发广东交该省总督看管。于是有二十五位神甫，均圈禁广州老城耶稣会堂之内，不准出城，不准传教，幸有奉教绅士蚓戛为之照管。这时各省教务，端赖中国神甫罗文藻所照料，北省有教友许谦往来行教，教务得以维持。
教会这一回所遭迫难，正有如暴风骤雨，阴霾蔽日，至此方风停雨止，不久，便光明复现。因康熙帝年事稍长，临朝亲政，两官皇太后曾屡称汤若望为人，与其所推算历法之善，向为先帝所信任，二十年并无过犯，今遭谗人陷害，深为可惜。康熙知道其间委曲，乃欲考其真相。其时杨光先既为钦天监监正，然对于天文学识，实无所知。康熙五六七年日历，本为汤若望等所造就，故无问题，及所造康熙八年之历，乃有不少差误。康熙命近侍持以访问西士，经南怀仁等指出错谬多端。帝即于次日召南怀仁等入朝，时礼部尚书名布颜与钦天监人员咸在。侍臣乃宣读上谕：『历法关系国家要务，尔等勿怀夙仇，各执己见，以己为是，以人为非，务当平心考察，谁是谁非，是者从之，非者改之，以成至善之法。』并将南怀仁在杨光先历上，指出的错误，亦朗诵一遍，问杨光先何以自解？杨乃大恚，愤然与辩，而教士们却和颜悦色，侃侃而谈。次日又大会朝臣，命南怀仁杨光先测验日影，法立直木于平地，预测正午日影所至，而南怀仁推算不差分亳。又命测星象，亦悉如南怀仁所预言，而杨光先与钦天监监副吴明煊竟茫然不知。诸大臣乃以试验经过。报告皇帝。杨光先知事不妙，深恐南怀仁进用，将于己不利，即上一奏章，言『中国乃尧舜之历，安有去尧舜之圣君而采用天主教历？且中国以百刻椎算，西历以九十六推算！若用西洋历，必至短促国祚，不利子孙。』他原想把这些耸人动闻的话打动皇帝，可以不用西洋历；却不料康熙早有平反前案之意，故意用这试验之法，使一般大臣，明知其曲直优劣所在，而且杨光先这几句话更激起了反应！便斥为妄言，着即革职。署南怀仁为钦天监正，南怀仁固辞不受，惟愿布衣终身，在监效劳。
当时学者，曾有对杨光先的批评，王士祯池北偶谈卷四说：
『杨光先者，新安人，明末居京师，以劾陈启新，妄得敢言名，实市侩之魁也。康熙六年，疏言西洋历法之弊，遂发大难，逐钦天监监正加通政使汤若望，而夺其位。然光先实于历法毫无所解，所言皆舛谬。如谓戊申岁当闰十二月，寻觉其非，自行检举，时已颁行来岁历，至下诏停止闰月。光先寻事败，论大辟。光先刻一书日不得已自附于亚圣之辟异端，可谓无忌惮矣。』
阮元畴人传卷三十六亦有同样的批评：
『光先于步天之学，本不甚深，其不旋踵而败，宜哉！元所藏不得已，卷末有杂记数条，不署撰人名氏，中一条云：钦人言，光先南归，至山东暴卒，盖为西人毒死，而池北偶谈则论大辟，其实光先盖论大辟免死归卒者也。』
王士祯说光先论大辟，固非事实，而阮元所举歙人言，为西人毒死，更不可信。盖西教士以道德劝世，决无此种仇恨阴险的举动。同书记钱大昕说：
『吾友戴东原，尝言欧罗巴人，以重价购不得已而焚之。』同样是不可信的传说。但是杨光先究竟怎样死的呢？据天主教传教史所载是患发背而死的。先是杨光先既去官失势，同时，那些同恶相济的同党，皆一一倾倒，如：苏克萨哈是一个仇教最厉害的人，当时曾力主处汤若望于死刑的。但是他在汤若望死后两年，为他人告发二十四款大罪，乃罹绞刑，其子侄亦皆弃市。熬拜，遏必隆二人，亦于杨光先失败之年，削职罢黜。康熙帝知道当时汤若望一案的冤抑，暗暗地叫利类思等三神甫上书诉冤，许以平反，神甫等便遵谕上疏，略曰：『臣等同乡远臣汤若望，来自西洋，住京三十八载，在故明时，即奉旨修历。恭逢我朝鼎新，荷蒙皇恩，勒修历二十余载，允合天行，颁行无异。不料遭棍徒杨光先，倚恃权奸，指为新法舛错，将先帝数十年成法妄行更张。幸诸王大臣，秉公考察，古法件件误舛，而新法则无不合，蒙恩命怀仁仍维新历、此已无庸置辩。惟是天主一教，即诗经所说：『皇矣上帝，临下有赫，』而为万物之宗主也。在故明万历年间，其著书立言，大要以敬天主，爱畴人为宗旨。总不外克己尽性，忠孝廉节诸大端，往往为名公卿所敬慕。世祖章皇帝数幸堂宇，赐银修造，御制碑文，锡若望嘉名。若系邪教，先帝圣明，岂能如此表章？乃为光先所诬，火其书而毁其居，捏造辟邪论，蛊惑人心，臣等亦著有不得已辨可质。且其并将佟国器许之渐许缵曾等诬告，以致为教革职，此臣等抱不平之呜者一也。又光先诬告若望谋反，臣等远籍西洋，跋涉三年，历程九万里，在中国者不过二十余人，俱生于西而卒于东，有何羽翼，足以谋国？今遭横口诬蔑，将无辜远人栗安当等二十五名，押禁广州府，不容进退。且若望等无抄没之罪，而房屋被人居住，坟地被人侵占，况若望为先帝数十年勋劳荩忠，罗织拟死，使忠魂含冤，此臣等抱不平之呜者二也。臣等与若望俱天涯孤踪，免死狐悲，情难容已。今权奸败露之日，正奇冤暴白之时，冒恳天恩，俯鉴覆盆，恩赐昭雪，以表忠魂，生死衔恩。』康熙即把这呈文交六部九卿详议，议得汤若望李祖白等的确被诬，应照原品赐邱，并给葬银赐祭。其因奉教而被革职的佟国器许之渐许缵曾潘尽孝等十余人，俱应开复原官。宣武门内天主堂房屋，应给还南怀仁等。而杨光先则因诬告反坐，情罪重大，应即处斩，妻子流徙甯古塔，王公大臣等把这议案，呈报皇帝，即批依议施行。惟念杨光先年纪已老，故免死罪，着即驱逐回籍。杨光先使狼狈出京，舟行至山东德州，背上生一恶疽(俗叫发背)，不久，便死了。讲到杨光先的失败，实在可以说是咎由自取。他既然对于历算之学，本不甚深，要在这上头与有专门研究的教士们争长短，同时，强词夺理地攻击到基督教道，这显得他的不自量，不识时，抱着愤愤之气来图一时快意。阮元说他『不旋踵而败，宜哉！』实在是很确切的批评。
汤若望这件案子，果然平反了过来，但那些被拘押在广州的神甫们，还没有释放，传教之禁令，还没有解除。这是在京三神甫的主要问题。修治历法，本不过是为辅助传道的一种方法，传道既不能得到公开，岂不是变成舍本而逐末么？于是他们便决意辞去历官的职务。皇帝知道他们的隐意，便派国舅佟国纲慰留，并且告诉他们欲弛传教禁令的困难，因为朝臣中尚有许多反对的人，叫他们姑且忍耐等待。神甫们始知皇帝并无仇教之意，颇得谅解，遂勉强打消辞意。一面在北京修葺东南两教堂，天天在内献祭讲道，朝臣们亦知皇帝意思，对于他们传教工作，并不加以阻止，所以这一年中有三千人受洗进教。第二年三神甫再上疏请求开释广州二十五位神甫并弛教禁。结果，仍为部议所不许。等到康熙九年方才获得开释教士的上谕，该上谕中因欲调停部议，一方面准许广州二十五教士各归本堂，一方面不准添立教堂与中国人入教。二十五人中如有通晓历法的，令即来京帮同治历，并御书『奉旨归堂』四大字，嘱分送广州二十五神甫。在广州被禁诸神甫，这时生存的只十九人，重返各省工作，各省封禁教堂，一律交还，被人拆毁的，责令赔偿，地方官莫不优礼相待。其时闵明我神甫已死，格里玛弟(Grimaldi)乃冒称其名，由澳门来华。然以其通晓天文历法，便奉召与恩理格(Herdtricht)徐日升(Pereyra)三人一同进京修历。南怀仁即著成永年历书共三十二卷，推算至二千年之外。又奉命铸炮数百尊，皇帝亲临炮场试放，大得褒奖。康熙之于南怀仁，正如顺治之于汤若望，屡加官职，升至工部侍郎，然皆固辞不就。康熙且日与南怀仁徐日升闵明我讲求西学，对于教会发生极大兴趣。当时法国皇帝路易十四，因闻中国皇帝雅好西学，南怀仁等神甫，又蒙优遇，乃派教士五人来华。此五人皆精通天文之学。南怀仁乃言于帝，奉召进京，便是法国教士初入中国之始。此后巴黎传教会士，相继而来，四川两广教务赖以发展。不意该教士在来京途中，忽接南怀仁去世消息，及至京，由徐日升带领引见，着留张诚(Gerbillon)白晋(Bouvet)二人在京供职，余三人任令在中国传教。
当康熙十六年，安文思病殁，至二十六年南怀仁又病殁，皆蒙帝命赐葬。南怀仁享年六十六岁，皇帝派员致祭，御制碑文，勒石纪念，碑文：
『朕维古者立太史之官，守典奉法，所以考天行而定岁纪也。苟称厥职司，授时之典，实嘉赖之。况克殚艺能，有资军国，则生膺荣秩，殁示褒崇，岂有靳焉。尔南怀仁，秉心质朴，肄业淹通，远泛海以输忱，久服官而宣力，明时正度，历象无讹，望气占云，星躔式叙，既协灵台之掌，复储武库之需。覃运巧思，督成大器，用摧坚垒，克裨戎行，可谓莅事惟精，奉职弗懈者矣。遽闻溘逝，深切悼伤，追念成劳，赐名勤敏。呜呼！锡命永光手重壤，纪功广示于遐陬，勒以贞珉，用壅弗替。』
这里可以看见康熙于南怀仁的宠眷，盛称他治历铸炮之功，实则南怀仁最大的贡献，并不在此，乃在于以一身系教会之安危。自杨光先教难以来，二十多年间，教会几经困难，从黑暗势力笼罩之下，平反冤狱，这是他的大事。但是教难虽平，传教之禁仍未解除，西士不能传教，华人不准进教，排外仇教的官吏，往往借为口实，横加**，然卒能安然无大风波，都是靠着他的力量。越三年，浙江便发生抢掠教堂，**教友之事，盖因巡抚张鹏翮出示禁习天主教而起。杭州神甫殷铎泽告急于北京神甫，徐日升张诚乃面见皇帝，求弛教禁，命礼部议奏，礼部不符上意，复命内大臣满与官再议，国舅佟国纲迎合上意，具题如下：
『臣等会议，查得西洋人仰慕圣化，由数万里航海而来，现今治理历法，用兵之际，力进军器火炮，差往俄罗斯，诚心效力，克成其事，劳绩甚多。各省历住之西洋人，并无为恶乱行之处，又并非左道惑众，异端生事。喇嘛僧等寺庙，尚容人烧香行走，西洋人并无违法之事，反行禁止，实属不宜。相应将各处天主堂俱照旧存留，凡进香供奉之人，仍许照常行走，不必禁止，臣等未敢擅便，谨具题请旨。』帝即批示『依议』，此旨一出，全国教堂，莫不欢欣歌舞。杭州殷神甫预备进京谢恩，不意，方欲起程，教堂忽毁于火，事闻于帝，饬浙江巡抚重行建造，张巡抚心虽不愿，然亦无可如何。康熙三十二年，皇帝偶患疟疾，太医束手无策；张诚献上西药，一服而愈。皇帝大悦，遂赐张诚住宅，(该宅即前辅政大臣苏克隆哈旧府)并赐地建筑天主堂一所，亲题『万有真原』匾额，并题一联：无始无终，先作形声真主宰。宣仁宣义，聿昭拯济大权衡。又作律诗一首送至堂中。诗曰：森森万象眼轮中，须识由来是化工。体一何终而何始，位三非寂亦非空。地堂久为初人闭，天路新凭圣子通。除却异端无忌惮，真儒若个不钦崇。当南怀仁过世以后，由闵明我继其职，到康熙四十六年，闵明我去世，又由纪理安补钦天监。这时张诚已先去世，徐日升已于次年病故。在京教士，除白晋外，有巴多明(Pavennin)凭秉正(deMailla)雷孝思(J．B．Regis)等人，奉命赴蒙古及各省，用西洋三角测量方法，绘画地图。参加此工作者，另有神甫十余人。先从关外起头，依次及各省内地，为时历九年之外，图始告成，名曰皇舆全览图，还有各省分图。这图实在比当时利玛窦所绘的，详尽得多，可以说中国最科学的第一幅地图。白晋等进呈康熙，大得赞赏。康熙在位六十年，对于教士，实有非常的好感，教会便因此日臻发达。
但在这四十年间，至少可以见得增加了一倍以上，亦足以证明在十七世纪康熙时代教会的发达了。但是不幸因着礼仪问题的争端，使中国教会遭受很大的打击。