加爾文改宗後法國福音派面臨極其困難的情勢。羅馬教的領袖(本部于索波恩大學)及法王法蘭西斯一世(他本人在與查理皇爭權上需要教皇的協助)，都越發堅決鏟除新教。于是發展至強烈的反抗。事情的暴發臨到克普的頭上。克普(NicholasCop)是加爾文的至友，亦痛感當日教會于教義和生活方面的敗壞，新近被選為巴黎大學校長。按當日的習慣，新選校長要對公眾發表就職演說。克氏于一五三三年十一月一日發表此演說，題目為“基督教哲學”，但其中充滿了福音主義的觀念。該演說內容高舉神的恩典，提到因信稱義，非難靠賴人的功德作為得救的條件，並希望神“開通我們的心竅，得信福音”。
究竟這篇演說詞是否為加爾文所撰述，吾人不可確知。據說加爾文手抄的這篇講詞的原稿現仍存于日內瓦圖書館內。但此演說詞確實表達了他的信念。這一篇演講惹起了當局反抗的風潮。克普被控為傳播異端，並決定將他和他的同志加以逮捕。克氏逃往瑞士的巴賽爾(Basel)，于是當局懸賞三百法郎，只要將其帶返巴黎，生死不拘。有警官至加爾文住處搜捉，但被朋友通知，他象使徒保羅一樣，由朋友用繩子從窗戶把他放出，化裝成一園丁逃出城外。
加爾文于是開始他的亡命生涯。當局一直設法捉拿他，他則用查理戴斯威爾(Charlesd-Espeville)以及其他假名到處奔走。他在奈瑞克(Nerac)那瓦瑞女皇瑪格利的宮中避了一些時候。女皇系法蘭西斯之妹，但她本人卻傾向改革運動。在她宮中有位傳道師羅賽爾(Roussel)，乃法國改教運動先鋒的子弟。預備這道路的是李佛(LeFevre)，他對路德的觀念早有研究。一五一二年(在路德與羅馬教破裂前五年)李氏由學習保羅書信的結果而教導因信稱義的要道。他也否認抹大拉的馬利亞與拉撒路的姊妹馬利亞和膏耶穌腳的那個馬利亞是同一個人。這看來好象是件小事，但卻是打破教會傳統的教訓，行使“私人解經”的原則。加爾文與李佛有過數次的商談。李氏明顯主張從教會內部著手改革，然而加爾文卻認為教會敗壞到如此地步，非脫離教會另起爐灶不可。無論如何，李佛預言加爾文乃是“在法國恢復神國的杰出工具”。
離奈瑞克不遠處即是昂皋林(Angouleme)，在該處加爾文暫居一天主教神甫第萊特(LouisduTillet)家中，第氏極欲參加改教運動。他藏書甚豐，汗牛充棟，加爾文從此得益匪淺，無疑加氏由此開始他的名著《基督教要義》——抗羅宗信仰的偉大教義課本——的基礎工作。
六個月後加氏移居至包蒂爾(Poitiers)，在那里有福音派的人士。他們在洞穴內聚集，加爾文對他們講道，棄絕彌撒而守主的聖餐。這或許是首次在法國舉行的聖餐禮拜。後又旅行至諾陽，在那里他拒收“聖俸”，如此令自己與羅馬教完全脫離關系。後至奧林斯，在該處他完成他的第一部神學著作“靈眠”(Psychopannychia)。該書目的在反對重洗派(浸信會派的先鋒)，該派主張“睡了的人，從死時至審判日是無記憶、無理智、無知覺的，直等到他從睡中被驚醒”。明顯見出加爾文認為自己是基督教教義的導師。該書的特點即在于絕對高舉聖經。毫無疑問的，加爾文乃在成為抗羅宗偉大聖經解釋家的途上躍進。