盛时期，全院有僧侣叙余人，统率众增的方丈则是李蛰的朋友。僧众中有人还带着徒弟、徒孙。
芝佛院始终没有向政府登记，没有领到正式执照，因之也没有向政府纳税。它不属于任何宗派，也没有董事会的管制。李蛰是全院唯一的长老及信托老。其创建和维持的经费，绝大部分来自他一人向外界的捐募。他常常写信给朋友，要求得到“半俸”的援助，或者以“三品之禄，助我一年‘。有的朋友，周济他的生活前后达20年。他过去没有经历过富裕的生活，但在创建佛院之后，却没有再出现过穷困的迹象。
在李蛰被任为姚安知府之前，他已经享有思想家的声望，受到不少文人学者的崇拜。这些崇拜者之中有人后来飞黄腾达，或任尚书侍郎，或任总督巡抚。李蛰得到他们的接济，即使不算经常，但也决非绝无仅有。而且这种金钱上的关系还不是单方面的。他的朋友焦域也是一位著名的学者，不善理财，据说穷得”家徒四壁“。当焦放的父亲80寿辰，朋辈称临聚会，有的竟不远千里而来。李蛰是这次盛会的襄助者，他写信告诉与会的人，嘱咐他们”舟中多带柴米“。
这种方式的金钱周济和往来之不同于一般，在于接受者之间具有共同的思想，或者说共同的目的。从心理学的角度来研究，这种关系还是以道德作为施政方针的副产。因为这种施政方针的思想根据，乃是认为宇宙间的任何事物都息息相关。一个人或一种事物，其所以具有特性或功能，全靠和其他人或其他事物的相互关系。一个人的品质高尚，就因为他的志趣和行为得到别人的赞赏；他的识见深远，就因为他分析理解其他事物的正确。所以人的生活目的，就不能不是合作互助与共同享有。但是，在现实中，为什么所有的人身上都存在或多或少的自私？这个问题使读书明理之人为之不安，而高级官员由于负有治国平天下的重任，其不安尤为严重。按理说，他们所受到的教养，都要求发扬为公众服务的精神；然而一旦接触实际，这种精神常常只是海上神山，或者干脆销声匿迹。自幼有时他们身上的自私苟且，还远过于不识字的愚氓。这种不安，或者由此发展而来的内心交战，需要有一种适当的方式来缓解排除。志趣相投的研究讨论，可以触发彼此的灵感，深入探索人生的真谛，件使内心的不安涣然冰释。所以他们来往密切，集会商谈之余，还互相通信，刊印文集。、李蛰落发为僧以后，仍然经常外出旅行，参加这些活动。在当时，还谈不上旅费必须报销，或者演讲应当收入费用，这些问题，都可以根据习惯，在往来交际之间安排妥帖。以李蛰的名望，加上化线和尚的姿态，他已经用不着再为经济问题而踌躇。
他和耿定向的辩论，促成和巩固了他要求个人自由的信念。多年之后，他仍把这次辩论视为生命中一个重要的转拆点。
1580年，李蛰在姚安辞官离任后，就搬到湖广黄安，在耿家充当门客而兼教师。这时耿定向的父亲去世不久，兄弟4个都在家里丁优守制。这4个人中，李蛰和二兄耿定理的交往特别密切。有人误以为他们两人在思想上比较一致，其实不然。他们之间的差异，较之李蛰和长兄耿定向之间的差异还要大得多。耿定理天资聪颖，同时也是一个诚实的人。如果他发现”四书“”五经“中的理论和他自己的思想有所冲突，他就不能轻易放过，人云亦云。这种矛盾带给他苦恼，也促使他思索，有时候会独自一人在深山穷谷之中徘徊。最后，他终于”豁然贯通“，确认儒家的仁就是无我主义，一个人成为圣人，则是把自我之有化而为无，进入了寂灭的境界，以致”无声无臭“。这种高悬在空中的理想主义，只能深藏于内心，不能应用于现实，并发展而成为伦理和道德的标准。所以在实际生活中，耿定理从来没有应考，也从来没有做官。然而李蛰则认为”穿衣吃饭，即是人伦物理“，这无疑和耿定理的思想判若水火。他们之所以能和睦相处，不在于耿定理学术理论上的弹性，而在于他性格的柔和轻松。他经常以排宗式的机锋，避开辩论中的正面冲突，而以表面上毫不相关的语言，来表示自己的意见，使辩论的对手在思索之后被迫折服。因为他认为自己所掌握的真理，基于识见渊博；如果坚持片面的执拗，就等于放弃了宽阔的胸襟。因此，当耿定理在世之日，总是能够用他特有的方式调解他长兄和李蛰之间的冲突。
在思想史上，长兄耿定向最易为历史学家所误解。他的朋友和论敌李蛰，把他说成一个伪君子；而黄宗费的《明儒学案》人也指出他思想上前后不符。然则很少有人能看到，这位哲学家同样是在竭力地探求一种既有形而上的根据，又能融合于日常生活的真理。他接受佛家和道家的哲理，认为至善至美属于虚无，但另一方面，却又认为任何信条如果不能在愚夫愚妇面前宣讲明白，则不成其为信条。经过多方考虑，他提出，人的理智有深有线，有粗有细，有的集中，有的分散；在社会生活中，政治与农业不同，农业又与商业不同。基于这样的分析，他已经开始指出了伦理道德的理，应当与物理、地理的理有所区别，因此施政的标准也应当与哲学思想有所区别。这种理论，为当时持一元论的宇宙观者所不能接受。他和李蛰的冲突也无可避免，因为两个人都准备把自己的理论体现于行动之中。于是李蛰指斥耿定向为不诚实，言行不一；耿定向则指斥李蛰以立异为标榜，立异的目的还是立异，所谓放浪形骸，无非是为了博取超凡脱俗的美名。
耿定理在1584年去世。同年耿定向被召回北京任左金都御史。他在信里提出李蛰迷误耿氏子弟，这种指责促使李蛰迁居麻城。多年以后，他还认为这是耿定向有意识地给他以个人侮辱。
李蛰好强善辩，不肯在言辞上为人所授，在做官的时候也经常与上司对抗。和耿定向闹翻之后，他更为重视自己的独立不羁。按本朝的习惯，退休的官员被称为”乡富“，也就是意味着他仍然具有官员的身分，要受地方官的节制。地方官可以邀请他协助处理有关的事务，也可以邀请他参与重要的典礼。这种权利和义务，在别人或许会引以为荣，而在李蛰则是精神上的压力。他说：“弃官回家，即属本府本县公祖父母管矣。来而迎，去而送；出分金，摆酒席；出轴金，贺寿旦。一毫不谨，失其欢心，则祸患立至。”剃发为僧，除了避免亲旅的纠缠以外，摆脱这些牵制也是一个重要的因素。
李蛰虽然身入空门，却没有受戒，也不参加僧众的学经祈祷。他喜爱清洁成为癖好，衣服一尘不染，经常扫地，以至“数人缚帚不给”。在很多方面，李蛰保持着官僚学者的生活方式。例如，即使是短距离的外出，他仍然乘轿；对于书本不愿亲自阅读，而是让助手朗诵以省目力。
退休以后的十几年，李蛰主要的工作是著述。他的著作大部分都在生前刊刻印行，芝佛院中有一间屋子专门堆放书板。著作的内容非常广泛，包括儒家经典的阐释、历史资料的观察、文学作品的评论以及伦理哲学的发挥，形式则有论文、杂税、诗歌、书信等等。但是涉及面虽然广泛，却并不等于具有多方面的精深造诣。他写作的历史，对史实没有精确的考辨，也没有自成体系的征象。大段文章照史书抄录，所不同的只是按照自己的意见改换章节，编排次序，再加进若干评论。在接触小说的时候，他所着眼的不是作品的艺术价值和创作方法，也就是说，他不去注意作品的主题意义以及故事结构、人物描写、铺陈穿插等等技巧。他离开了文学创作的特点，而专门研究小说中的人物道德是否高尚，行事是否恰当，如同评论真人实事。再则，即使是阐述哲学理论，也往往只从片段下手，写成类似小品文，而缺乏有系统的推敲，作为结构谨严的长篇大论。惟其如此，当日的士人，对于“李氏《藏柳》、《焚抑人》一册，以为奇货，就大多感到难于理解。
要正确认识此中关系，务需探求李蛰的写作目的。他的各式各样的著作，无非异途同归，其着眼在把读书人的私人利益与公众的道德相融合。从这点出发，他的写作，有如使用各种乐器演奏同一支交响曲。公私冲突之中能否设法调和？如果他还没有做出恰当的答案，至少已经提出了这个问题。这是一个迫切的问题，对读书人来说，足以影响他们良心与理智的完整性。李蛰自身的经历，使他对问题的认识更为深刻，表达更为有力。所以，他的著作仍能获得读者的欣赏。其中衷曲，在一封写给耿定向的信里发挥得淋漓尽致：
“试观公之行事，殊无甚异于人者。人尽如此，我亦如此，公亦如此。自朝至暮，自有知识以至今日，均以耕田而求食，买地而求种，架屋而求安，读书而求科第，居官而求尊显，博风水以求福荫子孙。种种日用，皆为自己身家计虑，无一厘为人谋者。及乎开口谈学，便说尔为自己，我为他人；尔为自私，我欲利他；我怜东家之饥矣，又思西家之寒难可忍也；某等肯上门教人矣，是孔孟之志也；某等不肯会人，是自私自利之徒也；某行虽不谨，而肯与人为善；某等行虽端谨，而好以佛法害人。以此而观，所讲者未必公之所行，所行者又公之所不讲，算与言顾行、行顾言何异乎？以是谓孔圣之训可乎？翻思此等，反不如市井小夫身履是事，口便说是事，作生意者便说生意，力田者便说力田，凿凿有味，真有德之言，令人听之忘厌倦怠。”
李蛰的难言之隐在于他强烈地抨击了这些人物以后，他还是不得不依赖这些被抨击者的接济而生活。他们的言行不一是一种普遍的社会现象，耿定向不过是比较显著的例子而已。李蛰本人也没有与此绝缘，这就常常使他在对别人作了无情的指责以后，自己感到内疚而稍敛辞锋。对供有当他被别人截击，已经无法退避，他的感情才如长江大河，一发而不可收拾。
在同辈的人物中，李蛰虽然享有比别人更多的自由，但是他终究没有找到他最企盼的独立地位。这种困难和冲突迫使他继续写作，笔下内容仍然不能越出这一问题的范畴。这种情况，连同情他的袁中道也为之不解：既然由于对官僚政治不满而绝意仕进，那就理当息机忘世，以文墨自娱；可是写来写去，还总是和官僚政治有关，加之名望越来越大，“祸逐名起”。这就无怪乎招致杀身之祸了。
李蛰和耿定向的争论，基于人性的善恶。这个问题所涉及的方面非常广泛，需要从中国哲学史中找出全面的解答。
问题可以追溯到公元前5世纪的春秋时代。孔子没有提到性善或者性恶。他学说中的核心是“仁”。“仁”可以为善，一个君子的生活目的就在合于“仁”的要求。
究竟是哪些成分构成了六，孔子没有明确直接的答复。《论语》一书中，仁宇凡六十六见，但从来没有两处的解释相同。一般来说，仁与慈爱、温和、恻隐、以天下为己任等等观念相通。然而在不同的场合，孔子又赋予仁以不同的概念：“己所不欲，勿施于人’的自我克制，言辞谨慎、按照礼仪行事，都可以算作仁或者接近于仁；出于环境的需要，一个人牺牲自己的生命，也叫做”杀身以成仁“。仁是最容易获得的品质，任何人有志于仁，就可以得到仁。但是仁也是最难保持的品质，即在圣贤，例如孔子自己，也难能始终不断地不违反仁。
后世的读者，必须把这些互不关连的语录再三诵读，再三思索，才有可能理解它的真实内涵。综合来说，温和有利，慷慨大方是仁的初级阶段。在向更高阶段迈进的过程中，又必须把自己的思想与言行统统纳入它的规范之内，经过不断的积累而可以到达去私，最终到达无我。这样，仁就是一种强迫性的力量、行动的最高准则、超越人世间的品质，也是生活唯一意义之所在，简直和道家的”道“殊途而同归。
《论语》中这66条有关仁的语录，为孔子的学说安排了形而上的根据，成为儒家一元论宇宙观的基础。这种学说虽然没有直接指责自私的不合理，但已属不言而喻。因为所谓”自己“，不过是一种观念，不能作为一种物质，可以囤积保存。生命的意义，也无非是用来表示对他人的关心。只有做到这一点，它才有永久的价值。这种理想与印度的婆罗门教和佛教的教义相近。印度的思想家认为”自己“是一种幻影，真正存在于人世间的，只有无数的因果循环。儒�