民国十年（1921年）九月，瑞霖与北京佛教名流居士发起讲经会，迎太虚法师晋京，于弘慈广济寺开讲《法华经》。

民国十一年（1922年）三月，太虚法师在湖北武昌创办武昌佛学院，瑞霖为发起创办人之一，且予以经费上的大力支持。此外，他在武汉还组织了汉口佛教正信会，并担任武汉佛化青年会会长；后来在北平时期，还担任过北平女子佛学院院长。

民国十三年（一九二四年），自日本学密归来的释大勇，在北京慈因寺成立藏文学院，为入西藏学密作准备。瑞霖以久居故都，受雍和宫喇嘛的影响，对密宗有浓厚的兴趣，因之对大勇的藏文学院也给予经费上的支持。后来，学院改为留藏学法团，团员二十余人赴藏的旅费及生活所需，大部分均由胡瑞霖居士捐助。如后来担任重庆汉藏教理院院长的法尊法师，赴藏途中，滞留昌都期间，有信致胡瑞霖居士曰：子笏居士惠鉴：鱼雁相隔，两载有奇矣……此二年之经过，今略而言之。客岁初春，送勇公灵骨返打箭炉，……今春三月九日，尊与朗法师等买马起程，二十三日抵昌都，因春草未发，马乏中途，其中之苦，急笔难形矣。昌都寺中有一格西（按即安东格西），学德兼优，映夺全藏，原籍青海，民国初时由青海来甘孜，依札迦大师遍学显密。次承师命赴果罗地界，建兴正法，凡六、七载，养成弘法将才多人。次受昌都寺之请，亦于寺中重振遗教。……尊初来昌都之愿，实欲将此格西迎回中国，渐学渐译，渐次弘传，以免多年羁留藏地之苦，中华亦有早日弘法之望，敝院之果亦可速熟，勇公之志亦得早满。诸居士施助之苦衷，亦必不致空无果利矣。更加虚公老师（按指太虚大师）欲办世界佛学院，其中藏文佛教一科，亦难洽人以维持耳。此志前已函致虚老法师，深蒙赞许。尊至昌都时，即将此意详白格西座前，格西亦深赞励。…… 后来，法尊进入西藏修学，学成回到四川，主持汉藏教理院，译出宗喀巴大师名著多种，对沟通汉藏文化贡献殊伟，而幕后功臣实是胡瑞霖居士。

民国十五年（1926年）十月，日本在东京召开东亚佛教大会，中国佛教界组成二十六人的中华代表团，团员为倓虚、持松、弘伞、曼殊揭谛等法师，及韩清净、徐森玉、张宗载等等居士，共推太虚法师、道阶和尚，及王一亭、胡瑞霖二居士四人同为团长。瑞霖随团在日本将近一月。结识了许多日本佛教界的朋友。由日本开会归来，以后数年间，他在华北推动佛教弘法工作。

民国十九年（1930年），他联合华北各地佛教社团及信众，组织华北佛教居士林，居士林召开成立大会，受推为居士林首任理事长，扩大接纳社会人士皈依佛教。

民国十七（1928年）、十八（1929年）年，太虚大师游化欧美，回国之后，瑞霖发起迎请大师北上讲学。大师于十九年（1930年）五月中旬抵北平，驻锡柏林寺。五月二十日，北平佛教界人士朱庆澜、齐耀珊及胡瑞霖居士等，在华北佛教居士林开欢迎大会，大师即会演讲《学佛的下手方法》，之后又应众人之请，在居士林开讲《华严经·普贤行愿品》。时，大师在推动世界佛学苑的筹备工作，是年九月，在柏林寺成立世界佛学苑柏林教理院，由台源、常惺二师任院长，瑞霖主管财政，法舫任书记兼教理院监学。同时，太虚大师在柏林寺设了世界佛学苑筹备处，命瑞霖兼任筹备处主任。至此，瑞霖不仅是华北佛教的推动者，且策画推动世界佛教了。 九一八事变以后，华北社会动荡不安，经济萧条，佛教弘法事业亦受到影响。

民国二十二年（1933年）二月，日军发动战争，进攻热河。三月古北口陷落，北京震动，瑞霖为避日寇侵扰，举家迁入五台山，于碧山寺东侧筑“莲花精舍”居之。他见山中喇嘛饮食简单，或食炒米（用粟炒熟以水拌食），或食炒面（用燕麦磨粉炒熟以水拌食）。若遇道粮断绝之际，喇嘛还有一种秘法，即“餐石”以度活。所谓餐石，是用产于秘魔崖的寒水石，用木炭煅后，以牛乳注之即可食。他曾在广济茅篷依喇嘛学餐石法，日餐石一杏核量，而渐次增加至三倍。经三七日，初数日有饥饿感，以后饥饿感没有了，惟感乏力，后来力气也恢复了。他曾着有《餐石日记》一文，发表在十五卷十二期的《海潮音》月刊上。

民国二十八年（1939年），他在五台山显通寺设立了一所汉藏学院。他的三个女儿都受过高等教育，均皈依三宝，且精通藏文，就由他的三个女儿担任教授，培养出一批藏文翻译人才。

民国三十年（1941年），北京的佛教同愿会成立大乘佛教弘化院，延聘胡老居士为院长。弘化院之宗旨，在于培训华北子孙派寺庙的青年僧侣，提高其对于佛法认识，以便帮助此类寺庙的正规成长。是年九月，经过考试，录取来自华北各地寺院僧侣近百名。继而正式开学，修学期间为四个月，伙食由该院供给，课程有修法、讲经、念诵、坐禅、拜忏等。 大乘佛教弘化院，院址设于西直门外万寿寺内。这座万寿寺建于明代万历五年（1577年），神宗之母慈圣宣文皇太后出帑储，特建梵刹，为藏汉文大藏经经版之香火院，命司礼监太监冯保领其事。冯保亦捐助万金，潞王及诸公主妃嫔以至贵人，无不捐资随喜。殿宇富丽堂皇，庄严闳广，正殿为大延寿殿五楹，旁列罗汉殿各九楹，前为钟鼓楼、天王殿，后为藏经阁，左右为韦驭、达摩殿各三楹，重楼复榭，梵刹庄严。寺后垒石为三山，山之上为观音像，像下为禅堂、文殊、普贤殿，以像普陀、清凉、峨嵋。山前为池三，山后为亭池各一，最后为果园，标以杂树，占地四顷有余，视南京三大寺不啻倍蓰。迨清代乾隆十六年（1751年），值裕圣皇太后六十大庆，銮舆经此寺，喜其嘉名符祝厘之意，乃更加修缮，绣幢宝铎，辉耀金碧，装饰一新。至二十六年，皇太后七秩寿辰，又再重修。寺于明代，藏有永乐时所铸镌有《法华经》等十八种经咒全文之大钟，铜质精炼，字画整隽，声闻京城。清季移往觉生寺（即今大钟寺）。明清两代，该寺均建有行殿，为帝王驻跸之所。

民国三十一年（1942年）二月，大乘佛教弘化院第一班部分学僧，组成佛教弘化班，在宣外湖广会馆、东城法华寺、前门外关帝庙等处宣讲《出家功德经》、《八无暇有暇经》、《当来变经》等，为期一周，听众踊跃，收效良好。是年三月，第一届学僧训练期满，举行毕业典礼。主事者谓：经此四个月的训练，学员均有一定之收获；但为期过短，故第二期附设研究班，希有志者更行深造，于佛教有进一步之认识，以便将来弘扬佛法，能成就一番事业，对子孙庙之改革，亦可起推动之作用。并谓出家人应具备僧格，即严守戒律，始能荷担如来大法。无论到何处，皆应作到和合，僧伽即和合众之意，以和合为前提，方有僧威，寺院方能管理好。并需慈悲柔顺，不可盛气凌人，尤其训练后即将负责子孙庙中事务者，更应自整自肃，明教理，重行持，时时警觉，以期自利利他。不能希求名闻利养，期为方丈，享受他人之供养。亦不可结派相争，憎奉法者，不顾因果，自造三途恶业。所言谆谆，反应当时僧界现象，有为而发也。 弘化院前后办了两期，入院进修的僧侣有一百余人。三十一年（1942年）秋，胡老居士又回到五台山，在显通寺开设「藏文研究班」，目的仍在于训练藏文翻译人才。

胡瑞霖老居士于民国三十二年（1943年）病逝，世寿八十岁，除《餐石记》外，未见有其它著作传世，但他资助和创办佛学院和藏文学院，在佛教实有相当的贡献。