1918年，正是第一次世界大战刚结束时。战争期间（1914—1918年），帝国主义国家在欧洲战场上互相拼杀，顾不上东方了，中国的官僚和民族资该企业，乃乘机急剧发展起来。公司商行的组建、资本的筹集、会计制度和内部管理制度的设计，经济纠纷的解决，都迫切需要公共会计师的服务，而当时中国却没有这种学有专长、以业主身份自行开业、独立、公正、为社会公众担任审计查帐、会计咨询的公共会计师。一切对外经济纠纷、涉讼案件都要听公共会计师的意见的，都要受在中国开业的外国公共会计师的操纵，中方往往吃亏，甚至双方都为中国人的案件，也要找外国公共会计师解决。谢霖深感于此，又鉴于日本在1914年前后纷纷创立了“会计事务所”，为了维护中国主权和民族利益，谢霖于1918年6月上书旧农商、财政两部，建议设立“中国会计师制度”。农商部是当时北洋政府主管全国工、农商业经济的部门，认为谢的申请“有利商民”，很快同意，并委托谢霖起草了《会计师暂行章程》10条。《章程》规定:凡中国人民年满30以上、大学经济学科毕业主修会计的，或曾在资本50万元的银行或公司任主要会计人员5年以上的，经农商部批准，即给予会计师证书，准其开业，办理会计的组织、查核、整理、证明、鉴定、和解等事务。于同年9月7日（也有资料说为9月6日）公布试行。同时向他颁发了第一号会计师证书，是中国第一个会计师。也曾被孙中山大总统聘为孙中山陆海大元帅府的会计长。

1918年受蔡元培先生之聘，去北京大学讲授新会计，后又任教于上海商学院、光华大学、复旦大学、重庆大学商学院、铭贤学院等。

为执行会计师制度，谢霖在银行周报上刊出广告，在北京、天津分别成立正则会计师事务所（和秦开等人），面向社会公众，执行公共会计师业务。这样，谢就成为中国有史以来第一位公共会计师，正则会计师事务所就成为中国办理公共会计师业务的第一个会计师事务所。随着业务的开展，“正则”会计师事务所的分支机构遍及中国南北，比如北京、天津、上海、南京、镇江、扬州、杭州、芜湖、南昌、长沙、常德、汉口、广州、重庆、成都、青岛、济南、开封、太原、衡阳、湘潭、沙市等二十多个大中城市，都开展了执业会计师业务。当时，“正则”与“立信”齐名，在全国会计界中享有很高的信誉。为1949年前中国四大会计师事务所之一。凡设有会计师事务所的地方，都办有正则会计补习学校，为国家培养了大批初、中级会计人才。谢霖在北京设正则会计事务所后，某律师认为抢了他的生意，对谢曾恶语相伤，进行人身攻击。谢认为新生事务的出现，总会有人不能理解，一笑置之，未与争辩。

谢霖先后设计会计制度若干种，设计前必须先进行调查研究，从实际出发。如1934年山西省政府修建同蒲铁路时，邀请上海几家会计师事务所代拟会计制度，只正则应邀前去。经一年多的调查研究，将会计科目、凭证、帐册、报表等系统化、规范化，实施后效果明显，得到国内其它几条铁路的会计专家的高度赞赏。对会计人员的培训及会计师事务所的工作人员，谆谆告诫:一定要遵守法律法规，即或当时法律不够完善，只能遵从，但可反映意见。要学法懂法，要学习民法及刑法有关部分，要学习有关商事法规，办事要持公正态度。要以单据、帐册为依据，不应虚伪呈述，不能稍涉偏私，必须严格遵守职业道德。谢师于百忙中仍坚持履行会计顾问职责，1944年重庆民生公司总经理卢作孚作为中国实业界代表，将出席美国国际通商会议，特来成都请谢霖同去。会上卢与加拿大代表谈妥以1275万加元，购买九艘轮船。谢师向加方索要造价单及预算方案。经审核发现，按照美国国际造船价格标准，加方定价偏高。双方再次研讨，加方同意减收150万加元和十年本息一次还清。此事使外国代表非常佩服。不久美国加利福尼亚州立大学即授予谢霖名誉博士。

1937年日本侵占上海后，时任上海光华大学（今华东师范大学）商学院院长的谢霖受光华大学校长张寿庸的委托，前往成都筹办分校。谢毅然辞去中央银行秘书长职务，衔命筹办光华大学分部。谢早年曾在四川工作，具有崇高威望。先在城内王家坝租赁房屋，于1938年3月1日开学（为西南财经大学渊源之一）。继则多方奔走集资。土地、建房和一切资金都由社会士绅捐助。在建校期间，谢既领导校务又上课，还管建房，经常城内城外往返奔忙，呕心沥血，备受辛劳，终于在短短的几个月内白手起家，在成都草堂寺西建起了一所新校舍。教室、图书馆、实验室、办公厅、体育场、食堂、宿舍、浴室一应俱全。小桥流水，垂柳疏篱，鸟语花香，窗明几净，是一处幽静的读书环境。1938年秋末冬初即全部迁入新校舍。师生们对建房速度之快，深为感佩，认为学校的一草一树都凝聚着谢师的心血。谢霖对学生要求严格，常在朝会上告诫学生:“天下兴亡，匹夫有责，现在前方将士正浴血抗战，才换来个安宁的学习环境，不努力学习，怎么对得起抗日战士?中国遭受日本侵略，原因是中国贫穷落后。要使国家富强，大家就要努力学习，学成后为国出力，我们是炎黄子孙，要发扬祖先遗德，光我华夏！”

谢霖对学生既严又爱，上课时要点名，晚上要查寝室。考试很严格，不及格者要补考或重读，成绩特差者要留级、直至退学。对成绩优秀的学生给予奖学金。奖惩分明，激励学生勤奋向上。对个别生活作风不好的学生谆谆告诫，如坚持不改情节严重者要给予退学处分。对经济困难的学生，尽量安排半工半读，或给予私人帮助，对经济困难的教工也常给私人帮助。

谢霖生活俭朴。在光华大学只领上课工资，不领校长津贴。他有许多事务所，收入不是很少。他的事务所除发给工作人员工资外，还免费供给伙食，对少数无住处者，还提供住房。最后他还是两袖清风，节俭度日，这是人所共知的事。

谢霖以务实精神办学，主张学以致用。要求学生不但要学理论，还要有操作能力。他担任多种课程的教学工作，由于他有高深的理论修养和丰富的实践经验，讲课深入浅出，富于启发。他在讲公司法、票据法、海商法等课时，不是简单地讲条文，而是用大量的案例，形象而生动地运用条文对具体问题进行分析处理。这样的讲课，学生容易理解印象也深。但在课堂上，他不是把所有的问题都解决完。有一些问题，他有意地引而不发不作结论，留待学生去思考。他说“学而不思则罔”，“学要有所思，才能有所得”，这种富于启发的教学方法，对培养学生分析问题的能力帮助很大。此外，他注重学生操作能力的培养，在讲授银行会计铁路会计等课时，除课堂讲授和课堂实习外，在学完这些课程后，留有一套总习题，让学生在假期内习作，下期开学报到时交卷。这套实习题从凭证到报表，都是正规帐页，由商务印书馆发售。他说是练兵。如只用“T”字形帐户，将来工作时会不知所措。他还利用假期安排高年级学生去工商企业实习，实习地点多由谢霖介绍。学生在实习期间担任部分具体工作，对学生工作能力的培养起很大作用。当时大学生毕业即面临失业，有些学生在实习中和企业建立了关系，毕业后即到这些企业工作。谢霖为学生谋求工作至为操劳，为不少学生介绍了工作，而且曾成批地介绍去资源委员会、直接税局、田粮管理处、盐管局等。

谢霖对青年教师十分关怀，要求严格，他常检查助教的实习课，抽查实习题和批改的作业卷，发现问题及时指正。在新留助教前，他亲自谈话说：留在学校工作，要有吃苦精神，学校经费困难，待遇菲薄，你们如另有高就，会得到更多的薪金。但人生在世，不能只为自己着想，应该先为社会尽义务、安贫乐道。其次教师要作“传道、授业、解惑”的工作。首先自身要“学而不厌”，要“业精于勤”，自己要刻苦学习，如你知道的和学生差不多、或只略高一筹，你在教学中必然捉襟见肘、非常被动，教学是艰苦的工作，要下苦功才行，同时教师不能只是独善其身，不能只是“学而不厌”，还要“诲人不倦”。诲人是教师的职责，不能把教书当作是贩卖知识，上课就讲、下课不管。不能把先生和学生的关系只是当作知识的接受关系。先生要爱护学生、关心学生、体谅学生、要急学生所急、要引导学生奋发向上，这就叫“诲人。”这个诲人不是偶尔为之，而是“诲人不倦”，不如此，那就会造成上课是先生下课是路人……。这些话确是一个教育家的名言，有很深的哲理，至今仍值得我们认真学习！

谢霖教授为传播会计和经济管理知识，他撰写出版了大量著作。其中有《银行簿记学》、《簿记学》、《改良中式会计》、《中国之会计师制度》、《实用银行簿记》、《实用银行会计》、《银行会计》、《会计学》、《成本会计》、《铁道会计》、《审计学要义》、《商人通义讲义》、《现行公司法要义》、《现行票据法要义》、《海商法要义》、《破产法要义》、《实用政府会计》、《实用基础簿记》等等。他不仅给我们留下了珍贵的精神财富，而且他的治学态度、求实精神、对我们今天会计理论和实际工作者仍有指导意义。其中《实用会计》一书，为中国会计学引入了“借”、“贷”两词和“借贷记帐法”，从而奠定了中国现代会计学的基础。与孟森合著的《银行簿记学》在日本东京出版，并在中、日两国同时发行，成为中国学者所撰的第二部系统介绍西方复式簿记的会计学著作。