1903年冬，应学贯中西、博古通今的张元济之邀，高凤谦到了商务印书馆，除了一度在1909年出任复旦公学校长外，一生与商务同舟共济30余年。

十分重视教育事业的高凤谦，深入考察日本，发现教育的根本在小学。当时中国还没有一套像样的小学教材，他认识到要彻底改变“文人入仕、八股为尊”的观念，还得有一套有足够分量取代四书五经的教材。 　 1904年，由高凤谦、张元济合编的《最新初小国文教科书》（第一册）以及自编小学正式算术课本问世，受到社会人士广泛喜爱和好评，不及西周，即纸贵洛阳。这一套教科书在教育界风靡数十年‘，对中国教育产生了学刻的影响。

新式学校发展后，由于教学研究的需要，社会上对工具书的需求大增。过去的《康熙字典》己不适应要求，于是经高凤谦倡议在编译所内设辞典部，着手编《新字典》和《辞源》，他也亲自参加并经常与主编探讨争论。历时8年的努力，有学术质量的《新字典》和《辞源》相继出版，十分畅销，并且受到教育界的重视。

高凤谦是一位有事业心、淡泊名利的忠厚长者。1919年五四运动前后，他觉得商务的出版物已落后于时代，而自己又不懂外文，考虑到商务的前途，产生了“举才让贤”的想法。1921年春末夏初，高凤谦千里迢迢亲赴北京，邀请不满三十的北大教授胡适主持商务编译年工作。胡适感动地说：“我决不会看不起商务印书馆的工作。一个支配几千万儿童的知识思想的机关，当然比北京大学重要多了。我所虑的只是怕我自己干不了这件事”。他答应到上海商务印书馆去住一两个月，看看里面的工作，看看自己配不配接受付托。

胡适在上海的45天，高凤谦天天陪着他了解编译所各部门工作，介绍同仁，每天从家中送饭来，和他同吃午饭。但最终胡适自觉不胜担任此职，而推荐了自己的老师王云五。高凤谦一如既往，又每天陪同王云五到编译所走动。一个月后，他辞与所长职务，由王云五继任，并一直尽心尽力相助。

每念此段经历，胡适顿觉其中的美意，为之动情：“最难能的是高梦旦先生和馆中几位中志辈，他们看中了一个少年书生，就把他们毕生经营的事业付托给他；后来又听信这个少年人的几句话，就把这件重要的事业托给了一个平素不相识的人。这是老成人为一件大事业求付托人的苦心，是大政治家谋国的风度。这是值得大书深刻，留给世人思念的”。高凤谦期望光明，最能欣赏也最能了解新鲜的世界。于是，他：三十年编纂小学汉科书，三十年提倡十三个月的历法，三十年提倡简笔字，提倡电报的改革，提倡度量衡的改革。

《康熙字典》检字不便，引来高凤谦思创新法。在得力于林语堂创造的一种首笔，检字法的启发，经过十多年的研究，他只按安形，不管字义，将旧字典的214音日，就相近者合并为80部，并确定上下左右的部居。自认此法不够完善，年以未公之于世，又继续研究。王云五进入商务印书馆，高凤谦便把自己的研究草稿交给他整论，支持和赞助他深入研究下去。王云五在高凤谦的基础上，经过几年的再探索，经于在1926年发明了四角号码检字法，并立即应用于该馆所出版的字典编排。

商务当局关于裁员之议为职工所知，于是由发行所的中共党员廖陈云（即陈云）为首发起了全所罢工，很快印刷、编译二所和总务处相继响应。郑振锋被选为“罢工中央执行委员会”委员之一，高凤谦为资方谈判代表之一，而一个之女婿，一个是老丈人。

翁婿始终烙守“约法”，在谈判桌上吞枪舌剑，：会下依然相敬如常。如此处理公与私的关系，与他俩个人品德是分不开的，在商务同仁间传为一时美谈。

学校工会组织100余离退休教工前往历史文化名镇朱家角一游。水木清华，河径纵横，屋宇栉比，民俗浓郁，使老师们忘却了市井喧闹， 烦心之事。

尽管跑不完这里的36座石桥，单一座气派的明代五孔石拱桥—放生桥上，就可大发人息古念义之幽情。徜徉在明清一条街—北大街，仿佛重现古代商业的繁华景象札肉、青豆等特产，传来诱人的香味，令人垂涎。历经沧桑、保存封建官僚起居生活状况的王永日古宅，集江南园林精华的果植园，留下一了老师们悠闲的步履。唯呀小舟上，展露出老师们舒心的笑意。

他对翻译事业犹为关注，曾为一些译著作序，阐述他对翻译的看法。1897年5月12日，他在《时务报》上发表译学论文《翻译泰西有用书籍议》，很为译学界看重，《集成报》等刊物均做了转载。论文针对译界中出现的各种问题进行了剖析，并提出了切中的解决方案。此时的中国已从蒙昧中渐醒，觉悟到必须向西方学习。于是，大家一拥而上，纷纷挥毫译书。这是一种可喜的现象，但由于少规矩可依，译文中对事物的名称由译者随意定，译音也混乱不堪。高凤谦身为出版家，深为译界的混乱感到担忧，建议细细考证中国的器物名称以及西方的器物名称，设定标准，成一书，作为诸译者遵循的定规。同时，他还提议编一本译音规则书，统一外语与汉语的译音。