曹浩森到日本后，得到了日本友人的推荐，加入日本陆军第十四团工兵部队，作为日本陆军士官学校的候补生，但此事却被北洋政府所获悉，于是通过外交手段，咨请日本政府驱逐他，曹浩森只好转赴南洋，在新加坡、马来西亚、印尼苏门答腊等地流浪。在华侨的资助下，他在《苏门答腊报》任华文总编。1915年又赴雅加达任火山华侨敦本学校校长。

1915年12月，袁世凯窃国称帝，蔡锷在云南发难，曹浩森得知消息后，随李烈钧由印尼潜回国内到达昆明，在云南组织讨袁护国第二军，李烈钧担任护国军第二军总司令，任命曹浩森为总司令部参谋厅第二课课长，主办机要军务事宜。次年6月，曹浩森升任第二军第三十一团团长，奉命率部兵发广东驱逐龙济光，占领广州。在攻占韶关时，曹浩森团攻克帽子峰，仅仅向韶关开了三炮。守军镇守使朱福全闻风而逃。这就是当时著名的“三炮定韶关”的趣闻。此后，曹率部守卫南雄。

1917年，护法运动爆发。孙中山在广州召开非常会议之后，成立中华民国护法军政府。李烈钧担任大元帅府总参谋长。在李烈钧的推荐下，曹浩森任广州警备军总参谋部参谋。1918年6月，调升滇粤桂联军总司令部参谋。次年4月，又调任总司令部副官。这时，护法军政府参谋部为了培养军事人才，选派曹浩森等4人到日本陆军大学深造。曹为此兴奋不已，立即起程赴日，可是到了日本后，北洋军阀政府又致电日本政府，阻挠广东护法军政府所派的人员入陆军大学。曹在日本无法入校，不得已而回国。

1920年，曹浩森奉调在孙中山大元帅府担任孙中山的侍卫副官，因而有机会向孙中山陈述自己的志愿，并得到孙中山的嘉勉，1921年5月，代表孙中山赴贵州巡视，任参谋本部特派参谋、赞襄滇黔援桂军第三路、第四路军务兼援桂军第三路司令部参谋长，由贵州随军入广西柳州。同年11月，曹浩森再次东渡日本，进入日本陆军大学。

1924年冬，曹浩森毕业回国。刚到上海，便接到李烈钧的电报，叫他马上去北京。当时，孙中山正在北京同北洋军阀首脑段祺瑞进行会谈，不料肝癌发作，住进北京协和医院诊治。为了孙中山的安全，李烈钧命令曹浩森担任总侍卫。此后一段时间，曹浩森住宿于协和医院，专门护卫病重的孙中山，期间兼任孙中山发言人。1925年3月12日，孙中山在北京病逝后，李烈钧为治丧委员会首席委员，曹为治丧事务处负责人。

1925年5月，孙中山先生的治丧工作结束后，曹浩森随同李烈钧会见国民军总司令兼第一军军长冯玉祥。冯玉祥聘请李烈钧为国民军总参议。经李烈钧推荐，曹浩森被冯玉祥任命为西北边防督办公署参谋处处长，不久，升任参谋长。

1926年3月，西方列强趁冯玉祥去苏联考察之机，策动“讨赤盟军”五路进攻冯部。曹浩森于4月命国民军撤退北平，集结南口，构筑工事，与“讨赤军”顽强地战斗了三个多月，大挫敌军精锐。由于寡不敌众，加上饷械供应不足，终于败退甘肃、宁夏。不幸的是，在从宁夏退往平凉的路上，曹浩森乘坐的汽车因驾驶员操作不慎，导致翻车，掉到两三丈深的沟里，曹浩森受了重伤，在平凉医院住了很久才慢慢痊愈。南口大战钳制了北洋军阀兵力，帮助了同年7月出师北伐的国民革命军。

9月上旬，冯玉祥回国了解情况后，立即赶赴五原，与于右任等组织国民军联军，并发表宣言，与北伐军南北呼应。曹浩森被任命为国民军联军总司令部副总参谋长，率部转战河北、山东、河南等地。此后不久，国民联军改编为国民革命军第二集团军，冯玉祥为总司令，曹浩森为总参谋长。五原誓师，在中国大西北举起了武装讨逆旗帜，对刚开始的北伐战争作出了有力的支持和配合。

秦德纯晚年回忆写道：那时我由二集团军十四军军长调任该集团军副总参谋长。总参谋长是曹浩森先生，他品端学粹，耿介廉洁。我与他同住一个房间，房内布置简单，仅有一个办公桌两把木椅及两个行军床，曹先生的行军床，颇为脆弱，人坐床上，常吱吱作响，他曾写了几句话贴在床侧墙上：“此床甚弱，诸君注意，床坏事小，恐伤尊腿。”因此来访的客人均立谈完毕，即行辞去。确有利于我们的办公业务。

对于曹浩森在西北军中的贡献，简又文曾评价道：“曹任西北军总参谋长，于国民革命一役，策划军事，数建大功。”

1927年初，蒋介石为了分化冯玉祥瓦解冯玉祥的武装力量，对曹浩森进行了拉拢。此年，蒋介石特任曹浩森为国民政府军事委员会委员。此时，冯玉祥已请曹浩森担任全集团军的督训责任。蒋介石又邀请曹浩森回江西为桑梓服务，并委任他为江西省建设厅厅长。曹浩森念及与冯玉祥的旧情，拒绝了蒋的邀请。

1928年8月，冯玉祥就任国民政府行政院副院长兼军政部部长，曹浩森任军政部陆军署署长。冯到南京之后，渐渐察觉到蒋介石排除异己的阴谋，遂于1929年2月，以治病为理由匆匆离开了南京。曹也随冯弃职出走。5月，冯玉祥在陕西华阴与曹浩森、韩复榘等高级将领密商反蒋。可是韩复榘向蒋介石告密，冯的计划失败，冯也因此遭到蒋的明令讨伐。

韩复榘、石友三叛冯投蒋后，冯玉祥与曹浩森商量反蒋的对策，曹提出了联合阎锡山共同倒蒋的意见。冯遂派曹浩森与邓哲熙两人到陕西太原见阎锡山。阎锡山对曹浩森说：“请你转告焕章先生，请你到太原一行，我将同他做出决策，或出国一游，争取外援，相机倒蒋。”曹转告冯后，便于6月陪同冯玉祥一同到达太原。阎锡山一面虚张声势，号称“阎冯合作”；一面又向蒋介石告密。蒋介石在北平秘密会见阎锡山，并派阎为山西宣抚使兼办军事善后事宜。阎即将冯软禁于五台县建安村。曹浩森一看形势不妙，三十六计走为上计，跑到南京去了。

曹浩森到达南京后，忧心忡忡，顾虑重重。蒋介石听说曹浩森已到南京，便立即召见，不但未加责备，反而礼遇有加，表示关切，并任命为军政部陆军署署长。从此，曹投入了蒋的怀抱。

1929年10月，冯玉祥部下宋哲元、刘郁芬、孙良诚等率国民军公开反蒋，国民军攻势勇猛，一路杀向河南。而此时已在国民党中央军担任参谋的曹浩森，把国民军的优点和缺点都一一列举出来，并提出了具体的应对办法，于是中央军避开国民军的锋芒，采取了防守的策略，使国民军攻而无功，损失惨重，而中央军逐渐占据了上风。例如：国民军的特效战术是于夜间“摸营”，兵士右手执大刀，左手提短枪，偷劫敌营，所向披靡，但是在这次战役中，由于曹浩森的献计，中央军扎营的地方，夜间都燃起火把，彻夜遍地光明，国民军大刀队一旦前来劫营，都被射杀，使孙良诚等人一时找不到破敌良策。

1930年5月，中原大战爆发，曹浩森随同蒋介石到柳河督战。但是蒋冯两军对峙，蒋因后方接力不及，情况紧张。蒋在柳河召开军事会议，杨杰、曹浩森等均参加，研究对策，决定进退。曹即向蒋进策，说：“冯玉祥用兵素来稳扎稳打，从不冒险深入，我军应把握时机，以进为上策，可以迅速集结兵力，重点突击，进行强攻，我军变被动为主动，赢得时间，则后续部队可到，必操胜券。”蒋介石依计而行，果然，冯军因不知对方虚实而后撤，以致被蒋个个击破，无法收拾。从此，曹便为蒋所倚重。

同年9月，冯阎兵败，中原大战结束。冯玉祥所部第一集团军由孙连仲率领，投奔了山东韩复榘。蒋介石获悉此讯，深感不安，便与曹浩森商议，如果能将孙连仲的部队拉过来，派到江西“围剿”红军，则孙连仲离开韩复榘，这岂不是一箭双雕？曹便自告奋勇，向蒋介石邀功，去担任说客。蒋介石大喜，即派曹为秘密特使，前往山东说服孙连仲，接受改编。当时，孙连仲的处境很困难，但又不甘居于韩复榘之下。曹浩森在担任西北军参谋长时，和孙连仲的私交很好，同时，孙部的高级将领，如参谋长赵博生、旅长董振堂都是曹在保定军校的同学，还有旅长季振同也是熟悉的老友，因而说服工作进展的很顺利。1931年春，曹浩森亲自陪同孙连仲部旅长以上军官到南京觐见蒋介石，蒋介石亲自到南京车站迎接。由此，蒋介石对曹浩森倍加宠信，不久，曹浩森当选为国民党第四届全国代表大会代表，升任为军政部常务次长，仍兼陆军署署长。

1931年6月22日，曹浩森陪同蒋介石乘坐的永绥舰由南京直抵南昌，下午7时，在樵舍抛锚，然后乘车下榻南昌行营。他当晚立即召集军政部长何应钦、参谋长熊式辉以及陈铭枢、孙连仲、陈诚等军事将领开会，确定对中央苏区和红一方面军发动第三次“围剿”计划。6月26日，陆海空军总司令南昌行营“党政委员会”、“政务设计委员会”成立，蒋兼任委员长，熊式辉为行营参谋长，曹浩森副委员长，均由曹主事，推行“三分军事、七分政治”的发动政策。1932年，曹浩森任军事委员会陆军处处长。当何应钦担任赣粤闽边区“剿总”总司令，蒋介石派曹浩森任参谋长。同年5月，蒋介石亲任鄂豫皖“剿匪”总司令，曹浩森任参谋长。曹经常往返于开封、武汉、安庆之间。1933年9月，蒋介石发动对江西中央苏区的第五次“围剿”时，曹浩森等人与德国军事顾问团共同策划“堡垒主义”新战略，参与对中共中央根据地发动的第五次“围剿”。

1934年，蒋介石派曹浩森代理军政部部长兼军事委员会第二厅主任。

1935年4月4日，曹浩森晋升为陆军中将。是年11月，曹当选为国民党第五届全国代表大会代表。

1938年，当选为国民党五全大会代表。

1939年，兼任军政部特别党部特派员。

1940年，当选为国民党国民大会军人代表。

1941年，任江西省政府主席，全省保安司令。

1946年，卸任江西省主席后，在南京就任国民党中央监察院委员、东南行政指挥部主任等要职。是年11月当选国民党制宪国民代表大会代表。

1947年，晋升为陆军上将。

德王送出军队编制计划和武器所需报告后，得空就在蒋介石的幕僚中到处拉关系宣扬自己。他在拜访杨永泰、曹浩森时，他们提出给德王一个“蒙古保安统监”的虚衔职务。德王不愿意接受，他想，盟长索王是锡林郭勒盟的保安长官，我要上这个职务，担任了“保安统监”凌驾于索王之上，不但索王会有意见，而且别的王公也会有看法，不如担任蒙古骑兵师的师长，既实惠，又相当。只要你不擦别人的头皮，你上就上；你擦了别人的头皮，别人就会推你一把。于是，德王当场表示不愿接受这个统监职务，他说：“我此次来见委员长，不是专为要官而来的。”话虽漂亮，又有些刺耳。

杨永泰和曹浩森听了，互相对视了一下，觉得有些不顺耳，杨永泰说：“那就以后再商定吧。”

蒋介石接见德王后不久，要到长沙去视察工作，就让他的韩副官告诉一下德王。

德王得知这个消息后，为了表示尊重和亲近，就在蒋介石上船前，与武汉警察局长陈希曾二人，单独到长江码头为蒋介石送行。蒋介石觉得这个小王爷果如桂永清说的那样是个人才。

蒋介石走后，按照原来的安排，杨永泰和曹浩森又招待德王去参观武汉兵工厂和长江上的军舰，最后走进武汉大学，受到师生们的热烈欢迎。德王要到武大参观的消息传到校园后，引起了师生们的极大兴趣。一是他们从来还没见到过蒙古人，尤其是王爷。二是蒋委员长请来的客人，一定是个很了不起的人物。等他来了，大家一看也没什么特别，椭圆形的脸上长着一双灵活闪亮的大眼睛，倒是一双垂耳还有些意思。使师生们感兴趣的是这人精通汉语，说话还咬文嚼字。有人问他，你们草原上有大学吗？你上过大学吗？他很幽默地说，大雪有，雪很大！哈哈……

经人一解释，师生们都被逗笑了。他是有问必答，并无尴尬表现。他也问了学生不少问题，学生更是对答如流，那些渊博的知识使他吃惊，他深深地感到文化教育的重要。

德王参观了不少地方，引起了媒体的兴趣，有些记者写文章说，德王拖着油松大辫子在武汉大出风头。其实德王就是来出风头的。参观结束后，由行营秘书邓文仪转告德王说，关于编制蒙古骑兵师之事，委员会指示以后再行考虑，至于拨发武器一节，可以拨给机枪四挺，步枪数百支，均可在此具领。另拨迫击炮两门，需到南京军政部洽领。

德王一听扫兴了大半，不批准建立骑兵师，光给一点武器使他觉得有些大失所望。欲望很高，不想只是“水中捞月”、“镜里看花”。“统监”没要，师长不给，到头来还是个代理盟长、苏尼特旗的王爷。德王的情绪一下落到了冰点。他找桂永清，找杨永泰和曹浩森，请他们好好跟委员们说说：这是委员长指示办的事，怎么说推就推了呢？杨、曹说了之后没顶事，他就亲自去找委员们理论。不想越理论越糟，委员们说，一个草地娃娃来武汉抖什么？我这里不开绿灯你过不去，委员长答应你找委员长去。更使他生气的是，让丁我愚去行营军械部办理领取武器事宜，领回的除了四挺机枪，其余的数百枪械都是旧货，有的已生了锈。德王很生气地拒领了，他说我们不是来武汉收破烂的！气氛闹得很紧张，德王觉得这批人不可救药，腐败的生活渗透到每一个细胞，这批人不打掉，国民党没希望。

南京之行，德王生气又无奈，只好两手空空打道回府。

1941年，江西省政府主席（安义人）熊式辉离赣外任，行前，熊长官走马荐诸葛，向蒋介石推荐曹浩森作为自己的接班人。果然，蒋介石采纳其继续实行赣人治赣的建议，让曹浩森接任了江西的封疆大吏，当上了家乡的父母官。出于对曹浩森的信任，蒋介石还把他从苏联回国不久的长子蒋经国安排在他的属下担任赣南行署专员。

曹接任江西省政府主席，在任时抚辑流亡、厚养民生，积极支援第三第九两战区对日作战。1945年日本投降，省政府迁还南昌，曹浩森力主休养生息，为政清简，自1941年至1946年5年余治赣期间，他励精图治，留下了清廉美名。

曹浩森素以儒家的“廉洁”思想自励，以清白做人为原则，遵循孙中山先生“天下为公”和“礼义廉耻”信条及不断革命的思想，致力于国家统一。曹在生活上非常俭朴，就任江西省主席期间，粗衣素食，不贪不占，不仅没有在城市购置房产，在乡间除了祖传房屋数间及3亩左右的土地外，未置分田寸土。他的廉洁，在当时的社会上是享有很高盛誉的。当他卸任江西省主席时，南昌的市民要为他修建浩森图书馆，并于其侧造下榻处，以表思念，曹浩森力辞不允，终未成事。

曹浩森来赣赴任那天，省府派了一辆卡车、一部轿车前往毗邻湖南的萍乡迎接。谁知，见面一看，轻装简从，一辆小车都绰绰有余。到任伊始，事务长请示他的饮食如何安排？曹公告之：“来客例外，平时的中餐和晚餐，我同夫人，有半斤肉则不要鱼，有半斤鱼则不要肉，其它青菜、豆腐若干。”至于早餐，常常是稀饭、馒头、咸菜之类，并要求数量适当，不得浪费。作为一省之长，生活如此节俭，怎能不叫都昌的父老乡亲有口皆碑，广泛流传，用以教育他们的子孙后代。

曹浩森在外任职期间，不搞以权谋私，未曾利用职务之便，为都昌同乡及其亲属办事说情，也从未在家乡及任何地方置过房产。当时，国民党内盛行裙带风，一人得道，鸡犬升天。曹浩森从不利用官权沾亲带故，安插私人。例如，民国后期，都昌有个不大不小的村庄，由于裙带关系的牵连，共有十八条横皮带（军官）在军界任职。相比之下，文化发达、人口集中的曹氏故里，偌大一个乡村，却无人得到他的提携和关照，其廉政作风可见一斑。更有甚者，他一个大学毕业的弟弟，当时的湖北省长拟量才录用，委其担任某县县长，由于曹浩森得知信息从中干预，致使即将到手的纱帽化为乌有。他的弟弟弄清原委后，同一向敬重的兄长愤而论辩：“你曹省长的手也太长，居然伸到湖北来了。我是凭本事做官，跟你有什么关系！”为此，年轻气盛的弟弟被激得与老兄绝交多年，不通音问。

据说，都昌家乡惟有一件事的确沾过曹浩森的光，许多老人至今还津津乐道，这就是在南昌港口开辟都昌船只专用码头。都昌地处鄱阳湖滨，湖岸线长达一百多公里。那时没有汽车、轮船，客货运输除了人力全靠帆船。可以设想，在省城有个专用水运码头，对于方便装卸停靠，该有多么重要。因此，都昌老乡才斗胆借用了一次省台的声威，成就了该项利县利民的事业。

曹浩森的廉明，还反映在他的平民意识和民主思想上。一是反对纳妾。民国时期，高官豪绅纳妾成风。曹浩森打从上个世纪二十年代在冯玉祥部下担任国民军的参谋长，可谓显官厚禄，很长时间仍是一夫一妻。直到接近晚年，痛失长子，心情郁闷，为了更好地关照起居，陪伴出行，调节精神，才在夫人及亲朋好友的支持、劝说下，与一位情感笃深的湖北女士正式明确婚姻关系。二是不讲门第。曹浩森小儿媳的娘家，原是曹府的街坊邻居，纯粹的平民百姓。因小儿子在接触中爱上了正在师范学校读书的邻家闺女，女孩和双方家长都没有意见，便由曹父拍板，结成秦晋之好。直到上个世纪九十年代，曹家媳妇还在都昌县城开办了一所私立幼儿园。虽年事已高，其敬业精神和教学艺术，深得家长好评和孩子们的欢迎，被许多幼儿教师尊为楷模。三是善待仆人。曹浩森对为其服务的公勤人员都非常尊重，从不居高临下，随意训人。

曹浩森出任该职时正值抗战相持阶段，江西正处于孤立地位，四面为日寇所包围。曹惨淡经营，鼎力维持，“熊规曹随”，为政清廉务实。他自己一“少说话、不应酬、负责任、守纪律、刻苦耐劳”相标榜，他人亦有“人敦厚、尚俭廉、重朴实”的评价。客观地说，他在抗战、用人、教育、禁赌等方面是头脑清醒的，有所作为的。他那首脍炙人口的《示儿》诗，便是曹浩森民主观念和节廉精神的真实写照，至今还被乡亲百姓广为传唱：“不大不小儿女，半乡半市人家，席上不分主仆，满盘豆腐冬瓜。”治赣期间，曾因羁押廖承志于泰和马家洲，受到何香凝的当面痛斥。之后，曹浩森请示蒋介石。不久，廖承志同志得以释放。

在民国末年腐败的官场氛围中，曹浩森能够洁身自好，卓然独立，其高尚情操实属难能可贵。有感于曹浩森的清廉，他离开江西赴外地上任时，有知情的市民特意在他路过的家门口摆上清水明镜，以示褒扬。

1946年，已经62岁的曹浩森卸任江西省主席后，在南京就任国民党中央监察院委员、东南行政指挥部主任等职。1947年冬，升陆军上将军衔同时退为备役，翌年9月携妾李甘雅经由南昌去台湾。

曹浩森在台期间，与原国民党中央监察院院长于右任实相过从，经常流露思乡怀旧之情。晚年书录程颢诗一首，“闲来无事不从容，睡觉东窗日已红。万物静观皆自得，四时佳兴与人同。道通天地有形外，思入风云变态中。富贵不淫贫贱乐，男儿到此是豪雄。”作为养生之道。

1952年2月5日，因患胃癌逝世于台北，时年68岁。当时香港《大公报》报道：“曹浩森病逝台北，身后萧条。”葬于台湾五指山国军示范公墓上将区。