1931年3月17日，中央国医馆在南京成立。成立大会会场在南京头条巷国术馆的竞武场，到会者有各地中医药界代表217人及社会各界代表300多人。会上议决要案多项，并推选名誉理事王宠惠等43人。1931年8月31日，国民政府批准《中央国医馆组织章程》及《中央国医馆各省市国医分馆组织大纲》，1932年中央国医馆第12次理事会常会通过了《各县市设立国医支馆暂行办法》。之后，各县市都设立或积极筹备支馆，国医馆大有一日千里之势。

国医馆的组织机构由中央国医馆和各地的分馆组成，在南京设立中央国医馆，在各省会设立分馆。中央国医馆设置理事会、正副理事长、正副馆长，其下设秘书处、医务处、推行处等，并按工作需要聘请医药专家，设立各种委员会。第一届理事由焦易堂先生亲自担任国医馆馆长，副馆长为陈郁、施今墨二位先生。医务主任为冉雪峰。

中央国医馆成立后，各地的分馆也发展很快。国医馆的设立还延伸到国外，如美国旧金山、菲律宾、新加坡、泰国等地也设立了国医分馆。秘鲁和越南也筹建了国医分馆。

中央国医馆成立之初，计划创办期刊。但是由于经费短缺，一时难以实现。1932年10月，经多方努力，《国医公报》方始创刊，它是中央国医馆的机关刊物。国医馆的任务是“整理国医国药，用科学方法，将中国药物之储有，依医食同源特殊之汤剂学，推广其实效，使东方代表之文化，普遍于大地。凭五千余年之经验，准脏器治疗之原理原则，使国医国药之应用成为有系统之崭新科学”。公报包括命令、法规、公牍、专载、选载、调查统计等类，并有学术讨论、附录专栏。

馆令类有委令、训令、指令，公牍类有呈文、聘函、公函、电文、批文、提议案等。由此可见，《国医公报》主要反映了中央国医馆的工作动态。自第2卷1期开始增设论坛、专著、学说、针灸、药物、医案、医事评述等栏目，学术性内容逐渐增多。

中央国医馆成立后，首先进行中医药学术整理，拟定了一份详尽的学术整理计划一《中央国医馆整理医药学术标准大纲》，开展了统一中医病名、编审中医教材和著作等工作。这些工作虽未能完成，但也留下了一些有益的探索经验。

国医馆另一成绩是推动了《中医条例》立法。国民党政府在1930年公布了《西医条例》，明确了西医的法律地位，但未为中医立法。中央国医馆成立后多次向行政院提出制订《国医条例》，1933年焦易堂等人还起草了《国医条例草案》等提交国民党中央政治会议，但一直遭到反中医人士阻挠，时任行政院长的汪精卫不但在行政院否决《国医条例》，在此条例在立法院通过后又指使该院长孙科不予公布。1935年，《医界春秋》将汪精卫阻挠《国医条例》的言论公开，掀起中医界抗争怒潮。同年11月的国民党第三次全国代表大会上，冯玉祥等55名代表提案要求给中西医与平等待遇。到1936年1月，国民政府终于将条例更名为《中医条例》，正式公布。《中医条例》是历史上第一部关于中医的专门法规，尽管其内容仍有不足之处，有些条文在当时也未真正实施，但它毕竟使中医有了法律保障，因而具有积极的意义。

中央国医馆是中医存废斗争的产物。它在“中医科学化”的方针指导下，进行了制定中医学术标准、统一病名、编审教材等工作，为维护中医药合法地位和发展中医教育做出了种种努力。但其多种致命缺陷使它肩负的重任难以施行。不过，中央国医馆的许多创设为新中国成立后中医药研究机构和中医院校建设提供了有益的借鉴。