1870年（同治九年），经二哥马建勋引荐，佢也成为李鸿章的幕僚，随办洋务。因为熟悉西洋文化和语言，他受到李鸿章的赏识。1870年以后，马建忠、王韬、郑观应、薛福成等人，主张在学习西方先进科学技术的同时，还要吸纳某些政治、经济学说。他们反对列强侵略，维护民族独立、国家主权，主张变革封建专制制度、发展民族工商业，具有一定程度的反封建的民主思想，对当时的中国社会产生了广泛的影响。

1876年（光绪二年），他以郎中资格被李鸿章派往法国学习国际法，同时兼任中国驻法公使郭嵩焘的翻译。这年马建忠如愿以偿，考取公费留学法国，研究西方各国文字。他一边读书，一边兼任驻法公使馆的法文翻译。由于有了两份收入，不但学业无忧，而且有了余钱养家。

1877年（光绪三年），他通过了巴黎考试院的文科和理科考试，成为第一个取得法国高中会考毕业证书（fr:Baccalauréat）的中国人。

1879年（光绪五年），他取得政治私立学校（fr:école libre des sciences politiques，巴黎政治学院前身）法学学位（fr:licence de droit）。他经过勤学苦练，在36岁时得了博士学位，9月回国。李鸿章获悉后专函聘他入幕，马建忠9月中旬开始投身到李总督府门下，成了李鸿章办理外交与洋务的左右手。 曾去印度、朝鲜处理外交事务。并任轮船招商局会办、上海机器织布局总办。

1880年（光绪六年），马建忠回到天津，重新在李鸿章幕下办理洋务。

1881年，受李鸿章差遣赴印度同英国人谈判鸦办专售事宜。在谈判中，马建忠提出“鸦片流毒，中外腾谤，当寓禁于征，不可专重税收”。他的观点赢得英国人的同情，“虽未遽许”，但英人“皆称其公”。

1881年受命前往辽东勘察，为北洋水师船坞选址，所选即后来著名的“旅顺大坞”。他曾几度去朝鲜、印度办理外交事务。“由于他对西方具有无与匹敌的知识，迅速成为李鸿章最器重的外交顾问”。

1882年，朝鲜发生政变，清廷派马建忠、丁汝昌、吴长庆等带兵前去助朝鲜“平乱”。他去朝鲜，协助朝鲜政府与英、美、德签订商约。同年朝鲜发生壬午兵变，闵妃请求清朝出兵，直隶总督张树声和李鸿章派淮军将领吴长庆平乱。马建忠设下诱擒叛乱头目之计，参与了抓捕兴宣大院君李昰应的行动。同年10月18日，李鸿章派马建忠赴天津与法国公使宝海达成越事草案三条，即中国撤兵、通商、中法分巡红河南北。

1882年（光绪八年），朝鲜使臣朴泳孝和金玉均即将出使日本，临行前向清朝政府请求将中国的龙旗作为国旗使用，清朝回复称藩属国不能用五爪龙旗只能用四爪龙旗。其时奉李鸿章之命出使朝鲜的中国使节马建忠建议朝鲜政府采用中国传统的太极八卦旗作为国旗使用，这个建议得到了朝鲜政府的采纳。

1884年（光绪十年），马建忠加入唐廷枢主持的轮船招商局。中法战争后，他升任轮船招商局会办。

1884年，马建忠出任上海轮船招商局会办。迫于中法战争形势，由他策划并经手，招商局产业转至美资“其昌洋行”名下；但事后此举招致多方指责，他甚至被戴上“汉奸”帽子，险遭杀身之祸。后奉旨进京接受审查，“幸无事”。

1885年，他向李鸿章建议借外债以兴实业、建海军。又相继撰文，提倡设工厂，开矿山，行轮船，筑铁路，废厘金，兴商务。其间，曾任上海织布局总办。

1890年（光绪十六年），马建忠开始撰写《富民说》，主张发展对外贸易、扶持民间工商业等措施以富民强国，并将《富民说》上呈李鸿章。不久，受李鸿章委派担任上海机器织布局总办，旋因资金周转等问题去职回籍。

1890年后，马多年闲居上海，著书立说，但“仍是李鸿章幕府要人”。他曾建议设翻译书院，后充任该院洋文教习。

1895年，他随李鸿章赴日谈判签定“马关条约”。庚子之乱期间，李被慈禧任命为“与八国联军议和大臣”，马随赴上海行辕，襄理机要。

1895年（光绪廿一年），甲午战争失败后，他应李鸿章之邀到北京，襄助李鸿章赴日本马关议和。

1896年，马建忠与上海《时务报》主笔梁启超相识，并出版了《适可斋记言记行》。

1898年，马建忠一直整理《文通》一书（光绪廿四年）出版。该书以西方语文的语法为本，对照从古书中精选的例句，研究古汉语的语法规律，创建了一套汉语的语法体系，是奠定汉语语法学基础的开山之作，对后世汉语语法研究产生了巨大影响。

1900年（光绪廿六年），马建忠再度应李鸿章之召，任上海行辕襄理机要。8月14日，因赶译长篇急电而猝然去世，终年55岁。

在法国留学的三年多时间里，马建忠周游了英、法、德、奥、瑞、比、意诸国，参观了众多工厂、学校、军营，访问了许多法国的家庭、学者、政要，开阔了眼界，活跃了思想，通过悉心研究中、西文化的异同，看到了中国存在的不足之处，“历上书言借款、造路、创设海军、通商、开矿、兴学、储才”诸事。这一时期他所撰写的文章和书信中，除了提出借款修造铁路、培养外交人才、创设海军等具体建议外，对洋务派以练兵制器为先的自强办法进行了批评。认为西方各国之所以富强，在于“其讲富者以护商会为本，求强者以得民心为要……，他如学校建而智士日多，议院立而下情可达”；而洋务派所注重的“制造、军旅、水师诸大端，皆其末焉者也。”竭力主张通商致富，并对“利洋商而害华商”的不平等关税制度予以抨击，主张区别不同的货物课以不同的税率，以此来调解进出口；并以自己所掌握的国际法知识，多次上书朝廷阐明对外国提出修约，免厘加税是正常之举，与违约不同。这一主张后为总理衙门所接收，并实际运用于对外谈判中。

1880年（光绪六年），马建忠结束了在法国的留学回到天津，重新在李鸿章幕下办理洋务。翌年，奉李鸿章之命赴英属印度，与印度总督里蓬交涉鸦片专卖及税收问题。

1882年（光绪八年），李鸿章又派他去朝鲜，协助朝鲜政府与美、英、法三国签订了商约，并建议朝鲜聘请有经验的洋员和中国有识之士掌握海关主权，后李鸿章派德国人穆麟德与马建忠的四哥马相伯前往朝鲜海关。

学术思想

马建忠主张废除厘金，收回关税主权，发展对外贸易，扶持民营工商业，致力推行洋务，并称许西方议会制度。同时建议开设翻译书院，提倡国人多学洋文，汲取外国科学文化知识。

烟税第一人

第二次鸦片战争以后，封建保守的统治阶级思想上发生了变化，一部分人开始认识到外国的“利器”对中国“自强”、“求富”的重要性，于是纷纷筹办洋务。在筹办洋务的过程中，有一个人提出了征收烟草税的主张，这个人便是马建忠。

马建忠长期奔走域外，经常写一些文章，论说古今中外的兴衰事，并在1897年将其结集为《适可斋纪言纪行》。在其中一篇名为《上李相伯覆议何学士奏设水师书》的文章里，他提到建水师筹款的第二项建议时说：“水烟、旱烟饥不可粟，寒不可衣，前明本在例禁；近日吸者，不论男女，十有六七。统计天下户口，扯计大县不下百万，中小者约五六十万。每县吸食以十万人计，每人日捐钱半文，一县得钱五十千，一年得钱一万八千串……西国重征旱烟而不征食盐，盖食盐为贫富所用，故弛其禁，若水旱烟非日用所需，故征析秋毫。查英国岁收烟税二千余万，法国近四千余万，其他各国，少亦至数百万，此事之可为者二也。”马建忠的主张虽不成熟，其中提到烟税对于国家财政收入的重要性却是十分有道理的，显示了他深厚的学识。

洋烟、洋酒初入中国时，洋人把持海关，对此皆免征税，而对中国的大宗出口产品丝茶之税予以重征。针对这一点，马建忠在《适可斋纪言纪行》之《富民说》中写道：“吕宋烟、葡萄酒等货，外洋征税甚重，有值百抽百者；而通商税则皆以为洋人自用之物，概皆免征。修约则可重征其税，而减轻出口税之数，亦可因以取偿矣。倘使总署王大臣（王文昭）坚持其议，各国必能就范。”他又一次强调了征收烟草税的重要性。《适可斋纪言纪行》被收入近代学者沈云龙教授主编的《近代中国史料丛刊》。

马建忠作为近代资产阶级改良主义的代表人物，其征收烟草税的主张，在当时历史条件下，是具有一定的进步意义，并为清末民初筹办烟草专卖制度提供了理论依据。

海军军官的养成制度

马建忠所拟海军军官的养成制度，可以说是现代理工商医人才培育的场所，它较诸福州船政局及江南制造局附设的学校更加完备，颇有寓理工商医人才于海军之意，如再加上他欲寓文法政人才于外交学堂及翻译书院，则已具备现代教育内涵。他寓人才于海军的构思的另一面，则在提升军人的地位，以达到文武合一的地步，“西国仕途，武重于文。盖能武者必能文，而能文者未必能武；合文于武，故第以武名而武重矣。中国初设水师，官员多居武职，以其职掌武事故也。夫因其职掌武事而授以武职可也，授以武职而令文武兼全之才士同于引重挽强之粗人不可也。中国重文轻武之风，积重难返，凡居武职者，不复问其才学者何，即睥昵而不屑为伍，甚有数年充当管驾之员，一二语与长官龃龉立受扙责，反不如从九，未入班者，习其俗使然也”。马建忠海军大学院的设置在另一方面当然也是在提升学习理、工、医、商者的地位，换言之也是从另立一途来为学习与洋务运动相关学科者谋取出路，企以文武合一的观念来变中国重文轻武轻，轻工商的观念。

外交活动

马建忠是晚清为数不多的在国外受过国际公法和近代外交专业培训的人才之一。作为李鸿章的亲信幕僚，马在晚清涉外活动中起过一定作用，实际效果则毁誉参半.他经手的鸦片增税专卖、中法交涉主和及“暂售”招商局船产、米建威计划等外交活动所引起的种种争议，反映出社会转型期，接受新知的先觉者与守旧士大夫之间的观念冲突。晚清风气不开、务虚不务实的积习，或许是马建忠个人及同类群体怀才不遇、壮志难酬的社会根源，亦即当前外交积弱、国势不振的原因之一。

学术研究

《马氏文通》（原名《文通》，1898年出版，马建忠著）是中国关于汉语语法的第一部系统性著作。这本著作开建了中国的语法学。《马氏文通》是马建忠参照拉丁语法体系，同时参照中国关于虚字的一些说法，经过长期的整理、搜集创建了一套汉语的语法体系。全书分10卷。卷一讲正名，介绍主要的术语，相当于本书的语法大纲。卷二至卷九依次论述各类实词和虚词。卷十论句读，是句法的总论。汉语语法的问题在书中基本上都谈到了。

《适可斋纪言纪行》，认为“讲富者以护商为本，求强者以得民心为要”，“他如学校建而智士日多，议院立而下情可达”。提出对外通商是“求富之源”，认为要发展对外贸易，就必须发展新式工业和农业，争回关税自主权。还主张由“商人纠股设立公司”来兴办新式工商业，反对洋务派的垄断政策。

《马氏文通》，分正名、实字、虚字、句读四部分。从经、史、子、集中选出例句，参考拉丁语法，研究古代汉语的结构规律，为中国第一部较全面系统的语法著作。

《勘旅顺记》

19世纪末，曾在法国留学的马建忠，借鉴拉丁文的语法研究古代汉语，写出了中国第一部较系统的语法著作《马氏文通》，这是一部划时代的著作。

马建忠是一个为了中国的繁荣富强、站在时代前列、向西方寻求真理的先进人物。他虽然生活在洋务派的圈子里，思想却达到了维新派的高度，是同时代最激进的社会改革家之一。

梁启超在《适可斋记言记行·序》中称赞马建忠：“每发一论，动为数十年以前谈洋务者所不能言；每建一议，皆为数十年以后治中国者所不能易。嗟夫！使向者而用其言，宁有今日，使今日而用其言，宁有将来。”

史家称，马建忠是最早承认“西方人在道德上既非禽兽，在文化上又不是夷狄，因此就能与中国人平等相处”，而抛弃了“中国中心主义”的士大夫之一，也是洋务运动时期重要的外事专家和（比恭亲王、李鸿章等）“次要的改革派”之一。