元治元年（1864年）1月28日，山田显义与高杉晋作脱藩，前往大阪。同年2月前往江户。7月19日上洛，在禁门之变中，与久坂玄瑞、真木保臣一同参战，由于长州派战败，山田显义逃回长州藩。8月，与太田市之进、品川弥二郎创立御楯队。下关战争中，他作为军监奋勇作战，但长州藩最终还是战败。同年12月参加了高杉晋作发动的推翻主导藩政的持对幕府恭顺论的俗论党的军事政变（功山寺举兵），肃清了俗论党。

庆应2年（1866年）的第二次长州征伐，山田显义被藩海军总督高杉晋作任命为“丙寅丸”号军舰的炮队长，同年6月在周防大岛冲奇袭幕府舰队成功。7月任御楯队司令，转战芸州口，取得数场战斗的胜利。7月20日，幕府将军德川家茂病死，第二次长州征伐就此休战。庆应3年（1867年）5月27日，山田显义任长州藩整武队总督，这支部队是由御楯队和鸿城队整合而成，是长州藩正规军的一支重要力量。11月在收到萨摩藩提出武力倒幕的出兵请求后，根据长州藩藩主毛利敬亲的命令，全军总督毛利内匠的东征军先锋队700余人在山田显义的指挥下经由海路进入京都。

庆应4年（1868年）1月4日，任维新政府东征大总督仁和寺宫嘉彰亲王（小松宫彰仁亲王）的军事副参谋（相当于副参谋长），参加了“鸟羽伏见之战”。7月21日任海军参谋，11月9日任陆奥青森口陆军参谋。明治2年（1869年）4月4日兼任海军参谋。这一时期，他作为陆军参谋兼海军参谋实际指挥政府军与佐幕军作战，相继转战于越后、东北、箱馆、五稜郭，接连取得战绩，为戊辰战争的胜利做出了重大贡献。

明治2年（1869年）6月，山田显义与黑田清隆等人在宫中谒见明治天皇，以战功受赏。6月12日解任陆军海军两军参谋，新官制（太政官制）实行后，明治2年（1869年）7月8日——明治4年（1871年）7月28日任兵部大丞（相当于兵部左丞），叙位五位，并兼任长州藩少参事。同年8月凯旋回到山口。9月，以维新之军功被新政府下赐永世禄600石。9月4日，兵部大辅（次官，相当于兵部左侍郎）大村益次郎遭遇暗杀未遂，山田奉命紧急上京。病榻上的大村益次郎将创设近代日本军事制度的大任托付给了他的得意门生山田显义（同年12月大村因伤重逝世）。同年11月，他与兵部少辅（次官，相当于兵部右侍郎）久我通久连署将大村的遗策《兵部省军务大纲》提交太政官。作为大村遗志的继承者，以大阪为中心为确立兵部省而尽力。明治3年（1870年）按照大村的军事改革计划，每日往复来回于在大阪城旧址设置的大阪兵部省出张所与东京本省之间。同年5月开始大力推行在畿内限定的征兵制（辛未征兵）的施行，这也是基于大村的计划。同年9月普法战争爆发，山田显义前往欧洲观战的愿望十分强烈，川村纯义等其他兵部省官员也有此希望，但由于担心兵部省业务停滞，大久保利通等政府首脑没有批准。

明治4年（1871年）1月，大阪开始实行辛未征兵，事实上延期到5月，这主要是因为征兵的质和量、指导士官和设施不足等根本问题造成的（1873年1月10日成功地推行了征兵制，确立了日本建立近代军队的基础，1927年改为兵役法）。明治4年（1871年）7月28日被任命为陆军少将兼兵部大丞、军务局分课。10月22日，作为岩仓使节团的兵部理事官赴欧美各国考察军制（至明治6年（1873年）6月在任）。他们途经旧金山、盐湖城、芝加哥抵达华盛顿特区。明治5年2月（1872年3月），山田显义、原田一道等兵部省代表在参观了费城的海军设施后，横渡大西洋访问法国。以巴黎为中心，先后在柏林、荷兰、比利时、洛桑、保加利亚、俄罗斯等地考察欧洲各国军事制度，并参观了维也纳万国博览会（1873年维也纳世博会），明治6年（1873年）5月在马赛港登船归国，明治6年（1873年）6月24日回到日本。

明治6年（1873年）7月7日——11月24日任东京镇台司令长官，同年9月提交书面报告（理事官功程），根据自身游学经历，请求延期施行征兵令。明治4年（1873年）11月24日——明治7年（1874年）7月2日任日本国驻大清帝国特命全权公使。山田显义本无意赴华，对此项任命不满，在木户孝允和大久保利通的劝说下才同意到北京就任。明治7年（1874年）2月9日因佐贺之乱爆发，山田显义被召回国，任西海镇台司令长官，出镇九州，同年3月叛乱被平定。同年7月以平定佐贺之乱之军功受赏。在伊藤博文等人劝说下，明治7年（1874年）7月5日——明治12年（1879年）9月10日以现役陆军少将的身份兼任司法大辅。自从归国以来，山田显义与山县有朋在征兵令施行等问题上意见分歧而产生对立，反对山县加快推进征兵制，主张以先培养下级士官为中心的渐进论。山田显义仅有陆军少将的称号而在陆军中无实质性的位置，因为在政府中的微妙立场，不得不转变方向，逐渐淡出军界。

明治8年（1875年）9月8日兼任司法编纂委员长。明治10年（1877年）3月西南战争爆发，山田显义请求辞去司法大辅，随军出征镇压叛乱。在木户孝允等人的协助下，3月28日，山田显义任别动第二旅团司令长官，4月18日由别动第二旅团司令长官改任别动旅团总辖，协调指挥各别动旅团。同年9月西南战争结束，同年11月因战功被赐勋二等。这是山田显义军事生涯最后的亮相。

明治11年（1878年）2月27日兼任刑法草案审查委员，从事法典编纂。明治11年（1878年）3月5日——明治12年（1879年）9月10日兼任元老院议官。明治11年（1878年）11月20日晋升为陆军中将。明治12年（1879年）9月10日——明治18年（1885年）12月22日任参议，明治12年（1879年）9月10日——明治13年（1880年）2月28日兼任工部卿，明治12年（1879年）12月19日兼任议定官。参议是日本古代朝廷仿效中国唐宋制度在最高机关太政官设置的官职，是参议宫中之政（朝政）（参政朝议）的意思，属朝政的议政官，唐名（汉风名称）宰相、相公、平章事、谏议大夫。山田显义此时的职务相当于工部尚书同平章事。明治12年（1879年）11月为工部大学校第一期毕业生颁发文凭。

明治14年（1881年）10月21日——明治16年（1883年）12月12日兼任内务卿；明治15年（1882年）3月18日、6月21日代理农商务卿，明治16年（1883年）2月23日代理陆军卿；明治16年（1883年）12月22日——明治18年（1885年）12月22日兼任司法卿。明治14年（1881年）8月23日，设立皇典讲究所（国学院大学的源流）。9月被推举赞襄皇典讲究所。明治16年（1883年）4月，他对东京府知事芳川显正提出，出于卫生原因，应当改良整修东京的下水道设施。明治17年（1884年）7月7日，华族令颁布施行，山田显义以维新之功勋受封为伯爵。明治18年（1885年）8月22日任国防会议议员。

明治14年（1881年）8、9月间，山田显义独自草拟宪法草案《宪法私案》提交左大臣有栖川宫炽仁亲王，经修改后提交右大臣岩仓具视。

伊藤博文自欧洲考察宪法后，至金子坚太郎、井上毅、伊东巳代治等协助伊藤博文制定大日本帝国宪法（明治宪法）之前，在这段时间里，各人都提出各自的私案，即有明治3年大木乔任之《建国法意见书》和江藤新平之《国法会议案》。明治5年木户孝允委托青木周藏起草的《帝号大日本政典》和民撰议院《仮规则及议事上院略规》。明治6年宇加地新八之《建言议院创立之议》。明治10年元老院《日本国宪案》和明治13年《国宪草案》、筑前共爱公众会的《大日本帝国宪法见込书草案》和元田永孚之《国宪大纲》等诸多版本。

明治14年，在《山田显义宪法私案》提出的同时，菊池虎太郎·黑崎大四郎·伊藤东太郎之《大日本帝国宪法草案》、山县有朋委托西周起草的《宪法草案》、大隈重信之《大隈重信意见书》、岩仓具视委托井上毅起草的《宪法纲领》等等。

明治初期的日本，尚未整备法典，民间还不成熟，乃无法地带之国家，在很大程度上激发了日本制定宪法的热情。洛伦茨·冯·施泰因、鲁道夫·冯·格耐斯特曾言道“在黄种人的头脑中没有适当的宪法，宁肯狂妄自大所固有之观念”。明治15年，参与宪法制定的伊东巳代治向他们求教制宪经验。事实证明，这样的宪法只是赋予国民本位，但却不是一个确定国民之权利（保障）的宪法。

1885年（明治18年）12月日本建立内阁制度，1885年（明治18年）12月22日——1888年（明治21年）4月30日任第一次伊藤博文内阁司法大臣。1887年（明治20年）10月21日兼任法律取调委员会委员长，主持民法、商法、诉讼法的编纂事业，并大力支持创办关西法律学校（关西大学的前身）。同年兼任大日本私立卫生会（财团法人日本公共卫生协会的前身）会头。1888年（明治21年）4月30日——1889年（明治22年）10月25日任黑田清隆内阁司法大臣，1888年12月向黑田首相及内阁提交民法、商法法案。12月25日编入预备役。1889年（明治22年）12月24日——1891年（明治24年）5月6日任第一次山县有朋内阁司法大臣。1889年8月17日兼任现行法律规则调查委员长。1891年（明治24年）5月6日——1891年（明治24年）6月1日任第一次松方正义内阁司法大臣。1890年（明治23年）7月10日——1892年（明治25年）11月11日任帝国议会贵族院伯爵议员。

山田显义在司法大臣任上推进法典整备，认为日本的人种、风俗、习惯、语言是国家成立的要因，为了明确国体，必须认识到对国之基础的国典的研究的重要性。1889年（明治22年）1月10日任皇典讲究所所长，推进皇典讲究所的改革。10月4日创设研究日本古代法和外国法的教育机关日本法律学校，也就是今天的日本大学的前身，山田显义兼任学校评议员。1889年（明治22年）在外务相大隈重信的条约改正案包含了“大审院任用外国人为判事”的让步事项而被舆论攻击为“违反宪法”时，山田显义提出了制定《归化法》的阁议提案，试图以此让任用外国人担任法官获得通过。1890年（明治23年）4月，民法中的财产篇、财产取得篇、债权担保篇、证据篇和民事诉讼法公布。同年7月在皇典讲究所内设立研究国文、国史、国法的教育机关国学院（日本国学院大学的前身）。同年10月，民法人事篇和财产取得篇中赠与·遗赠·夫妇·财产契约公布，由于社会上“民法出笼、忠孝亡轶”的“民法典论争”兴起，上述诸法条被延期施行。在法国民法典和德国民法典中采用哪部更符合日本国情的“法典论争”中，山田显义在前期主张施行法国法，事实是最后两部法典都没有施行。同年12月，山田显义以商法施行延期的责任一度辞去司法大臣，1891年2月复职。直到大津事件发生，山田显义极力主张判处行刺沙俄皇太子（尼古拉二世）的巡警津田三藏死刑。1891年（明治24年）6月1日以患病疗养为理由辞去松方内阁司法大臣，特赐“前官礼遇”（重臣）。翌年移居三崎的别庄疗养和隐居。

1892年（明治25年）1月28日——1892年（明治25年）11月11日任枢密顾问官。1892年11月，山田显义在但马（兵库县北部）参拜了在幕末因生野之变失败而自尽的从兄弟河上弥市生前最后之地所建立的纪念碑后，在视察生野银山时突发脑溢血逝世，年仅49岁。追授勋一等旭日桐花大绶章。法名“显忠院殿释义宣空斋大居士”。

山田显义逝世后，葬礼由其母鹤子夫人按佛教葬仪办理，山田本人生前希望神葬，故皇典讲究所按“皇典讲究所葬”的神式之葬仪送行，墓所在东京都文京区大冢的护国寺（日本大学丰山高校所在地）。昭和54年（1979年），日本大学建校90周年纪念之际，在山口县萩市的诞生地设立“显义园”，园内树有“山田显义先生之像”。平成24年（2012年），一般社团法人山田显义纪念基金会成立。

1889年伊藤博文和黑田清隆接受“元勋优遇”诏敕并奉诏“匡辅大政”，开启元老政治时代，以后陆续有山县有朋、西乡从道、井上馨、松方正义、大山岩、桂太郎和西园寺公望受命为元老。第1次山县内阁总辞职后，山田显义以与元老相当的元勋身份，参与了后继内阁总理大臣的推奏。因此史学界存在一种观点，山田显义过早离世而没有来得及在程序上获得元老的正式任命，否则日本元老就不止是后来众所周知的那九位而是十位。

山田显义文武两道皆秀，志高贯通。他被西乡隆盛赞誉为“小拿破仑、用兵的天才”。其军事才干令人惊叹，有“用兵之妙有如神”之评。山田显义作为岩仓使节团成员在法国访问时，接触《法国民法典》，确立“法律优先于军事”的信条理念，以后一直埋头潜心于法律研究，他担任司法大臣约9年，主导了日本近代国家之风骨的明治法典（刑法、刑事诉讼法、民事诉讼法、宪法、民法、商法、裁判所构成法等等）的编纂，被视为构筑近代日本的基础的真正的功勋者。

明治2年（1869年）3月14日-从五位。

明治5年（1872年）6月25日-正五位。

明治4年（1871年）7月28日-陆军少将。

明治8年（1875年）11月9日-勋二等旭日重光章。

明治11年（1878年）11月20日-陆军中将。

明治12年（1879年）11月1日-勋一等旭日大绶章。

明治12年（1879年）12月15日-正四位。

明治17年（1884年）7月7日-伯爵。

明治17年（1884年）12月27日-从三位。

明治22年（1889年）12月25日-大日本帝国宪法发布纪念章。

明治23年（1890年）10月23日-从二位。

明治24年（1891年）4月7日-正二位。

明治24年（1891年）6月1日-前官礼遇。

明治24年（1891年）6月24日-意大利王国一等王冠勋章。

明治25年（1892年）11月14日-勋一等旭日桐花大绶章。

山田显义的主要著述收录在《山田显义书翰集》、《山田伯演说笔记》。

明治3年（1870年），山田显义与井上馨的养女、汤田温泉瓦屋的鹿岛屋喜右卫门的长女龙子结婚。明治12年（1879年）7月长子金吉出生，明治13年（1880年）3月，金吉夭折。长子早夭后，选定侄儿久雄为继承人世袭伯爵，但久雄英年早逝，故由久雄的生父、山田显义的胞弟河上繁荣夫妇返回山田家，为第三代伯爵。之后，山田的长女梅子成人后，嫁给了会津松平家松平容保的三子松平英夫，松平英夫过继到山田伯爵家为养嗣子，改名山田英夫，世袭第四代伯爵，是陆军中佐、贵族院议员。英夫的次子贞夫是陆军大尉，在英帕尔战役中阵亡。日本实业家、作家、大富豪萨摩治郎八是山田显义的孙女婿。曾孙山田显喜是日本大学艺术学部映画学科教授。

小说形象：森田成南的《抵抗の器 小说·山田顕义》、《后生可畏》；早乙女贡的《志士的肖像》；古川薰的《剑与法典——小拿破仑山田显义》；秋山香乃的《狮子的栖息国》、《攻下五稜郭的男人》；佐藤三武朗的《日本巨人传山田显义》。

影视形象：《鲜为人知的幕府末代志士山田显义物语》（（青年期）山田凉介、（壮年期）渡哲也）、《花神》（演者：武田洋和）、《五稜郭》（演者：石桥正次）、《花燃烧》（演者：达淳一）。