1888年（明治21年）4月30日——1889年（明治22年）5月10日兼任枢密院书记官长。1889年（明治22年）7月9日——1890年（明治23年）2月12日兼任官制调查委员长。1889年（明治22年）10月14日——1890年（明治23年）8月23日兼任临时帝国议会事务局总裁（敕任官一等）。1890年（明治23年）1月28日赐上级俸。1890年（明治23年）7月19日——1893年（明治26年）3月7日兼任枢密顾问官。1890年（明治23年）10月参与起草《教育敕语》，强调国家主义的教育方针。1890年（明治23年）12月2日兼任宫内省文事秘书官长（敕任官一等）。1893年（明治26年）3月7日——1894年（明治27年）8月29日任第二次伊藤博文内阁文部大臣。1894年（明治27年）8月29日依愿免官。

1890年（明治23年）7月29日叙正三位，1895年（明治28年）1月7日特旨列入华族，依功勋叙爵为子爵。1895年（明治28年）3月15日因肺结核病死于叶山的别邸，卒年51岁。

明治8年（1875年）2月24日：正七位；

明治8年（1875年）10月24日：正六位；

明治9年（1876年）8月2日：从五位；

明治14年（1881年）11月28日：正五位；

明治15年（1882年）6月17日：勋三等；

1884年（明治17年）9月30日：从四位；

明治21年（1888年）2月17日：从三位；

明治21年（1888年）5月29日：勋二等；

明治22年（1889年）3月5日：勋一等瑞宝章；

明治22年（1889年）11月25日：大日本帝国宪法发布纪念章；

明治23年（1890年）7月29日：正三位；

明治28年（1895年）1月7日：子爵。

1876年（明治9年）在撰写的《宪法意见控》中指出，现时制定的宪法与圣德太子的十七条宪法内容不同，同时也质疑欧美诸国的法律制度。后来受小野梓的《国宪泛论》的启发，深感国典研究对于政治的必要性，与小中村清矩、落合直文、增田于信等国文学者交流，在小中村义象（池边义象）的协助下研究《古事记》、《日本书纪》以下之六国史、《令义解》、《古语拾遗》、《万叶集》、《类聚国史》、《延喜式》、《职原钞》、《大日本史》、《新论》等国典。

明治14年（1881年）3月，在左大臣兼元老院议长有栖川宫炽仁亲王的要求下，首席参议大隈重信和太政官大书记官矢野文雄提出《宪法意见书》。5月下旬，岩仓具视在审阅意见书后秘密找来井上毅，命其对意见书进行研究。井上毅指摘福泽谕吉的《民情一新》的国宪私见与大隈意见书的相似性，反对采用英国式的宪法制度。同年6月，井上毅在外务省的德国法律顾问罗斯勒和莫塞的协助下，完成了《钦定宪法考》、《宪法意见第一》、《宪法纲领》的调查报告，主张渐进主义和普鲁士型国家构想。井上毅将以普鲁士宪法为蓝本的宪法意见书和对大隈意见书的反驳书递交岩仓具视，并依此为岩仓起草了《大纲领》。主要内容包括：采用钦定宪法的体制；帝位的继承根据“皇室的宪则”而定；天皇的统帅权及其他大权等等。这些基本的构思在后来颁布的《大日本帝国宪法》中得到了贯彻实施。

明治14年6月30日，井上毅拜访伊藤博文提出排除大隈的方案。同年7月2日，井上毅致信伊藤博文，称：“时事渐现变局、安危之机实在今日、后日即风雨震雷交至之日，牺牲生命尚不能挽回、应在今日或一举手间运动转化之，仰愿明公放却织芥之琐事，成就戊辰以来九韧之大业于一蒉，若今日将此委以幺麽无识之徒，局面粗成之后，以进退争此已不可救。明公如果真自进处丘陵之势，占上流必争之位置、担当尽瘁贤虑之时，如（井上毅）之劣劣小生此节志愿期必死之微力度此难关”。在这封信中，井上毅力劝伊藤博文抓住时机，争夺宪法制定权。为此，他将做好必死准备全力支持伊藤。为了敦促伊藤博文的决心，他表示这件大事如果落入他人之手自己就将返回熊本故里。伊藤也就是在井上的全力支持下于同日致信岩仓具视，指大隈重信的意见书为“激进论”，为表明与大隈的政见不同，他还以辞职、分裂内阁为口实表白心迹。由此，采纳普鲁士流宪法意见的岩仓选定了伊藤作为宪法制定者。

以后，井上毅为排斥大隈积极开展多数派的工作，他首先拜访了在宫岛疗养的井上馨，后者对于排斥大隈和普鲁士式宪法的早期制定论者的态度骤变，井上毅委托他说服伊藤。接着是成功游说了萨摩阀的松方正义，并通过他做黑田清隆、西乡从道等萨摩派巨头的工作。明治14年7月5日，岩仓具视将井上毅的宪法意见书作为自己的宪政意见上奏天皇。

在那之后，北海道开拓使出售官产事件被曝光，新闻媒体对此事进行报道，并揭露萨摩派政治家官商勾结的丑闻，一时间舆论哗然。此间，社会上出现了大隈重信有意将北海道官产出售事件泄露给报界，“三菱的岩崎弥太郎提供资金、福泽谕吉撰写宪法草案、大隈重信联合民权家图谋一举颠覆政府，阁僚名薄业已出炉”的谣传，此即“大隈阴谋说”。由于“大隈阴谋说”广泛散布，大隈重信受到了政府中以伊藤博文为中心的萨长藩阀和以佐佐木高行为中心的中正派的攻击，最终导致大隈一派势力被驱逐。同年10月，大隈重信被罢免，大隈·福泽一系的官僚人马被从政府内肃清，此即“明治十四年政变”。伊藤博文联合萨长系官僚及皇室公卿一举排斥了最大政敌大隈重信，树立以萨长同盟为中心的藩阀政权体制。由此可见，“大隈阴谋说”是以伊藤博文为首的萨长藩阀为搞垮大隈派，而根据一些有争议的所谓“事实”强加在大隈头上的莫须有的罪名。在明治十四年政变，井上毅从推波助澜、出谋划策再到奔走串联，无疑扮演了策划者的角色。

明治十四年政变后，井上毅作为伊藤博文的智囊活跃于政界。参与起草了明治15年（1882年）发布的军人敕谕。明治19年（1886年）在伊藤博文领导下，井上毅与伊东巳代治、金子坚太郎共同起草《大日本帝国宪法》和《皇室典范》。

明治19年（1886年）末至明治20年（1887年）初，井上毅携同小中村义象游历相模国和房总半岛，在登鹿野山时，小中村启示他从《古事记》上注意《シラス》和《ウシハク》的区别，以后着力研究《シラス》的统治理念。明治政府最大的课题是日本的近代化，要实现这一点，废除列强各国强加的不平等条约是前提。井上毅会见了古斯塔夫·布瓦索纳德（法国法学家、明治政府法律顾问），论及外务大臣井上馨的不平等条约改正案，其主要内容是：1、以开放内地为代价，恢复裁判权。2、设置外国法官为多数的混合裁判所。3、以泰西主义为楷模，制定刑法、民法、商法和民事诉讼法等，并将其英文版告知列强，以便其审查法典内容。以此来作为废除治外法权的代价。布瓦索纳德首先表示强烈反对，他认为任用外国法官且设置以其为多数的混合裁判所，以及将各种法律案告知外国政府等决定都会使日本受制于外国，侵犯了日本立法权和司法权的独立性。“条约改正外交”在日本社会更是遭到了国民的强烈反对，酿成民情不安。明治20年（1887年）12月，山县有朋提议伊藤博文强力推动《保安条例》，因为政府即使努力制定宪法，但与国会的冲突仍将不可避免，将造成宪法的空文化，并以辞职相威胁。这将处于宪法草创阶段的第1次伊藤内阁置于危机之中，伊藤博文极力慰留。条约改正问题则随着井上馨的辞职而了结。

井上毅重视教育，参与制定《高等学校令》，改革教育体制。为适应日本产业革命的需要，积极提倡振兴和普及实业教育（职业教育）。主持制定《实业补习学校规程》、《徒弟学校规程》、《工业教员养成规程》、《简易农学校规程》和《实业教育国库补助法》等教育文件，为日本实业教育的发展奠定了基础。

井上毅一生先后辅佐大久保利通、岩仓具视和伊藤博文，他政治上起家于大久保，可以说是大久保利通的门生，以后受岩仓、伊藤的倚重，被视作二人的“大脑”。

虽然井上毅强烈反对政党政治并致力于建立保守的中央集权制国家，但他尊重法治国家和立宪主义的原则，认为这是保障国民的权利的原则，只要没有正当的法律依据，即使是国家也不能加以限制或剥夺。因此，对于否定这些的主张毅然采取坚决态度与之对立。此外，他还批判了超然主义轻视议会的过度行为，作为法制局长官，在有利于议会的判断下做了许多工作。

井上毅为传统的天皇政治与近代欧洲立宪政治的融合作出了卓越的贡献。

中江兆民（日本自由民权运动启蒙思想家，被誉为“东洋卢梭”）的遗著《一年有半》中，评价井上毅和白根专一“严肃认真而不是狡猾的或厚颜无耻的小人”。这是对敌对者很高的评价。

伊藤博文在致德大寺实则的书简中，称井上毅是“忠实无二之人”。为与宫中保守派（中正派）对抗，伊藤博文自兼宫内卿，井上毅随伊藤进入宫内省担任图书头，以高效的办事能力深得信赖和倚重。

但是在另一方面，由于他坚持自己的信念，忠实有余却可能会导致过激的行为。明治十四年政变之际，井上毅随意将岩仓具视将德国式国家建设学说确定为政府的方针政策的意图告知伊藤博文，井上为此招致“书记官之辈不可然”的痛骂（1881年7月5日付岩仓具视宛井上书简）。

此外，在以后的岁月，为了反对井上馨的条约改正案，井上毅将布瓦索纳德的反对意见书在各反对派中间传播，助长条约改正案反对运动，第1次伊藤内阁暴露在危机之下，伊藤因为井上的个人英雄主义而深受困扰。

明治23年（1890年）10月30日明治天皇发布的教育敕语，是在第1次山县内阁时期由井上毅起草的。其直接的契机是山县内阁时期，民间反抗运动仍是政权的大患。在内阁总理大臣山县有朋主导下的地方长官会议于同年2月26日通过的《德育涵养之意义的提议案》的决议，旨在纠正学校教育历来偏向于传授知识的传统，要求重视道德品质的培养。此外，明治天皇很早就对道德教育一直有很浓厚的兴趣，并责令榎本武扬文部大臣确立道德教育的基本方针。然而，榎本武扬未能推进这项工作而被更换，山县感到海军出身的榎本对德育漠不关心，于是山县的心腹内务次官芳川显正被推荐继任文部大臣。虽然明治天皇颇有难色，但山县以本人指导芳川的条件说服天皇，获得批准。芳川就任文部大臣后，委托东京女子高等师范学校校长中村正直起草关于道德教育的敕语的原案。

对于这个中村原案，山县有朋在征求内阁法制局长官井上毅的意见时，井上以中村原案的宗教色彩和哲学色彩为由表示强烈反对。他指出中村的草案视忠孝的根源在于“敬天敬神”，被指基督教意味太强。井上还认为明治12年颁布的《教学圣旨》的儒教色彩太浓，措辞上应避免明显的汉学或西洋学，可以利用若干儒教的德目，把日本教育之根本立在“皇祖皇宗之遗训”之上。山县政府的智囊团也认为应当尊重井上的意见，以井上取代中村担任起草敕语的工作。井上毅放弃中村原案“根据立宪主义，君主不干涉国民的良知的自由”这一前提，试图作成一个排除宗教色彩的原案。井上原案提出后，一度因为教育敕语构想招致反对，但山县制定教育敕语的意图没有改变，并亲自参与敕语的起草，井上原案的阶段，以后的教育敕语的内容基本固定。

另一方面，天皇侧近的儒家学者元田永孚以前就向明治天皇进言，以儒教为基础进行道德教育的必要性。因此在明治12年（1879年）起草了带有浓厚的儒教色彩的教学圣旨，同年文部省以《教学圣旨》的形式下达天皇对教育基本方针的指示，强调教育的重心在“德育”，它是孔子立教之“本”，而知识才艺是“末”。当时，首相伊藤博文得知起草《教学圣旨》的任务交给了元田永孚曾一度非常不满，鉴于利用天皇旨意和儒家教化平息民间动荡的需要，还是采用、推行了这篇“圣旨”。1886 年（明治19年），文相森有礼颁布《帝国大学令》，规定大学从属于国家目的。政府对教育理念的指导力进一步加强。

从历史上看，明治维新被认为是日本现代化的开端。伴随着西方的学术、制度被大量引入，以基督教为背景的西方道德伦理却在日本无法直接推行，而当时的局势又不便于天皇来直接提倡中国的儒家或者佛教的教化，颁布这项《教育敕语》是为了强调和弥补难以从西方引入的对民众的道德教化，更是达成“和魂洋才”目标中“和魂”的必需前提。元田是井上在熊本藩藩校时习馆的同窗前辈。几经周折，井上毅的草案经当时官任侍讲的日本儒学家元田永孚协助完善，获得明治天皇的认可，由山县内阁定名为《教育敕语》于1890 年（明治23年）10月30日，日本第一届帝国议会召开前夕颁布。

明治23年10月30日发布的《教育敕语》（「教育ニ関スル勅语」），不是关于国务的法律、法令文书，因为被视作天皇本人的话语，只有天皇本人的署名，而没有副署国务大臣的署名。井上毅在发布格式上主张不采用天皇直接下赐的形式，而是通过文部大臣为中介的间接下赐的形式。

井上毅的著作有《梧阴存稿》、《法国大审院考》、《法国司法三职考》、《内外臣民公私权考》、《宪法第六十七条相关意见》、《国ノ境遇ト地租軽减》、《北海道意见》。翻译有《王国建国法》、《治罪法备考》（上、下部）、《孛国宪法》、《奢是吾敌论》等。