光绪二十六年(1900年)，任山西巡抚府文案。数月后，因他在任内黎城境中有外国传教士7人被义和团所杀，涉嫌保教不力而被革职。回莞后，任石龙龙溪书院山长(相当于校长)达7年。此外，他还兼任东莞明伦堂沙田局总办。其时广东水师提督李准图谋将东莞万顷沙的田产收归国有，他会同邑绅陈芝岗、钟菁华等共赴京师，联同京官邑绅联名向朝廷奏请，才使东莞的公共田产得以保存。

1908年涉嫌案大白，张其淦任安徽省候补道员。宣统二年(1910年)，授荣禄大夫(从一品)，赏戴花翎。后改任安徽提学使，管辖全省学政。辛亥革命后，弃官去上海隐居。 民国初年，原安徽巡抚朱家宝任直隶督军，曾多次邀请他出掌该省财政，他婉辞不就。1915年袁世凯酝酿称帝，拟封他官爵，他亦力却之，终日以撰述著作为乐。张其淦治学严谨，勤于著述。著作有《邵村学易》、《老子约》、《松柏山房骈体文钞》l0卷，《梦痕仙馆诗钞》10卷，《呤芷居诗话》4卷、《五代咏史诗钞》6卷、《元代八百遗民诗咏》8卷、《明代千遗民诗咏》21卷等20多种，另辑有《东莞诗录》65卷等数种，大多数已刻印发行。但在淞沪抗战时，其寓所毁于战火，所藏论著70多箱，全遭劫难，幸其刻板尚存于上海商务印书馆。