镇楼之宝宋刻《广成先生玉函经》，是稀世罕见的医学古籍。在遗失300年后，经他不懈的努力，终于重回故主。乐于藏书借阅，蒋汝藻、徐乃昌、刘承干、缪荃孙等人刊刻丛书，均从其借印，他都慷慨相借，没有条件。涵芬楼刊印《四部丛刊》和《四部备要》，也多借其家旧藏影印。

刊印有藏书目录，光绪二十四年(1898)成《铁琴铜剑楼藏书目录》24卷，著录宋元旧椠及稀见抄本有1 200余种。《铁琴铜剑楼宋元金本书影》，著录宋本160种，金本4种，元本106种。辛亥革命后，又积极倡议设立公共图书馆，创办常熟公共图书馆，出任馆长之职。后任北洋政府众议院议员，因拒绝曹锟贿选而归家。民国13年（1924年）藏书移至上海，抗日战争中又历尽艰辛，将书储于租界。1940年启甲去世，遗命后辈：“书若分散不能守则归之公。”抗日战争爆发后，怕藏书毁于战火，秘密将藏书运往上海。解放后，后人瞿济苍、瞿旭初、瞿凤起等，遵从父志，将大部分藏书捐给国家，另一部分由政府出资收购后入北京图书馆、常熟图书馆。藏书印有“良士珍藏”、“古里瞿氏”、“良士眼福”、“铁琴道人”、“瞿氏鉴藏金石记”、“铁琴铜剑楼”等。工于书法。偶作画，清逸有致。编撰《铁琴铜剑楼书影》、《藏书续目》、《藏书题跋》等。藏印有“瞿启甲”、“良士珍藏”、“良士眼福”等。书法好宗肖卜文，真、行宗欧阳询、李邕。偶写折枝小幅，清逸有致。编印铁琴铜剑楼书影，藏书续目、藏书题跋街刊。《枫园画友录》