清光绪二十九年(1903年)，林森等在上海创立“旅沪福建学生会”，祖荫为骨干。同盟会福建支会成立，祖荫任会长。宣统三年(1911年)春，林觉民、李恢先后奉命回闽召集同志赴粤举义，祖荫在闽筹划响应。武昌起义后，九月十八日(11月9日)晚，福州起义成功。祖荫被推为参事员，曾两次辞职，经慰留，任至闽都督府秘书长。袁世凯窃国，祖荫被捕，获释后致力于地方教育及禁烟事业。民国6年(1917年)8月，军阀李厚基任闽督军，祖荫出走广东。后被聘为福建省长公署秘书。北伐胜利后，就任福建省建设厅秘书，历任国民党福建省党部设计委员、执行委员、监察委员。民国26年，兼任福建省社会军事训练委员会指导员、福建省临时参议会参议长。