顺治五年（1648），自荫生授户部员外郎。顺治八年（1651），迁郎中。顺治九年（1652），擢都察院左佥都御史。

顺治十一年（1654），命与尚书巴哈纳等分赈保定诸府。不久授直隶、山东、河南总督，加兵部尚书衔。疏请蠲被灾诸州县秋粮，招流民还故里，当随地安集，以时予赈，毋使道殕。又疏言：“直隶滨海，北塘、涧河、黑洋诸地，宜分兵驻守。”时议禁海船，鱼盐米麦不能转输，请官为编号，讥其出入，则商民皆便。并下部议行。

顺治十三年（1656）四月，疏劾河南管河道方大猷侵蚀工银巨万，请逮治，以除民害。顺治帝切责河道总督杨方兴失劾，夺方大猷官，鞫治论死。高鼎据五台山为乱，出三岔口扰真定，李荫祖遣井陉道陈安国谕降，悉散其党。疏言：“太行天下险，三岔居其冲，林密山深，藏奸甚易。自高鼎降，其党散在民间，虽戍以兵，视营垒为传舍。当置游击一，定额兵六百，耑司守御。”上从之。是岁，李荫祖年方二十有九，会湖南北用兵，上察李荫祖年力富强、才猷精敏，加太子太保，改任湖广总督，兼理粮饷。大军进剿贵州，李自成旧部郝永忠、袁宗第、刘体纯、李来亨辈挟十馀万人降于南明，踞郧阳、襄阳之间，干扰饷道。李荫祖请选襄阳水师及均州、黄州、汉阳诸营兵二千人，令副将于大海率军驻守谷城，地扼上游；九谿界连巴蜀，壤接容美、永顺、桑植、保靖四土司，选武昌、洞庭营兵千人戍九谿，断通蜀道。