任遵圣1960年入党。1961年从中国人民大学历史档案系毕业。1983年7月经江苏省政府批准授予副研究馆员资格，1987年1月评为研究馆员。曾先后任江苏省档案局副局长、《档案与建设》编委会主任、江苏省档案学会副理事长。为南京大学、苏州大学、扬州大学、安徽大学兼职教授，江苏省档案专业高级职称评委会主任，浙江省档案专业高级职称评委会委员。

任遵圣发表档案学学术专著6本，学术论文百余篇。其中专著《病历档案管理基础》1985年获江苏省首次哲学社会科学优秀成果三等奖，论文《专刊档案研究》1988年获江苏省第二次哲学社会科学优秀论文奖，专著《档案学概论》1991年获江苏省第三次哲学社会科学优秀成果三等奖，专著《档案学基础》1994年获江苏省第四次哲学社会科学优秀成果三等奖；《加速科技档案转化为直接生产力》1986年获中国档案学会优秀成果一等奖，《论档案学的科学性质》1992年获中国档案学会优秀成果二等奖。