民国19年6月，被编入红三军团第八军第六师，任连政委，不久，兼任连长。

1931年12月调到红五军团红十三军第三十八师，先后任连政治委员、代理团政治委员、师政治部秘书处处长、政务处处长、宣传科科长、地方工作科科长，兼师党务委员会书记，兼师特派员。

1931年12月，调红五军团第十三军三十八师政治部任宣传队长。

1932年年3月，调任第三十八师任团政治委员。

1933年12月，调红九军团保卫局任执行科长。

1933年秋调任中革军委政治保卫分局预审科科长、侦察科科长、执行部部长。同年10月改任建宁警备区政治保卫局局长。

1934年初担任闽赣省苏维埃政府政治保卫局局长兼闽赣军区政治保卫局局长。参加中央革命根据地第一至第五次反围剿作战中政治保卫工作。随中央红军参加二万五千里长征，先后任红九军团政治保卫局执行科科长、红一军团第二师特派员、红一军团政治保卫局执行科科长。

1934年10月，随部参加长征。后任工农红军陕甘支队第一纵队保卫局预审股长、执行科副科长。

1935年10月到达陕北。

1936年调任红十五军团政治保卫局执行科科长，参加东征西征战役。

1936年5月，调西北保卫局任执行部部长。后入延安抗大第二期学习。

1937年9月西北保卫局改为陕甘宁边区政府保安处，谭政文任副处长兼地方部部长。

1937年初调任中华苏维埃共和国中央政府西北办事处政治保卫局执行部部长，并入抗日红军大学第二期学习，毕业留校任训练部保育干事。

抗日战争时期，1939年（民国二十八年）任陕甘宁边区政府保安处副处长兼地方部部长，并兼政治处主任。

1940年调任中共中央社会部地方部部长兼指导处处长，并任中共中央敌区工作委员会委员。

1940年6月，调任中共中央社会部任指导处处长。不久，任社会部地方部部长。

1942年，谭政文撰写出版中共历史上第一部审讯专著《审讯学》，因而被誉为审讯专家。同年9月，中共中央晋绥分局成立，任中共晋绥分局常委、社会部部长兼晋绥边区政府公安总局局长。

1942年6月改任晋西北边区政府公安局局长。

1943年担任中共中央晋绥分局社会部部长、分局委员兼晋绥边区政府公安总局局长。

1945年4月，当选为中共七大代表。

1946年5月后，被中央晋绥分局派往山西崞县（今原平县）领导开展土改工作，任土改工作团团长兼中共崞县县委书记，写出《山西崞县是怎样进行土地改革的》情况报告，经毛泽东批示，在《新华日报》上全文发表，推动了解放区土改工作。

解放战争前期，仍任中共晋绥分局社会部部长。

1948年6月调任中共中央社会部副部长，领导情报工作。

1948年年6月，调中共中央社会部任副部长。这时，为迎接全国解放，党中央从西北局、华北局、华东局和晋绥分局挑选108名县团级公安保卫干部，加上中社部机关抽调的二十人，到河北建屏县（今平山县）西黄泥村参加中社部主办的接管大城市的情报保卫人员训练班。谭政文奉命主持该训练班并担任班主任。同年9月17日，训练班开学。不久，遇上国民革命军傅作义部进攻中央机关所在地石家庄平山。当时警卫团正在太原参战，中央机关无兵保卫，只好向五台山紧急撤退。谭政文受命临时组织一支以训练班学员为骨干的四百余人的近卫军，出色地完成掩护中央机关安全转移的任务。同年底，谭政文被任命为中共北平（后改为北京）市委常委、市公安局局长。

1949年2月，北平市和平解放，谭政文率队进驻市区，肩负起首都公安创业奠基的重任。由于北平刚刚和平解放，各种情况纷纭复杂，保卫任务十分艰巨。为此，他为建设公安队伍，妥善处理旧职员、打击罪大恶极的反动党团宪特成员及清查暗藏特务和其他反革命分子作了大量的工作，迅速稳定了首都的社会治安。

1949年1月北平解放后，出任北平市人民政府公安局局长，并任中共北平市委常务委员兼社会部部长。

1949年10月1日，中华人民共和国举行开国大典，有三十万人参加。其保卫工作除主席台外，其余全部由市公安局担负。在谭政文的周密部署下，开国大典从始至终秩序井然，受到中央的表扬。

1949年11月，谭政文调任中共中央华南分局常委、社会部长、广东省公安厅长、广州市公安局长兼广州警备区政委。

中华人民共和国成立后，先后任中共中央华南分局社会部部长兼广东省人民政府委员、公安厅厅长及广州市公安局局长，兼中共广州市委书记、广州警备司令部第一政治委员，最高人民检察署副检察长，最高人民检察院副检察长等职。

1953年，任最高人民检察署副检察长。

1954年，宪法颁布后，任最高人民检察院副检察长，出色地领导了侦查、起诉和处理日本侵华战犯的工作。

1956年9月，当选为中共八大代表。

1961年12月12日，谭政文因患肺癌在北京去世，终年51岁。12月15日，中共中央在嘉兴寺为谭政文举行公祭。