许论自幼有四方之志，布阵角势，与群儿嬉戏。十岁时，能写作文章。

正德十四年（1519），乡试考中第四名。

嘉靖五年（1526）进士，观政兵部。授顺德推官。历任户部、兵部、礼部主事，好谈论兵事。

嘉靖十三年（1534），大同兵变爆发，许论慨然请求前往。许论自幼跟随父亲游历边境，尽知要塞险易，所以著写《九边图论》呈上。明世宗大喜，颁发给边臣拟议施行，从此许论以通晓军事而闻名。升任主客司员外郎，日本国派遣使者，请求释放囚犯，被许论驳回。辽王奏请祭葬，许论拒绝了贿赂。升任南京光禄寺少卿，历任南京大理寺丞。廷推顺天巡抚，许论名列第二。明世宗说：“是上《九边图论》者”，即拜许论右佥都御史，任顺天巡抚。白通事率千余骑兵进犯黄崖口长城，许论督军击败了他。白通事再犯大木谷，复为官军所击败。录功，进右副都御史。一年后，因病免官。俺答进攻北京，许论复任右副都御史、山西巡抚。录防秋功，进兵部右侍郎，召理京营戎政。以筑京师外城，转兵部左侍郎。