1966年3月，在兰考东关机械厂建立展览馆，1966年6月展馆迁至兰考议价公司，1984年5月14日，在焦裕禄纪念馆建立焦裕禄同志纪念馆。1994年5月14日，在焦裕禄墓西侧建成焦裕禄同志纪念馆。2009年2月，对焦裕禄纪念馆进行了全面升级改造。1966年2月至1994年8月免费对外开放，1994年8月至2008年3月收费对外开放，2008年3月1日开始对外全年无假日免费对外开放。

2020年，入选“第四批国家二级博物馆名单”。