电影《红日》的导演汤晓丹拍摄电影时，非常讲究主题歌与插曲的运用，所以《红日》摄制组刚成立，汤晓丹就找到了吕其明，请他为电影《红日》创作一首好听的歌。吕其明接受了任务后，与肖培衍、杨庶正一起投入到歌曲的创作之中。为了使歌曲的曲调和风格与影片《红日》融为一体，吕其明认真阅读了《红日》的文学剧本，然后，与汤晓丹反复研究，定下了该曲的基调：既要反映出解放军战士热爱家乡、保卫家乡的革命乐观主义情怀，又要反映出孟良崮人民对家乡的热爱，而且，在音调与节奏上还要与表现孟良崮激战场面的音乐形成强烈的对比。音乐基调确定后不久，他们便创作出了歌曲《谁不说俺家乡好》。

歌曲创作完成后，一开始剧组找到了山东艺术学校的老师王音旋来进行试唱，大家对她的演唱都很满意，很快便去上海录了音；但在定型时，出现了视觉形象与听觉形象不统一的问题。之后，剧组决定重新挑选歌手，上海歌剧院的歌手任桂珍便被推荐出来，剧组也对任桂珍的试唱很满意，便定下了任桂珍为演唱该曲的歌手。