1910年（明治43年）2月24日，山村聪出生于奈良县天理市。神户第一中学、第一高中、东京帝国大学文学部毕业。

毕业后进入研究剧团“「太阳座」”，经历了战前剧团文化座等舞台活动。1946年（昭和21年），首次出演电影《命ある限り》。

1950年（昭和25年），主演小津安二郎导演的作品《宗方姐妹》获得了第一届蓝丝带奖最佳男主角奖。

1952年（昭和27年），与东宝砧摄影所的演艺部长山田典吾一起设立“「现代ぷろだくしょん」”，翌年发表了第一次导演的电影作品《蟹工船》。

1960年（昭和35年）以后，出演了《ただいま11人》、《あゝ忠臣蔵》、《春の坂道》、《必杀仕挂人》、《华丽なる一族》、《柳生一族的阴谋》、《服部半蔵 影の军団》、《ザ・ハングマン》等多部时代剧。