冈山绿雉成立于1975年，是自川崎制铁水岛迁离神户市后（即现今神户胜利船）才开始运作。部分原属旧球会的球员，自己另组一队新球队，命为“江河自由踢球者”（River Free Kickers）。数年后，球队于分县联赛中比赛。在2003年，球队改名为“冈山绿雉”，自此成绩便一直进步。

在2005年，冈山绿雉升上了中国地方联赛。2007年7月，绿雉成为第一队在低于日本足球联赛组别比赛的队伍，得到日职联会员身分（J. League Associate Membership）。同年12月2日，绿雉赢得地区联赛附加赛第一名，并且获得升上日本足球联赛（第三级别）。

在2008年赛季中，球队以第4名的成绩升级，从2009年开始参加日本职业足球乙级联赛。