罗斯郡足球俱乐部于1929年成立，罗斯郡初期参加高地足球联赛（Highland Football League），期间夺得三次冠军锦标，首次在1967年，其后于1991年及1992年再次获得冠军。而罗斯郡在苏格兰足总杯经常爆出冷门，曾先后8次淘汰苏超球队出局，其中于1994年1月8日作客以4-0击败福弗尔竞技足球俱乐部（Forfar Athletic Football Club）最为人津津乐道。

1994/95赛季苏格兰足球联赛重组，于1994年1月11日进行投票，罗斯郡成为两支获准加入新成立有10支球队角逐的丙组联赛的新球队之一，罗斯郡获得57票，而刚合并的因弗内斯足球俱乐部则获得68票。

自从加入苏格兰足球联赛后，罗斯郡取得良好的发展。于1998/99赛季夺得丙组联赛冠军及获得升级到乙组的资格。罗斯郡升级当赛季即获得第三位，由于苏超由10队增加到12队，受惠于联赛重组，罗斯郡获准升级到甲组。