日本足球协会在1921年正式成立，日本足球协会的成立也意味着足球运动正式走进大众。日本足球首次打进国际赛是当年的柏林奥运会，日本当时由一群学院生组队参赛，柏林奥运会也是日本迈进国际足球舞台的第一步。

1960年，足球在日本更受欢迎和有更好的组织。东京在1964年主办了奥运会，当时的日本也参加了在奥运会的足球竞赛。日本当时成功打进复赛，但最后却不敌阿根廷。

1965年是日本足球的另一个旅程碑，有当时来自5个地区的8家俱乐部组成了日本足球联赛。当时所有的球员都是业余的球员，球队更是由商业公司赞助组成的，这些商家分别是日立公司、三菱公司和丰田公司。

日本足球在1968年的墨西哥奥林匹克运动会取得了最佳的成就，他们在当时的足球竞赛赢得了铜牌。另外，日本球员釜本邦茂也创下了记录，他在1969年至1985年代表日本出战期间一共攻进了202个进球。尽管如此，日本足球依然不能成为日本人的最爱，甚至在国际足联的竞赛也没有突破。