以色列足球协会于1928年8月在英国托管时期以“巴勒斯坦英帝国托管地足球协会”（Eretz Israel/Palestine Football Association）名义成立，并于1929年6月获接纳成为国际足协会员，1956年以色列足球协会加入亚洲足协，惟在参加国际赛时遭受阿拉伯及穆斯林国家联合杯葛，并于1970年代被逐出亚洲足协。在往后20年以色列足球协会并没有附属于任何洲级足球协会，只在参赛世界杯时加入大洋洲或欧洲地区，直到1994年才获准加入欧洲足协。隶属时期1964年以色列主办了第三届亚洲杯，并获得冠军。1968年参加了奥运会决赛圈，在半决赛中输给了保加利亚。1970年晋级了世界杯决赛圈。1976年晋级奥运会决赛圈。