1998年2月，OSI由Bruce Perens及埃里克·斯蒂芬·雷蒙等人创立，当时网景公司为了与微软的IE浏览器竞争，将他们的旗舰产品网景浏览器发布成自由软件。

从OSI创立起，雷蒙就担任主席，一直到2005年2月；之后Russ Nelson继任了一个月，但因为一些争论，他很快辞职；随后Michael Tiemann担任过渡期的主席。

一些对自由软件以及GNU/Linux感兴趣的人，打算用更符合市场口味的方式来介绍自由软件，试图在商业中找到合适的位置，减少意识形态上的沟壑。这导致了开放源代码（Open source，简称开源）这个称谓的产生，同时也导致与理查德·斯托曼及其自由软件基金会的分道扬镳。

许多企业开始考虑改用开源的操作系统。