1938年，历山路开辟路基，路幅宽15米，并铺筑6米宽的石渣路面。

建国后，济南在1955年至1957年对青岛路进行了扩建，当时这条路就成为济南南北交通的要道。

1965年1月1日，更名为历山路。

1958年，历山路改建为7米宽的碎石路面。

1960年，在历山路与解放路口向北铺装活化水泥板，长370米，面积为5550平方米。

1962年10月，在历山路上的文化路至解放路口的路段改建为15米宽的沥青路面。

1984年6月，在历山路上的解放路口至北园路口的路段，作为重点工程拓宽为50米。车行道横断面系3块板式，宽为36米，其中快车道15米，两侧慢车道各7.5米，快慢车道之间各设3米宽的绿隔带。车行道两侧各为7米宽的人行道。快车道为沥青混凝土路，路面下埋设各种管道。