童年读过私塾，14岁独自到青岛谋生。1908年(光绪三十四年)，刘子山开始为德国建筑师当翻译，同时为人代办建筑材料。1910年，在青岛独资开设福和永木材行。次年，又买下海西旧窑场，将其扩建成福和永窑场，专制洋式红色砖瓦。由于产品适合当时青岛建筑业的需要，质量较好，所以销售很快，获利不少。他还受聘担任德商礼和洋行华人经理，经营颜料、花生米的进出口贸易，所得佣金也很丰厚。

第一次世界大战前夕，刘子山筹集资金，并利用银行贷款，由国外进口了大宗木材。战争爆发后，木材进口中断，国内市场价格猛涨。他将木材售出，获取暴利。1915年，日本借口对德国宣战，出兵占领青岛。侵略军当局开设“扶桑官膏局”，批发鸦片烟膏。刘子山利用会说日语的条件，承包烟土专卖店，贩卖日本烟膏，又发了一笔横财。大战结束后，先后在青岛独资开办东莱贸易行，经营进口业务；开办永利汽车行， 经销美国产“Buick”牌汽车。他投资50万两银子，修筑从潍县至烟台的450华里公路。 1922年该路建成后，他又取得吴佩孚的支持，创办烟潍汽车运输公司，经营客货运输。另外，他还在青岛华新纱厂、青岛电业公司、博山煤矿等企业投资，担任董事等职。