小昆山为西晋著名文学家陆机、陆云的故乡。前人将“二陆”比作美玉，以“玉出昆冈”来赞誉他们。根据陆机诗“仿佛谷水阳，婉娈昆山阴”之句，昆山之名当在机云之前。后人为区别于江苏省昆山县之马鞍山（名昆山），故称小昆山 。 呈东南向西北微斜走向，有南北两峰。全山呈 “8”字状，俊秀圆润，望之如覆盎，远望如卧牛之首，故又称“牛头山”。 在山之阴曾有二陆故居，山腰有二陆读书台、婉娈草堂、白驹泉，山巅有泗洲塔院、三圣阁，山麓有红菱渡、杨柳桥、乞花场、玉光亭、揖山楼、七贤堂等。这些古迹景点今大都已湮没。 小昆山有5000多年人类文明史，现有两处新石器时代古文化遗址，是上海历史文化的重要发源地。人称“先有小昆山，后有松江城，再有上海滩”。小昆山历代名人辈出，自古享有“玉出昆冈”的殊荣，这里即是三国东吴大将陆逊，晋代文学巨子陆机、陆云兄弟，明末抗清英雄夏允彝、夏完淳父子的故里，也是现任国务院副总理钱其琛同志的夫人周寒琼女士的家乡。在古时，小昆山还是闻名江南的风景名胜区之一，仅山上百年以上古树名木就多达数百棵，四周分布着众多寺庙、教堂，是宗教活动盛行的地区。