梁彦光少岐嶷，有至性，其父每谓所亲曰：“此儿有风骨，当兴吾宗。”七岁时，父遇笃疾，医云饵五石可愈。时求紫石英不得。梁彦光忧瘁不知所为，忽于园中见一物，梁彦光所不识，怪而持归，即紫石英也。亲属咸异之，以为至孝所感。

西魏大统末（551年），进入太学，略涉经史，行事有规检，造次必以礼。解褐秘书郎，时年十七。时人赞曰：“子与颜含皆少有操行，以孝闻。其孝感动上天，靖之义也。”

隋高祖受禅，以为岐州刺史，兼领岐州宫监，增邑五百户，通前二千户。甚有惠政，嘉禾连理，出于州境。开皇二年，上幸岐州，悦其能，乃下诏曰：“赏以劝善，义兼训物。彦光操履平直，识用凝远，布政岐下，威惠在人，廉慎之誉，闻于天下。三载之后，自当迁陟，恐其匮乏，且宜旌善。可赐粟五百斛，物三百段，御伞一枚，庶使有感朕心，日增其美。四海之内，凡曰官人，慕高山而仰止，闻清风而自励。”未几，又赐钱五万。后数岁，转相州刺史。彦光前在岐州，其俗颇质，以静镇之，合境大化，奏课连最，为天下第一。及居相部，如岐州法。邺都杂俗，人多变诈，为之作歌，称其不能理化。上闻而谴之，竟坐免。岁余，拜赵州刺史，彦光言于上曰：“臣前待罪相州，百姓呼为戴帽饧。臣自分废黜，无复衣冠之望，不谓天恩复垂收采。请复为相州，改弦易调，庶有以变其风俗，上答隆恩。”上从之，复为相州刺史。豪猾者闻彦光自请而来，莫不嗤笑。彦光下车，发摘奸隐，有若神明，于是狡猾之徒，莫不潜窜，合境大骇。初，齐亡后，衣冠士人多迁关内，唯技巧、商贩及乐户之家移实州郭。由是人情险诐，妄起风谣，诉讼官人，万端千变。彦光欲革其弊，乃用秩俸之物，招致山东大儒，每乡立学，非圣哲之书不得教授。常以季月召集之，亲临策试。有勤学异等、聪令有闻者，升堂设馔，其余并坐廊下。