北周武帝宇文邕将要与北齐作战，听说梁士彦勇敢果决，便把他从扶风郡守提升为九曲镇将，进位上开府，封为建威县公，北齐人对他非常畏惧。不久，调任熊州刺史。后来随宇文邕攻下晋州，进位柱国，拜使持节、晋绛二州诸军事、晋州刺史。

宇文邕回京后，北齐后主高纬亲自统领六军围困晋州。梁士彦孤军死守晋州，外无援兵，军心震恐，仍慷慨自若。高纬调集所有精锐部队攻打，城楼全部被摧毁，城墙仅剩下七、八尺高了。双方将士有时短兵相接，有时兵马相交冲进杀出。梁士彦看形势危急，便对将士们说：“看来今天要战死在这里了，那就让我作你们的表率吧！”于是将士们勇烈奋发，喊杀声惊天动地，无不以一当百。齐军渐渐退却。梁士彦趁机命令自己的妻妾、城中军民和儿童一道日夜抢修城防，三天就修复了城墙。宇文邕也在这时率大军赶到，齐军于是解围，撤退到城东十余里的地方安营扎寨。梁士彦拜见宇文邕，抚摸着他的胡须，流着泪说：“我差一点见不到陛下了！”武帝也泪流满面。当时，宇文邕认为将士们已十分疲惫，想要班师。梁士彦拉住马缰劝谏说：“现在北齐军队遁逃，军心动摇，趁着他们的畏惧心理而乘胜追击，一定能够大获全胜。”武帝采纳了他的建议，派大军大举进发。宇文邕握着梁士彦的手说：“我现在拥有晋州，是平定齐国的基地。如果不巩固晋州，事情就不好办了。我不担心前线，只怕后方发生变故。你替我好好守住它。”等到平定北齐后，封他为郕国公，进位上柱国、雍州主簿。