廖升学问品行最为知名，与方孝孺、王绅相友善。

洪武二十九年（1396），由左军都督府断事，擢太常寺少卿。

建文初年，参与编修《明太祖实录》，董伦、王景为总裁官；廖升与高逊志为副总裁官；李贯、王绅、胡子昭、杨士奇、罗恢、程本立为纂修官。皆一时之选。燕军渡江，朝廷派遣忠诚伯茹瑺作为使者，请求割地议和，被燕王拒绝。廖升闻而恸哭，与家人诀别，自缢而死。后来，都御史陈瑛上奏廖升与黄观、王叔英、周是修、王艮、颜伯玮等人逆天命，效死建文帝，请行追戮，首先提及廖升。