德祜元年，元左丞相伯颜（一作巴延）攻下鄂州（今湖北武昌）后，遣派武良弼下饶州，遍访贤士。良弼闻思衍贤名，便将思衍任为乐平（今江西乐平县）令。李思衍见世道已变，毅然出山应征，决心救民于倒悬。不久，又授袁州（今江西宜春市）治中，后任国子监司业（主管教育考试）。

至元二十五年（1288年）初，元世祖忽必烈因安南（今越南）未归附元朝，屡次派遣军队攻打，都没有成功，于是下令礼部侍郎副教省参议秃庐（一作图噜）出使安南宣招抚谕，命李思衍作为副使随行。

元朝使团一行抵安南后，安南国王召见，唯独李思衍不向安南国王行叩拜礼。李思衍义正辞严地说：“大国之臣不拜小国之君，礼也。”话一出口，在场的人都大惊失色。安南国王被他的气度所折服，认可道：“敬其主以及其使，亦礼也”。李思衍在安南国王面前，大宣元世祖德威，安南国王对思衍外交能力十分敬佩。次日，安南国王奉写回表，并附上厚礼，赏赐元朝使者。秃庐收下了，李思衍坚持不受。回朝后，元世祖斥责秃庐不该接受赏赐。李思衍又巧妙应答道：“臣不收，全大国之体，秃庐受，安小国之心。”一句话，使元祖转怒为喜，夸奖思衍是个贤能的人才，也给了秃庐一个台阶。