1950年4月，任中华人民共和国驻蒙古人民共和国首任特命全权大使。他是新中国第一批（11名）大使之一，也是第一位少数民族大使。

1954年卸任回国，历任中共内蒙古自治区委员会常委兼统战部部长，内蒙古自治区副主席，政协内蒙古自治区委员会副主席，中共中央监察委员会委员，全国政协常委等职。曾当选为第一、二、三届全国人大代表和中共“八大”代表。

1968年3月12日在呼和浩特逝世，终年67岁。

小时候的吉雅泰长得敦敦实实，且懂事聪明。读了几年私塾后，因家道衰落，父亲将他送到归绥（今呼和浩特）城里的巧尔齐召寺，在寺里做喇嘛的吉雅泰的叔父收留了他。1915年，叔父把14岁的吉雅泰送到土默特高等小学读书，就是在这里，吉雅泰结识了李裕智、乌兰夫等人，并成为互相信任、互相尊重的革命挚友。

土默特高等小学建校已有200多年的历史，是专门为土默特旗蒙古族培养人才的学校，吉雅泰十分珍惜这来之不易的机会，学习非常刻苦认真。1919年，“五四运动”爆发后，在北平（今北京）参加运动的土默特旗学生荣耀先、巴文俊等人不时地返回家乡宣传运动近况，乌兰夫、李裕智、吉雅泰等进步青年为北平学生的激情所感染，也积极地联络、组织当地各校学生上街宣传、示威游行。

1923年夏天，荣耀先受北平蒙藏学校委托回家乡招生，吉雅泰与乌兰夫、李裕智、多松年等30多名同学千里迢迢赴京求学。然而，“五四运动”后的北平，革命形势并非如他们想象的那样热火朝天，封建王爷把持下的蒙藏学校更是死气沉沉，与这群进步青年渴求解放的理想格格不入。正当他们为自己民族的苦难感到焦虑的时候，中共北方局负责人李大钊及邓中夏、赵世炎给他们送来了马克思主义，为这些苦闷彷徨的青年指明了前进的方向。在中共北方局的领导下，乌兰夫、吉雅泰等人积极地参加各种学生运动和革命活动，很快地成长起来。当时，吉雅泰主要负责宣传联络工作，有时甚至整天奔波在北平的各大院校之间。李大钊十分喜爱这个日渐成熟起来的蒙古族青年，有一次拍着他的肩膀鼓励说：“好好干，在革命斗争的熔炉里锻炼才干，解放内蒙古的重任日后就会落在你们身上！”1924年至1925年，乌兰夫、奎壁、多松年、李裕智和吉雅泰先后加入了中国共产党，成为第一批蒙古族中国共产党员。

在内蒙古博物馆，珍藏着一本名为《新花木兰从军》的歌剧剧本，剧本的纸张已经变黄，但上面刚劲工整的字迹却依然清晰可辨。这剧本无声地记载了一段峥嵘岁月,那是1938年至1946年间，吉雅泰在蒙古工作了近8年时间，期间他创作了十几个剧本，《新花木兰从军》便是其中之一。

1938年，党组织指示吉雅泰动身前往蒙古，向共产国际代表汇报工作，之后他被留在蒙古做华侨的政治领导工作。共产国际安排他在中国工人俱乐部担任剧团的导演，化名“王西”。在此期间，吉雅泰为团结华侨、弘扬民族文化、宣传马列主义、激发广大华侨的抗日热情，做了大量卓有成效的工作。他自编自导了四幕歌剧《新花木兰从军》，用花木兰的形象号召广大爱国华侨关注、支持祖国的抗战。歌剧上演后，受到了当地华侨和蒙古人民的热烈欢迎，此后，他又先后编导了《卢沟桥》等十几个剧本。

除了导演的身份，吉雅泰还担任着《工人之路》报社总编的职务。记者在吉雅泰的大女儿吉元那里，看到了1941年12月的一期《工人之路》影印件。在这期报纸上，有一首名为“播种”的歌曲，词作者便是署名“王西”的吉雅泰。

中国人民解放军后勤工作的开拓者、侗族将军杨至成也曾回忆过他在《工人之路》报社担任编辑的一段经历。在杨至成的记忆中，报社主编王西待人热情，没有一点儿架子。因为之前没有担任编辑和记者的经验，杨至成跟着王西学到不少编辑和采访的知识、经验。杨至成十分感激这位王西总编，总想探听王西的身世来历，但每次询问王西，王西总是笑而不答。直到新中国成立后，吉雅泰被任命为中国驻蒙古人民共和国大使时，杨至成才明白，原来吉雅泰便是当年以秘密党员身份在蒙古工作的王西。

1949年，随着东北、华北的解放，锡察地区的军民也迎来了胜利的曙光。1949年9月27日，新中国成立前夕，毛泽东主席主持召开了中国人民政治协商会议第一届全体会议。大会通过了关于中华人民共和国国都、纪元、国歌、国旗的决议。新华社将这一重大新闻通过无线电波向各地传送。时任中共锡察盟工委书记的吉雅泰与其他领导同志一起，激动地围坐在当时工委唯一的一部收音机前，收听着来自北京的消息。

根据新华社的消息，中华人民共和国国旗旗面为红色，长方形，在旗面的左上方缀有黄色的五角星5颗。一星较大，居左；4颗小星较小，环拱于大星之右。吉雅泰带领大家精心地描绘出五星红旗的图案。在设计五星红旗的过程中，有个非常有趣的细节：一开始，大家以为4颗小星在大星右边排成一列，后来经过仔细的讨论和研究，才确定4颗小星是环拱于大星之右。

图案绘制好，吉雅泰便将贝子庙（今锡林浩特市）锡察办事处财经处副处长和兴革叫到办公室，指派他负责筹办制作国旗事宜。和兴革先联系贸易公司找到了红、黄面料，又请来贝子庙最有名的裁缝唐禄清，唐师傅精心裁剪了布料，一针一线地缝制好了这面锡林郭勒盟的第一面国旗。

10月1日，毛泽东主席在天安门城楼上庄严地宣告：中华人民共和国成立了！与此同时，贝子庙的党政机关干部、解放军指战员、学校师生、牧民和喇嘛代表共700余人，也在工委大院门前隆重集会。在全体与会者的注视下，锡林郭勒盟的第一面五星红旗冉冉升起，迎风飘扬在草原的上空。

如今，这面五星红旗被珍藏于锡林浩特市贝子庙文物展厅，成为爱国主义教育的珍贵文物。

新中国成立之初，中央抽调了10多位党政军领导干部作为新中国第一批派出国的大使。在首批11位大使中，吉雅泰是唯一的一位少数民族大使。

1949年10月6日，蒙古人民共和国总理兼外交部长乔巴山照会周恩来总理兼外交部长，祝贺中华人民共和国成立并决定与我国建立外交关系、互派外交代表。10月16日，周恩来总理兼外长复照表示热忱欢迎，两国由此正式建交。

1950年6月，吉雅泰被任命为首任驻蒙古大使。临行前，吉雅泰接到通知，说周恩来总理要接见新中国的第一代外交官。在外交部同志的陪同下，吉雅泰大使、符浩参赞等一行人来到了周恩来总理居住和办公的地方——中南海西花厅，周恩来总理早就坐在小沙发上等候大家了。

“吉雅泰同志”，周恩来总理望着吉雅泰，亲切地说，“你从苏联回来，懂得俄文；又是蒙古族，懂得蒙古文；又在乌兰巴托多年，熟悉情况，很好，工作方便！”说着，周恩来总理认真地审查了将递交蒙古人民共和国元首的国书，并对其中的某些地方进行了修改。随后，周恩来总理又叮嘱道：“蒙古人民共和国是我们的近邻，又是兄弟国家。你们要谦虚谨慎，要同人家讲友好，要尊重人家的风俗习惯，遵守外事纪律……”

当时，北京到乌兰巴托的铁路尚未修好，吉雅泰又患有高血压，不能乘坐飞机。为了赶在蒙古国庆之前到任，吉雅泰和家属、随行人员坐着吉普车日夜兼程地赶往乌兰巴托，有时晚上就睡在车里。这条路，吉雅泰在抗战期间曾走过多次，但那时为了不暴露身份，他都要乔装打扮。这次却不同，他是带着毛泽东主席的任命书出使蒙古，他的内心充满了无尚的光荣感！

到达乌兰巴托当晚，吉雅泰便出席了蒙古国庆庆典，在随后3天的“那达慕”庆祝大会上，吉雅泰和其他外交官广泛地接触了蒙古国党政领导人和社会各阶层群众。当时，不仅是蒙古国人民，就连在乌兰巴托的苏联人、华侨都以新奇的目光和亲切的态度接近中国的外交使节。吉雅泰也积极主动地宣传新中国在各方面取得的成就和新中国对外政策的基本原则，赢得了蒙古国党政领导和各阶层群众对新中国的好感和信赖，扩大了新中国的影响。

据吉雅泰夫人任秀贞回忆，1951年的秋天，吉雅泰夫妇接到乔巴山元帅举行家宴的请帖。当宴会开始，乔巴山夫妇祝吉雅泰生日快乐时，吉雅泰才恍然大悟，原来这次家宴是蒙古方面特地安排祝贺吉雅泰生日的家宴。这次家宴给吉雅泰夫妇留下了难忘的回忆，它体现了蒙古人民对中国人民的深厚情谊与良好祝愿。

1953年，由于健康原因，吉雅泰奉调归国。在吉雅泰任期内，中蒙两国有过几次重大的政治外交活动和经济文化交流活动：1951年7月蒙古人民革命胜利30周年大庆时，中国派出政府代表团参加庆典；1952年新中国国庆时，中国在乌兰巴托首次举办了大型工业展览会，并派出文艺团体赴蒙古演出；1952年蒙古人民的领袖乔巴山元帅逝世，中国派出高级代表团参加乔巴山葬礼……在这些活动中，吉雅泰率领全馆人员全力以赴配合国内同志圆满地完成了任务，增进了中蒙两国的友好合作和相互信任。