1940年，叶翔之进入军统任职。

1945年，叶翔之任军统局重庆特区区长。军统局改为保密局后，任该局2处（行动处）少将处长，兼京沪特区区长。

1948年，叶翔之兼任国防部二厅联络参谋处处长。去台后仍为“保密局”2处处长、兼总裁办公厅秘书组副组长。这年11月，叶翔之曾主持刺杀李宗仁的工作，后换他人主持。

1949年赴台，叶翔之任“国防部”大陆工作处副处长暨国民党“中央第二组”副主任。同年，参加过谋杀龙云的活动。中途接到任务，改杀杨杰。杨杰被暗杀后，叶翔之和其所带到香港的特务，因为香港政府搜查很严，由香港逃到广州转赴台湾，暗杀龙云的阴谋活动遂停止。

1955年4月，以周恩来为首席代表的中国代表团拟出席在印度尼西亚万隆召开的亚非会议。台湾国民党特务机关紧急制订“消灭中共政府代表团”的计划，由“保密局”的少壮派将领、“情报局”督察室主任叶翔之坐镇香港指挥，目标就是破坏中国代表团所乘坐的飞机，以达到谋杀以周恩来为首的中国代表团、破坏亚非会议的罪恶目的。11日，中国代表团部分成员乘坐的“克什米尔公主号”客机从香港起飞，在北婆罗洲沙捞越海面上空突然爆炸，飞机上的11名乘客和4名机组成员罹难。后经查明，是叶翔之指挥“香港情报站”特务周驹在机翼油箱放置了定时炸弹。之后，叶翔之又把目标转向周恩来乘坐的专机。4月16日，周恩来率中国政府代表团提前飞抵雅加达，使叶翔之措手不及，只能匆忙重新做出布置。但中国政府代表团已经提前做好周全安排，使国民党的暗杀阴谋被粉碎。