1929年（昭和4年），在コッカレコードでサクソフォーンと担任萨克斯演奏和编曲。然后成为了タイヘイレコード的专属成员。

1936年（昭和11年），成为哥伦比亚唱片公司的专属作曲家。不久后为淡谷のり子作曲的《别れのブルース》大受好评，自此成为名作曲家。之后提供了利用爵士的感觉制作的和式蓝调、探戈等一系列和式大众音乐作品。

为淡谷のり子制作的《雨のブルース》使她称为“「ブルースの女王」”；与雾岛升、渡辺はま子共同制作的《苏州夜曲》出色地表现出中国风情；现代余韵的《一杯のコーヒーから》，以及高峰三枝子演唱的伤感蓝调的《湖畔の宿》等，迎来了服部旋律的黄金时代。

但是，太平洋战争开始后，服部的音乐个性——爵士音乐被划为敌对音乐。

1944年（昭和19年），前往中国上海寻求爵士乐活动的场所。后和李香兰以及上海交响乐团一起，发表了以《夜来香》为交响乐爵士乐的《夜来香幻想曲》。

第二次世界大战后，加上战前实验过的布吉的节奏，为笠置シヅ子制作的《东京ブギウギ》等作品大受欢迎。使他被誉为“「ブギの女王」”。

名曲《青い山脉》是服部在看六甲山的山脉时浮现出来的。后由东京艺术大学出身的古典正统派藤山一郎演唱，成为日本国民性的流行歌曲。

确立了和制布鲁斯的创作等日本流行乐的创始者的地位，是日本流行乐界兴盛的最大功劳者。

1969年（昭和44年），紫绶奖章获奖。

1993年（平成5年）1月30日，因急性呼吸功能不全而去世，享年八十五岁。