谭冰若早年留学日本，1947年进入上海国立音专（今上海音乐学院）理论作曲系学习；1951年开始留校任教音乐欣赏、音乐名作及外国音乐史等课。他一贯主张“大力弘扬民族音乐，积极普及古典传统音乐，严肃认真地引导通俗音乐”的主张，强调社会主义音乐应该使三者鼎足而立。2014年4月，他和周小燕、尚长荣、何占豪、徐玉兰、舒巧一起，获得了上海文艺家终身荣誉奖。

2014年11月15日，音乐理论家、教育家谭冰若在上海市徐汇中心医院去世，享年90岁。

撰有《论欧美现代音乐发展的趋向》、《世界流行音乐探析》、《我们同属一个世界》等论文多篇；并为大百科全书撰写《音乐史学》、《现代音乐》、《通俗音乐》、《英国音乐》、《瓦格纳》等重要条目以及为《解放日报》、《文汇报》、《光明日报》等报刊写过许多评论。此外，还录制并出版了《柴可夫斯基》、《播种欢乐的人——园舞曲之王约翰·斯特劳斯》以及《被埋葬了的财富——舒柏特的歌曲》等音乐广播故事；还特别为奥地利保尔·奈夫出版社《伟大的莫扎特的创作生活与影响》一书撰稿，发表了《莫扎特在中国》一文。