7岁开始在虹口区三中心小学参加排球训练，12岁进入虹口区复兴中学继续参加排球训练，并多次代表虹口和上海参加市级和全国性的比赛，15岁被选入虹口复兴高级中学与上海市少体校联办的二线队伍。2001年中考，徐林胤以488分的成绩考上了复旦中学，并且没靠体育加分。在2001年的全国少年比赛上，头脑灵活，反应敏捷的徐林胤凭着出众的弹跳能力、良好的身体条件、不俗的技术被国家沙排男队主教练缪志红一眼相中，2002年2月，在中国排协沙滩专项委员会副主任委员、前中国女排主教练李耀先的安排下，排管中心一纸批文将徐林胤直接从上海市少体校调入国家沙滩男排，这是所有运动员梦寐以求的罕见“三级跳”。 2003年，在资金紧缺时，仍然派他和前搭档徐强参加了七站世界巡回赛。尽管成绩不很理想，但通过与世界强手的交锋，让他们开阔了眼界。2004年，徐林胤考上复旦大学外文学院法语专业。2004年，他在比赛中慢慢积累了经验并从中逐渐成熟起来，2005年他和徐强不仅成功夺得国内巡回赛的总冠军，而且取得了亚洲锦标赛的冠军。最重要的是，他参加了9站巡回赛，有5站进入正选赛，从那时便慢慢在国际比赛中崭露头角。