小林是吉本综合艺能学院（吉本総合芸能学院，NSC）大阪校第11期的毕业生，在1992年曾与松口佑树（也就是后来的搞笑组合针金洛克（ハリガネロック）中的“佑树”（ユウキロック））合组搞笑双人组“松口VS小林”，担任装傻的“ボケ”角色，但两人组在1995年时解散。之后小林又与村越周司组成了“最危险双人组”（モストデンジャラスコンビ），这次是担任了负责找碴的“ツッコミ”角色，两人的合作一直到2000年时因为村越自演艺界引退而解散。

最危险双人组解散后小林更改了艺名，不再以双人组的方式演出。他经常在各电视台的综艺节目中以固定班底或常客的身份登台，并曾在多部日本电影中演出，其中包括在2010年上映的电影《再见了，亲爱的总统》（さらば爱しの大统领）中，与宫川大辅以双领衔的方式，担任主角演出。除了大屏幕之外，小林剑道也曾在富士电视台的连续剧《BOSS女王》（ボス，2009年）与其续集（2011年）中担任戏份不轻的配角角色。