庾澄庆希望每个人都知道，幸福是生命里时时刻刻的坚持所累积而成的。他想通过专辑提醒听众，简单的满足很容易被忽略，而天堂也许就在听众的身边，听众却看不见，因此专辑取名为《哈林天堂》。虽然庾澄庆的上一张音乐专辑《海啸》成功发行，而他也凭借该专辑获得金曲奖最佳男演唱人奖项，但庾澄庆并不认为这是他的事业巅峰。于是，他开始酝酿该专辑，他希望能撇开一般的流行唱片做法，不刻意讨好他自己或是市场，把人味的态度放在音乐的前面。为此，在筹备该专辑的时候，他以文字概念为先决要素，在决定了歌词的方向后，再进行写曲、制作。庾澄庆在近千首歌的选歌过程中，摒除了另类的要素，以感动为标准，挑选出最终的专辑曲目。

庾澄庆在初听歌曲《蛋炒饭》的DEMO时，脑海中就浮现了该曲的完整模样，甚至从歌名“蛋炒饭”就想到利用英国的“STOMP”的音乐元素，将其转化成中国风味。庾澄庆为该曲的编曲忙碌了三个月，期间他不断沟通与修改。为了收录厨房中的上百个敲击声音，庾澄庆寻遍中国台湾数十间饭店的厨房，并请来电影录音师到现场实地录音。《天堂》是庾澄庆一首珍藏两年的歌曲，后邀请徐若瑄填词。在录唱该曲的时候，为了表达出真实的情感，庾澄庆拒绝了电脑效果的辅助修饰。《春泥》是专辑里最后一首完成的歌曲。当庾澄庆完成该曲的DEMO，拿给索尼唱片的总监刘天健听时，刘天健当即决定将该曲作为专辑的强力主打。该曲由伊能静填词，有一次，伊能静看到一篇有关于她的失实报道，觉得内心很痛，于是在家里哭泣，创作了该曲。