常建是长安（今陕西西安）人，青少年时代，才名很高。参加科举考试，没有考中。为此，他写了一首《落第长安》：“家园好在尚留秦，耻作明时失路人。恐逢故里莺花笑，且向长安度一春。”后人认为，他没有考中的原因，不是没有才能，恰怡相反，他的才气太高，反而得不到那些庸俗的考官的赏识。但是他落榜以后，毫不气馁，终于在唐玄宗开元十五年（727），考中进士，是王昌龄的同榜进士。

考中进士，只是取得了候选官员的资格，还要等机会得到任用。由于没人引荐，他长期得不到授官。在等待任用的很长时间里，他在长安附近的太白峰、紫阁峰等地方游学。游历的时候，纵情弹琴，开怀饮酒。有时到山谷里去采药。回到长安时，还常常梦见自己在太白峰上看到的美丽景色。于是，他作了一首《梦太白西峰》的诗。诗中说他“梦寐升九崖，杳蔼逢元君”。大概是在梦中受到了玉皇大帝的召见吧。那时的人非常迷信，梦中见到从山脚下飞到山顶，醒来就会觉得有希望得到升官的机会。诗中还写道“结宇大星汉，宴林闭氤氲”。更直接地说明他参加了玉皇大帝的宴会了。这实际上是他希望能有机会为官，以实现他为民为国做一番大事的理想的一种心境。