陈建善于骑马射箭，被提升为内三郎。后来逐渐升任下大夫、内行长。太武帝拓跋焘讨伐山胡人白龙时，内心很轻视白龙，仅带领几十名骑兵登山临险，每天如此。白龙于是在十几处埋伏勇士，事出意外，太武帝堕马，几遇不测。陈建冒死御敌，大声呼叫奋力攻击，杀死敌人数名，身上受伤十多处。太武帝赞许他，赏赐二十户给他。

文成帝拓跋濬在位初年，赐封为阜城侯，加任冠军将军。出任幽州刺史，假秦郡公。贪婪暴虐，个性懦弱，于是派使者到州中鞭挞他五十军棍。

孝文帝元宏在位初年，陈建担任尚书右仆射，加任侍中，进封爵位为赵郡公。

后来，陈建与侍中尚书、晋阳侯拓跋忠，殿中尚书、长乐王穆亮，比部尚书、平原王陆叡秘密上表说：“ 皇天匡辅仁德，天命降于大魏。我等祖辈父辈辅佐建国，致力超越蜀汉，立誓安定山河，享受洪福，荣辱休戚，与国相同。我因子庸浅薄，没有高远通达的见识，凭借先辈的荣宠，才担任现今的官职，功德不称其位的讥讽，在众人口中传播。上感养育的恩德，下思自我策励，但是才能低下，终于无益。惶恐受命，确实断愧。至于报答天高地厚般的恩情，哪一天忘了呢。自永嘉末年，贪暴者残暴吞食，司马睿占据南方，全部拥有荆楚地区。及桓温、刘裕跋扈，灾难相继。岱宗阻隔了遥祭山川的敬意，青徐地区阻隔了恩德教化。献文帝幼年即位，天下称颂圣德，干戚之舞初起，从淮水到海滨迅即响应，文物制度全都划一，国土将要统一。昊天不哀悯庇佑，忽然背弃天下。听说南朝宋皇帝刘昱夭亡，权臣相互杀害，思念正道的百姓，无穷无尽地盼望。我以为时不再来，机会易失，毫分之差，悔以千里。天命所属而不取，反而遭受灾祸，所以不能见机而作。是操守坚贞的过错。应当选拔杰出的将领，号令八方。义阳王臣元昶深明存亡大事，远与孙氏相同。假使天象运行响应顺遂，那么吴会地区可以平定，如果事情难以成功，就整顿军队返回。进可以向四海传扬德义的名声，退可以使恩德与威信通达边远地区。应当乘这样的机会，现在就出兵，如果与皇上的决断一致，请求从速施行。如果与皇上的思虑不一致，请存下我的奏表，慢慢地观察以后的效验，根据情况予以赏罚。”孝文帝嘉许他。升任他为司徒、征西大将军，进封魏郡王。