第一进大门南北开，东墙为一砖雕花卉照壁，院中心高耸异角飞檐、斗拱重叠木牌楼1座，两厢新建有接待厅。穿过“五间楼”二门，二进院中心为一精致石牌坊，中镌“天监在兹”4字。其后两侧有雕龙碑楼两座，碑楼前面分别为万历三十四年（1606）《敕赐重修清修寺碑》和乾隆三十三年（1768）《敕修清真寺碑》；后面各为米芾“道法参天地”和董其昌“敕赐礼拜寺”斗书。三道门相传为早期“敕修殿”，是该寺最早的礼拜殿，与两侧垂花门连成一体。该殿现已成为过道，内藏阿拉伯文、波斯文、汉文碑石数方，其中以明景泰六年（1455）《长安礼拜寺天相记碑》及清雍正十年（1732）所立阿文“月碑”较为名贵。

第三进院内两厢为北讲堂、南接待厅和沐浴室等。院中心耸立1座3层八角攒顶木构“省心楼”，其后两侧各建有碑楼。第四进院门俗称“连三门”，满花砖雕，堪称珍品。入内即为全寺主体院落，分为前后两部分。前院为一庭院布局，正中建有形似凤凰殿翅之“凤凰亭”1座，两旁为南北议事厅。亭西石栏甬道外侧建有海棠形鱼池各1，另有碑亭两座。碑亭及南议事厅内藏有王钅共碑、明嘉靖五年（1526）《敕赐清修寺重修碑》和洪武二十五（1392）年创寺敕命碑等。后院高起处是一宽敞月台，由5座石门和石栏围起，下面即明七暗九开间礼拜大殿，碧瓦琉璃，锥形鎏金顶，明柱雕花隔隔门，极为肃穆壮观。殿前两侧内山墙为巨幅砖雕花卉。檐内斗拱内外悬有阿文“清真言”及明成祖保护清真寺敕谕等牌匾。大殿前殿系勾连搭建构，正西相接3间正方形后殿，深邃幽幽，可供2000人礼拜。殿内满布藻井天花600余幅，各呈花叶图案，中心为阿文经文，形似篆体。入殿门有“钦若昊天”和“能有有有”两匾，明柱上悬有80字瓦形牌长联，以“独”、“无”称颂安拉德性，颇涵哲理。后殿“米哈拉布”（壁龛）周围，由满花图案与库法体经文饰满墙壁，庄严超凡，使人凝息。由殿前两侧月洞门进入，有石栏围绕大殿两侧，殿后堆起高阜1座，相传为建寺时所遗余土，以作斋月前后登望新月之处。该寺月台外南墙外有一“六月雪石”，状如雪峰。月台上还有日昃、清宫石等。