白云观建筑今尚完好,布局为中轴线对称形式,疏密得体,环境清幽。山门前有影壁、牌楼,入山门后中轴线上有灵宫殿、玉皇殿、老君堂、丘祖殿、三清四御殿、云集山房等六座主要殿堂。东侧有云水堂、丰真殿、修真堂、养真堂、功德祠、南极殿、藏经阁、斋堂、厨房等;两侧有十方堂、儒仙殿、八仙殿、吕祖殿、元君殿、元臣殿、祠堂等。后院有后花园“小蓬莱”,其中有戒台、云集山房及假山林木,环境清幽。
白云观的中心建筑是丘祖殿,此殿原名处顺堂,建于元太祖二十二年,建筑宏大高耸。殿内有丘处机坐像,手执如意,面容端庄。据记载,殿内原有长春真人西游图、十八宗师画像等壁画,但今已无存。丘处机的遗体在殿下面,殿内还有一瘿钵,为一古树根雕刻制成,置于一个汉白玉的石座上。