白云观建筑今尚完好，布局为中轴线对称形式，疏密得体，环境清幽。山门前有影壁、牌楼，入山门后中轴线上有灵宫殿、玉皇殿、老君堂、丘祖殿、三清四御殿、云集山房等六座主要殿堂。东侧有云水堂、丰真殿、修真堂、养真堂、功德祠、南极殿、藏经阁、斋堂、厨房等；两侧有十方堂、儒仙殿、八仙殿、吕祖殿、元君殿、元臣殿、祠堂等。后院有后花园“小蓬莱”，其中有戒台、云集山房及假山林木，环境清幽。
白云观的中心建筑是丘祖殿，此殿原名处顺堂，建于元太祖二十二年，建筑宏大高耸。殿内有丘处机坐像，手执如意，面容端庄。据记载，殿内原有长春真人西游图、十八宗师画像等壁画，但今已无存。丘处机的遗体在殿下面，殿内还有一瘿钵，为一古树根雕刻制成，置于一个汉白玉的石座上。