玉虛宮始建于明永樂年間,規制謹嚴,院落重重。當年的玉虛宮是城內套城,共有三城,即外樂城,里樂城和紫金城。三城都各有宮墻間隔連圍,形成等級鮮明,規模宏大的宮城。明朝中葉嘉靖年間,玉虛宮又得到了大規模的擴建。自此,玉虛宮占地面積525萬平方米,房屋達2200多間。
現存建筑及遺址主要有2道長1036米的宮墻、兩座碑亭、里樂城的五座殿基和清代重建的父母殿、云堂以及東天門、西天門、北天門遺址。這些殘存的遺址,到今天仍有很強的感染力,頗值得觀賞。