据记载，白云观始建于明万历三十三年（1605年），清雍正二年（1724年）重修并扩建。全庙占地80余亩，有殿堂53座，另有客堂、伙房、仓房和供香客住用的窑洞等。主要建筑有牌坊、五龙宫、四道天门、真武大殿、三官殿、藏经阁、玉皇楼、三清殿、魁星阁等。
白云观木牌坊造型美观，高12米，双层飞檐，多重斗拱，主脊上有26个脊兽。五龙宫殿内神龛中有五龙捧圣像，两壁绘有真武大帝成道故事的壁画。真武大殿是白云观的正殿。该殿为卷棚抱厦式建筑，殿顶脊和侧脊均有绿琉璃烧制的脊兽、宝鼎、龙吻，十分精美，檐下有悬塑装饰和浮雕图案。殿内宽阔宏大，神龛内供奉真武大帝铜像，高近3米，重达5千斤。两边有泥塑十大元帅像。殿壁上有清代绘制的「普天星斗朝圣图」，图中人物众多，线条流畅，为清代壁画佳作。大殿院内有钟鼓二楼。钟楼内悬一口巨钟，系明朝铸造，重1万斤。大殿对面建有乐楼一座。每逢农历三月三日、四月八日、九月九日，为白云观庙会，乐楼常常要上演戏剧。1947年，毛泽东主席曾在此处与群众一起看戏。
白云观现存彩色壁画1900余幅，
碑碣108块，楹额40余块，以及石狮、古钟等，均为重要文物。