Vecgulbenes muižas komplekss veidojies viduslaiku nocietinātās pils tuvumā. Līdz mūsdienām saglabājies muižas apbūve, kas celta 19.-20.gs., kad muiža atradās barona G,Volfa īpašumā. Muižas kompleķsā ietilpst divas pilis - 19.gs. 40.gados romiešu villas stilā celtā un vēlakos gados vairākkārt pārbūvētā Baltā pils un 19.gs. otrajā pusē neogotiskā stilā celtā Sarkanā pils. ABas pilis nodedzinātas 1905.gada nemieros, taču vēlāk daļēji atjaunotas. Baltā pils pieredzējusi postījumus arī Otrā pasules kara laikā. Pēc kara tajā tika izveidoti dzīvokļi, taču paviršas uzmanības un nesaudzīgas izmantošanas rezultātā tā burtiski tika izpostīta un pamesta.
Sarkanajai pilij liktenis bija žēlsirdīgāks - kopš 20.gs. divdesmitajiem gadiem te darbojas skola.
Līdz mūsdienām saglabājušās vairākas 19.gs. ierīkotā muižas parka daļas, saimniecības ēkas - kūtis, staļļi, kalpu mājas. Bijušās klēts un oranžērijas ēkās iekārtots Gulbenes vēstures un mākslas muzejs.