Cadolzburg został po raz pierwszy wspomniany w dokumencie w 1157 r. W połowie XIII wieku został nabyty przez burgrave Hohenzollernów z Norymbergi. Najstarsze znane nam kamienne budynki pochodzą z tego czasu.Główny zamek, wznoszący się na stromej skalistej ostrodze, otoczony jest imponującą ścianą pierścienia, która podobnie jak główna brama i Palas (część Nowego Budynku) pochodzi z XIII wieku.