Zamek istniał już w XIII w. Od jego nazwy RITTER (rycerz) powstała nazwa miejscowości Rytro – od 1995 r. gmina wiejska. Historię zamku opiewa kilka barwnych legend, które znajdujemy także w literaturze i źródłach m. in. Jan Długosz, Franciszek Kmietowicz, Oskar Kolberg, Maria Kownacka.
Z zamkiem zawiązany jest również jeden z barwnych zabytków piśmiennictwa polskiego z 1224 r. „Testament Piotra Wydżgi” o skarbie ukrytym w Rytrze. Pierwsza wzmianka w dokumentach pochodzi z 1312 r. Jest to przywilej króla Łokietka dla Sióstr Klarysek dotyczący poboru cła.
Zamek ma barwną historię, jest malowniczo położony przy jednej z najstarszych dróg do Polski (Dolina Popradu). Jedyny zabytek w gminie. Ma wszystkie „książkowe” cechy zamku rycerskiego. Opisują go rycerskie legendy. Jest atrakcją turystyczną na coraz większą skalę. Ma to „coś” co urzeka…
Opis powstał dzięki Panu Piotrowi z gminy Rytro