Gotycka kapliczka św. Katarzyny zalicza się do najstarszego tego typu obiektów w Polsce. Ufundował ją w 1430 r. biskup krakowski Zbigniew Oleśnicki. Usytuowana była dawniej przy trakcie biegnącym z Ostrowca do Iłży, na terenie nieistniejącego obecnie przysiółka wsi Kurzacze. Obecnie znajduje się w lesie, przy drodze gruntowej z Miłkowskiej Karczmy do Boru Kunowskiego.
Kapliczka pełniła funkcje sakralne oraz wyznaczała granicę miedzy dwoma kluczami dóbr biskupich; iłżeckim i kunowskim. Z XV w. pochodzą mury kapliczki wykonane z cegły czerwonej, spojone zaprawą wapienną, z trójkątnie formowaną spoiną oraz gotyckie okienko po stronie wschodniej. Do najstarszego wyposażenia mogą należeć proste elementy piaskowca w koronie murów oraz herb Dębno znajdujący się wewnątrz na sklepieniu.
W wieku XVII biskup Andrzej Załuski przy kapliczce założył pustelnię. W roku 1703 pustelnik Jakub Nawoyski odnowił kapliczkę i pozostawił o tym informację na kamiennym kartuszu nad wejściem, pod herbem Dębno i datą fundacji. W czasie powstania styczniowego, 17 stycznia 1864 r. w okolicy Kaplicy oddział pułkownika Karola Kality stoczył zwycięską potyczkę z Rosjanami (bitwa pod Lubienią), którą upamiętnia współczesna tablica.
W czasie II wojny światowej kapliczka służyła jako skrzynka kontaktowa partyzantów. W roku 1979 na ścianie wschodniej zamontowano płytę piaskowcową upamiętniającą walki powstania styczniowego z wyrytym napisem: MIEJSCE WALKI POWSTAŃCÓW 1863 r. W 1988 r. przeprowadzono prace renowacyjne. W roku 2004 r. kapliczkę ponownie wyremontowano.
Opis powstał dzięki Pani Małgorzacie z Ostrowca Świętokrzyskiego.