Der Borberg liegt im Rothaargebirge nahe von Brilons Ortsteil Petersborn und erreicht eine Höhe von 670 m ü. NHN. Er ist über die Landstraße L743 von Olsberg aus zu erreichen oder von Brilon über die Voßkuhle Straße (Zur Karte). Borbergskirchhof ist eine Wallanlage einer ehemaligen Klosterkirche, die bereits im frühen Mittelalter dokumentiert worden ist. Einige der ältesten Erdwälle werden nach dem Befund der Spatenforschung gar auf die Zeit um Christi Geburt datiert. Der Grundriss der Anlage wurde in den Jahren 1983 bis 1986 komplett freigelegt. Die Anlage besteht aus 2 Kopfnischengräbern, 16 weiteren Gräbern und einem freigelegten Turm mit der Höhe von 1,80 m. Die Geschichte des Borbergkirchofs wird vor Ort durch zahlreiche Schautafeln erzählt.
Auf den Klippen des Südwestteils des Berges steht die Borbergskapelle, auch Friedens- und Marienkapelle genannt. Diese wurde im Jahre 1923 errichtet und bietet einen ausgedehnten Panoramablick auf Olsberg und die Bergewelt des Sauerlands.