1072 wurde das Kloster Grafschaft von dem Kölner Erzbischof Anno II. als Benediktinerabtei gestiftet. Der Erzbischof erwarb urkundlich das Grundstück von einer Witwe Chuniza und ihrem Sohn Tiemo. Die Adelsfrau Chuniza wurde zur damaligen Zeit mit der Wallburg am Grafschafter Wilzenberg in Verbindung gebracht.
Die ersten Mönche kamen aus der ebenfalls von Anno gegründeten Abtei in Siegburg. Die Klostergründung in Grafschaft hatte neben religiösen Gründen (den Einfluss der Weltlichen auf die Klöster zu verhindern) auch politische Hintergründe. Wie auch seine Nachfolger war Anno bemüht, den politischen und kirchlichen Einfluss Kölns im Sauerland zu sichern und auszubauen. Innerhalb des Schmallenberger Raums hatte das Kloster auch insofern erhebliche Bedeutung, da es die Aufsicht über 12 Kirchen und Kapellen ausübte.