Generisches Set von Erfolgskriterien

Erfolgskriterien

Die in der unten stehenden Abbildung dargestellten Erfolgskriterien ergeben eine fallspezifisch anzupassende Bewertungsschablone. Fallspezifisch bedeutet, dass zum einen die Auswahl der einzelnen Kriterien variiert werden kann („Menükarte“) und zum anderen, dass diese Auswahl um fachspezifische Kriterien ergänzt werden kann. Dieses Vorgehen trägt dem Umstand Rechnung, dass beispielsweise eine astrophysikalische VRE andere fachspezifische Erfolgskriterien haben mag als eine geisteswissenschaftliche VRE. Die Erfolgskriterien zielen insbesondere auf den Nutzen und Ertrag der VRE für die wissenschaftlichen Anwender ab. Im Vordergrund stehen dabei Kriterien, die sich aus der eingangs beschriebenen VRE-Definition herleiten lassen.

Übersicht Erfolgskriterien

Die Darstellung gruppiert die Kriterien entlang der drei wichtigsten Akteursgruppen. Dadurch wird deutlich, dass je nach Akteur unterschiedliche Schwerpunkte für die Erfolgsbeurteilung gesetzt werden (Gewichtung der einzelnen Kriterien). Hinzu können – wie weiter oben ausgeführt – jeweils noch fach- oder fallspezifische Kriterien kommen. Die Kriterien im Einzelnen:

• Nutzung: Welche Intensität und welchen Umfang hat die Nutzung der VRE durch die Zielgruppe? Unterscheiden sich der Nutzungsumfang bestimmter Komponenten einer VRE? Wieviele Nutzer hat die VRE in Relation zur Gesamtgröße der potenziellen Nutzergruppe? Für welche Abschnitte ihrer wissenschaftlichen Arbeitsprozesse nutzen die Wissenschaftler die VRE?
• Relevanz/Community-Akzeptanz: Wie sichtbar ist die VRE innerhalb der potenziellen Nutzergruppe? Wie bewertet diese den Nutzen der VRE für ihre Disziplin? Wird die VRE als potenziell nützlicher Beitrag zum Fach gesehen? Erzielt die VRE eine Wirkung außerhalb der Fachcommunity?
• Wissenstransfer: Inwiefern trägt die VRE – abgesehen von konkreten Forschungsergebnissen – zu einer Wissensvermehrung in der Disziplin bei, beispielsweise durch einen Erfahrungsaustausch über Methoden und Arbeitsziele oder eine öffentlich verfügbare Projektdokumentation?
• Kollaboration: Welche Formen der Zusammenarbeit mit anderen Forschern ermöglicht die Infrastruktur und wie weit werden diese praktisch ausgefüllt? In welchem Umfang sind die Kollaborationsmöglichkeiten Alleinstellungsmerkmale gegenüber anderen Infrastrukturen?
• Publikationen/Ergebnisse: Wie viele und welche Arten von Publikationen und Ergebnissen werden im Rahmen der VRE-Nutzung veröffentlicht? Können alle Publikationen und Ergebnisse der VRE eindeutig zugeordnet werden? Dieses Kriterium hängt natürlich auch eng mit der fachspezifischen Publikationskultur zusammen.
• Kompetenzvermittlung: In welchem Umfang trägt die VRE zu einer Kompetenzvermittlung innerhalb ihrer Nutzercommunity bei? Klassischerweise fallen hierunter etwa wissenschaftliche Qualifikationen wie Promotionen oder Abschlussarbeiten, ebenso aber die Vermittlung nicht wissenschaftsbezogener Kompetenzen. Dieses Kriterium deckt den Bereich ab, der üblicherweise als Lehre bezeichnet wird, wohingegen die anderen ergebnisorientierten Kriterien den Bereich Forschung abdecken.
• Nachnutzung von Infrastruktur: Werden Infrastrukturkomponenten der VRE in anderen Zusammenhängen genutzt oder werden nach der Abwicklung der VRE ausgewählte Komponenten in andere Zusammenhänge überführt? Dieses Kriterium umfasst auch Qualität und Umfang von Dokumentationen und die Bereitstellung von Informationen, Erkenntnissen und Ergebnissen.
• Außenwirkung/Öffentlichkeitsarbeit: Wie erfolgreich ist die Öffentlichkeitsarbeit einer VRE? Dabei sind verschiedene Ziele zu unterscheiden, bspw. Sichtbarkeit in der potenziellen Nutzergruppe, Vermittlung der VRE an die Förderer oder Wahrnehmung der VRE in der allgemeinen Öffentlichkeit oder anderen Fachdisziplinen.
• Interoperabilität: Setzt die VRE in den Forschungsprozessen etablierte Standards ein? Dies ist auch mit Blick auf die spätere Nachnutzbarkeit wichtig, d.h. hier begangene Fehler sind im späteren Verlauf nur schwer auszugleichen.
• Skalierbarkeit/Modularität: Wie anpassbar ist die Infrastruktur im Sinne einer Erweiterung der Nutzergruppe oder der Forschungsfragestellungen? Ist die Architektur der VRE von Anfang an darauf angelegt, in anderen Zusammenhängen zumindest teilweise nachgenutzt werden zu können?
• Einbindung in wissenschaftliche Workflows: Welche Abschnitte der wissenschaftlichen Arbeitsprozesse der Nutzergruppe deckt die VRE ab? Dabei kann es eher von Vorteil sein, keinen allzu umfänglichen Anspruch zu stellen, sondern sich auf ausgewählte Abschnitte der Workflows zu konzentrieren.
• Performance/Usability: Erfüllt die VRE die Ansprüche der Nutzer an die Erlernbarkeit und Bedienbarkeit? Passt sie sich nahtlos in den Arbeitsalltag der Forscher ein? Wie wird die Usability der VRE im Vergleich zu anderen (generischen) Werkzeugen bewertet?

Meilensteine

Meilensteine

Die Erfolgskriterien können fallspezifisch unterschiedlich gewichtet werden. Es geht dabei nicht um eine quantitative Messbarkeit suggerierende Erhebung, sondern vielmehr um die Definition von Zielvorgaben. An der Erreichung dieser Vorgaben lässt sich dann zu einem späteren Zeitpunkt der Erfolg der VRE festmachen. Ein wichtiges Instrument bei der Operationalisierung der Erfolgskriterien können Meilensteine sein, die im folgenden Kapitel beschrieben werden.

Während der Diskussion der oben beschriebenen Erfolgskriterien mit den verschiedenen Akteuren im Bereich VRE wurde schnell klar, dass diese eher abstrakt formulierten Kriterien eng mit konkreten Meilensteinen zusammenhängen. In diesem Sinne stellen die Meilensteine die Erfolgskriterien der einzelnen Lebensphasen in eine zeitliche Ordnung und verbinden sie mit spezifischen Aufgabenstellungen für den Betreiber der VRE. Das Fehlen solcher Meilensteine oder ihr Nichterreichen kann als ein „Misserfolgskriterium” (negatives Erfolgskriterium) gewertet werden. Die formale und inhaltliche Beurteilung der Meilensteine stellt einen weiteren Schritt der qualitativen Bewertung dar.