Umgang mit generativen Modellen für die Text- und Bilderstellung in der Forschung und im Förderhandeln der VolkswagenStiftung

Die VolkswagenStiftung schließt sich hiermit der Stellungnahme des Präsidiums der Deutschen Forschungsgemeinschaft (DFG) zum Einfluss generativer Modelle für die Text- und Bilderstellung auf die Wissenschaften und das Förderhandeln an. 

Diese dient der Orientierung von Wissenschaftler:innen in ihrem Forschungshandeln. Auch Antragstellenden sowie den am Begutachtungs-, Bewertungs- und Entscheidungsprozess beteiligten Personen werden Anhaltspunkte für den Umgang mit generativen Modellen gegeben.

Unsere Leitlinien

Der Einsatz generativer Modelle kann sich auf die Bedeutung, die der Erstellung eines Textes zukommt, sowie auf die Visualisierung von Forschungsergebnissen im wissenschaftlichen Alltag unterschiedlich weitreichend auswirken. Da es für Dritte nicht unmittelbar erkennbar ist, ob die ihnen vorliegenden Texte und Abbildungen mithilfe generativer Modelle erstellt oder die jeweils zugrunde liegenden wissenschaftlichen Ideen mithilfe generativer Modelle entwickelt wurden, wird der transparente Umgang mit der Erzeugung von Text- und Bildinhalten ein wichtiger Aspekt bei der Bewertung dieser Technologien in Bezug auf die Sicherung wissenschaftlicher Qualität sein.

Der Einsatz generativer Modelle im Rahmen des wissenschaftlichen Arbeitens sollte angesichts der erheblichen Chancen und Entwicklungspotenziale keinesfalls ausgeschlossen werden. Ihr Einsatz erfordert jedoch bestimmte verbindliche Rahmenbedingungen, um die gute wissenschaftliche Praxis und die Qualität wissenschaftlicher Ergebnisse zu sichern.

• Transparenz und Nachvollziehbarkeit des Forschungsprozesses und der gewonnenen Erkenntnisse für Dritte sind wesentliche Grundprinzipien wissenschaftlicher Integrität. Dieses Wertesystem bietet im Hinblick auf den Umgang mit generativen Modellen weiterhin wertvolle Leitlinien. 
• Es entspricht dem Berufsethos von Wissenschaftlerinnen und Wissenschaftlern, dass sie selbst für die Einhaltung der Grundprinzipien wissenschaftlicher Integrität einstehen. Der Einsatz generativer Modelle kann Wissenschaftlerinnen und Wissenschaftler von dieser inhaltlichen und formalen Verantwortung nicht entbinden.
• Wissenschaftlerinnen und Wissenschaftler sollten bei der öffentlichen Zugänglichmachung ihrer Ergebnisse im Sinne wissenschaftlicher Integrität offenlegen, ob und welche generativen Modelle sie zu welchem Zweck und in welchem Umfang eingesetzt haben.
• In wissenschaftlichen Publikationen können nur die verantwortlich handelnden natürlichen Personen als Autorinnen und Autoren in Erscheinung treten. Sie müssen sicherstellen, dass durch die Verwendung generativer Modelle kein fremdes geistiges Eigentum verletzt wird und kein wissenschaftliches Fehlverhalten etwa in Form von Plagiaten entsteht.
• Daraus folgt nach aktueller Einschätzung, dass der Einsatz von generativen Modellen bei der Antragstellung bei der VolkswagenStiftung im Prozess der Begutachtung, Bewertung und Entscheidung als solcher grundsätzlich weder positiv noch negativ zu bewerten ist. 
• Bei der Erstellung von Gutachten ist der Einsatz von generativen Modellen mit Blick auf die Vertraulichkeit des Begutachtungsverfahrens unzulässig. Zur Begutachtung bereitgestellte Unterlagen sind vertraulich und dürfen insbesondere nicht als Eingabe für generative Modelle genutzt werden.

Unsere Verantwortung

Die dynamische Entwicklung von Künstlicher Intelligenz (KI) hat zweifellos das Potenzial, die Landschaft der Forschung und Forschungsförderung nachhaltig zu verändern. Besonders generative KI-Technologien und ihre Anwendungen entwickeln sich rasant weiter und beeinflussen zunehmend auch die komplexe und informationsreiche Arbeit der Forschungsförderung und Evaluierung von Forschungsvorhaben.

Momentan existieren jedoch noch keine klaren Erkenntnisse und Leitlinien bezüglich einer verantwortungsvollen Integration von KI-Technologien im Kontext der Forschungsförderung. Neben dem großen Potential besteht die Gefahr, dass KI-Systeme bestehende Ungleichheiten in der Forschung verstärken oder unbewusste Vorurteile einführen. Der Umgang mit sensiblen Forschungsdaten und ethischen Fragen im Zusammenhang mit KI erfordert klare Richtlinien. 

Als Forschungsförderorganisation erkennen wir die Chancen und Risiken, die mit dem Einsatz dieser Technologien einhergehen, und sehen es als unsere Verantwortung, diese Entwicklungen aktiv zu gestalten. Die VolkswagenStiftung ist daher bestrebt, den Wissensaustausch und das gemeinschaftliche Lernen in diesem dynamischen Feld zu fördern. Aus diesem Grund sind wir in kontinuierlichem Austausch mit internationalen Förderorganisationen. Ein konkretes Beispiel hierfür ist unsere Beteiligung am GRAIL-Projekt (Getting Responsible about AI and Machine Learning in Research Funding and Evaluation) des Research on Research Institute (RoRI). Wir setzen uns dafür ein, die Chancen von KI in der Forschungsförderung zu nutzen, gleichzeitig aber auch sicherzustellen, dass sie verantwortungsvoll eingesetzt wird, um die Qualität und Fairness der Förderungsprozesse zu gewährleisten.