"Macht KI die Menschen in der Wissensvermittlung überflüssig, Herr Neuberger?"

Wissenschaftskommunikator:innen und -journalist:innen gelten als Wissensautoritäten. Sie bürgen dafür, nur gesichertes Wissen aus der Forschung zu vermitteln. Mit der Einhaltung entsprechender Qualitätsstandards ist das Vertrauen des Publikums eng verknüpft. Doch reichen die bisherigen Methoden und Expertisen noch aus, um Texte, Bilder und Videos zu prüfen, die mit Hilfe generativer KI erzeugt werden? Werden Menschen überflüssig bei einer weitgehend automatisierten Wissensvermittlung? 

Zu diesen Fragen wird Christoph Neuberger, Direktor des Weizenbaum-Instituts für digitale Gesellschaften am 23. April, 18.00 Uhr, im Webtalk "Treffpunkt Wissenschaftskommunikation" referieren. Wir haben ihm zur Einstimmung drei Fragen gestellt.

Journalist:innen und Wissenschaftskommunikator:innen gelten als Wissensautoritäten. Wird sich diese Rollenzuschreibung durch KI ändern? 

Neuberger: Plattform- und KI-Unternehmen bestimmen künftig, was in der Gesellschaft als "Wissen" gilt. Mehr Sorgen als Fake News und Desinformationskampagnen sollten uns die langfristigen, kollektiven Folgen bereiten: In wachsendem Maße gelangen Aussagen in die Öffentlichkeit, deren Entstehen und Herkunft intransparent ist und deren Inhalt nicht geprüft ist. Journalismus und Wissenschaft werden als vertrauenswürdige Quellen in den Hintergrund gedrängt, wenn die KI direkt Antworten gibt. Um eine solche Entwicklung zu verhindern, wird es darauf ankommen, Ansprüche an die Qualität der KI rechtlich durchzusetzen und Alternativen im Netz anzubieten.   

Kann KI die Vielfalt der Wissenschaft ohne Verzerrungen widerspiegeln? Sorgen Algorithmen dafür, dass weniger prominente Stimmen oder kontroverse Meinungen ignoriert werden?

Neuberger: Die Qualität der KI hängt von den Trainingsdaten ab: Um die Vielfalt eines Forschungsfeldes wiederzugeben, müsste der gesamte wissenschaftliche Output für die KI verfügbar sein. Dass die KI auch fachliche Differenzen abbildet, ist zweifelhaft, da die KI strukturell konservativ ist und sich am Mainstream orientiert. Eine menschliche Prüfung des Ergebnisses ist deshalb unverzichtbar. Allerdings könnte mit dem Einsatz von KI am Ende die Kompetenz von Journalist:innen und PR-Leuten verloren geht, die Qualität des Output zu beurteilen. 

Was können Menschen im Journalismus und in der Wissenschafts-PR, was KI (noch) nicht kann?

Neuberger: Der KI fehlt ein Verständnis für die verarbeiteten Texte. Sie gibt einfach nur jene Wörter aus, die am wahrscheinlichsten aufeinander folgen. Ob ein Argument überzeugt, ob eine neue Idee trägt oder verworfen werden sollte, kann sie nicht beurteilen. Nützlich ist sie dagegen, wenn es darum geht, Texte zu entwerfen oder umzuformulieren, um sie etwa für unterschiedliche Zielgruppen zu optimieren. Generative KI ist gut darin, die eigenen Grenzen zu verschleiern, weil sie sehr überzeugend formuliert.