KI in der wissenschaftlichen Forschung: Produktivitätsgewinne vs. Qualitätsrisiken

KI als Forschungsassistent

KI ist eine wahre Revolution für viele wissenschaftliche Bereiche und ermöglicht die Verarbeitung von Daten sowie die Modellierung von realen Materialien und Situationen in einer Weise, die selbst die leistungsstärksten Supercomputer vor nur wenigen Jahren nicht erreichen konnten.

Aktuelle Beispiele umfassen verschiedene Formen von KI, die eingesetzt werden für:

• Neue Materialien für Kernfusionsreaktoren finden.
• Wiederherstellung der Bildklarheit von Weltraumteleskopen.
• Optimierung von Metall-3D-Druckprozessen.
• Entdeckung neuer Materialien für Solarzellen, Wasserstoff‑Elektrokatalysatoren, superharte Materialien, Polymere und Festkörperelektrolyte.

Diese Anwendungen basieren in der Regel auf hochspezialisierten KI‑Modellen, die fein abgestimmt sind, um eine bestimmte Kristallklasse zu untersuchen oder einen einzigartigen Satz von Bildern zu verarbeiten.

Wenn wir jedoch von KI sprechen, denken die meisten Menschen an allgemeine LLMs (Large Language Models). Diese werden derzeit hauptsächlich zum Schreiben und Verbessern von Texten sowie zur Durchführung fortgeschrittener, lesbarer Abfragen im Vergleich zu herkömmlichen Suchmaschinen verwendet.

Theoretisch sollte dies nicht nur für Aufsätze von Studierenden, schlechte Poesie und PowerPoint‑Präsentationen gelten, sondern auch für wissenschaftliche Forschung und veröffentlichte Arbeiten.

Dies kann jedoch ein zweischneidiges Schwert sein, wie in einer kürzlich veröffentlichten Analyse im renommierten Fachjournal Science¹ mit dem Titel “Scientific production in the era of large language models” erläutert wird.

In dieser Analyse beobachteten Forschende der University of California und der Cornell University die Ergebnisse von Wissenschaftlern, die LLMs nutzten, im Vergleich zu deren früheren Arbeiten. Sie stellten fest, dass die Nutzung von LLMs zwar die Qualität wissenschaftlicher Artikel verbessern kann, gleichzeitig jedoch ein größeres Volumen minderwertiger Forschung erzeugt, was bestehende Probleme in der Wissenschaft verschärft.

Erkennung der KI‑Nutzung in wissenschaftlichen Forschungsarbeiten

Die erste Herausforderung besteht darin, zu bestimmen, wie verbreitet die Nutzung von LLMs im wissenschaftlichen Schreiben ist und wer sie verwendet.

Wie zu erwarten, sind dies keine Daten, die Forschende spontan preisgeben, da die Werkzeuge noch neu sind und insbesondere bei technischen Daten oder Nischenthemen fehleranfällig sein können.

Die Forschenden sammelten mehr als 2 Millionen Artikel aus großen wissenschaftlichen Datenbanken wie arXiv, bioRxiv und dem Social Science Research Network (SSRN) aus dem Zeitraum von Januar 2018 bis Juni 2024.

Anschließend verglichen sie Artikel, die vor 2023 veröffentlicht wurden – von Menschen verfasst – mit KI‑generiertem Text.

Mit diesen Daten entwickelten sie ein Modell zur Erkennung von KI‑Nutzung. Mit diesem Werkzeug konnten sie mit angemessener Genauigkeit bestimmen, welche Wissenschaftler LLMs verwenden und wann sie damit begannen. Anschließend verfolgten sie das Publikationsvolumen dieser Wissenschaftler vor und nach der Einführung der Werkzeuge sowie die Annahme dieser Artikel durch Fachzeitschriften.

KI‑Auswirkungen auf die wissenschaftliche Forschung

Wischen zum Scrollen →

Höhere Produktivität

Die erste Schlussfolgerung ist, dass die Nutzung von LLMs die Produktivität von Wissenschaftlern steigert, zumindest gemessen an der Anzahl der Publikationen.

Auf arXiv veröffentlichten Wissenschaftler, bei denen die Nutzung von LLMs festgestellt wurde, etwa ein Drittel mehr Artikel als diejenigen, die scheinbar keine KI nutzten. Auf bioRxiv und SSRN überstieg der Anstieg 50 %.

Da die „publish or perish“-Kultur die Karrierewege der meisten Wissenschaftler bestimmt, hat dieser Anstieg des Volumens erhebliche Auswirkungen auf die berufliche Laufbahn.

Ein weiteres Ergebnis ist, dass der Schub bei Wissenschaftlern, die vermutlich keine englischen Muttersprachler sind, stärker ausfiel.

Beispielsweise veröffentlichten Forschende, die an asiatischen Institutionen angeschlossen sind, zwischen 43,0 % und 89,3 % mehr Artikel, nachdem der Detektor darauf hingewiesen hatte, dass sie LLMs zu nutzen begannen.

Das ist nachvollziehbar; viele Wissenschaftler sind technisch brillant und können Englisch lesen (eine Voraussetzung in der modernen Wissenschaft), haben jedoch Schwierigkeiten, klare, elegante Sätze in einer Zweitsprache zu formulieren.

Eine weit verbreitete Nutzung von LLMs könnte das Spielfeld für Nicht‑Muttersprachler ebnen und dazu beitragen, dass hochwertige Forschung internationale Anerkennung erhält, unabhängig von der sprachlichen Kompetenz des Autors.

Bessere Entdeckung wissenschaftlichen Wissens

LLMs können auch verwendet werden, um für ein bestimmtes Thema relevante Artikel zu finden, wobei spezialisierte KIs wie Elicit, ResearchRabbit oder Scite zum Einsatz kommen.

Ein bedeutender Teil der wissenschaftlichen Forschung besteht darin, andere Artikel zu finden und zu lesen, um Informationen abzuleiten oder experimentelle Protokolle zu identifizieren, die in neuen Kontexten wiederverwendet werden können.

KIs bevorzugen im Allgemeinen neuere Artikel und gewichten Zitierungen weniger stark im Vergleich zu herkömmlichen Suchmaschinen. Daher bieten sie eine Alternative für Wissenschaftler, die nach neuen Ideen oder weniger diskutierten Experimenten suchen.

„Menschen, die LLMs nutzen, verbinden sich mit vielfältigerem Wissen, was möglicherweise kreativere Ideen fördert.“

Keigo Kusumegi, Doktorand an der Cornell University

Diese Hypothese könnte zukünftig getestet werden, indem geprüft wird, ob mit KI‑Unterstützung verfasste Artikel vielfältigere Bibliografien aufweisen oder innovativer und interdisziplinärer sind.

KI als neues Problem in Wissenschaft & Akademie

In den letzten Jahren hat die wissenschaftliche Forschung – insbesondere in den Sozialwissenschaften – eine Replikationskrise erlebt.

Da die Ergebnisse vieler Artikel von anderen Forschenden nicht reproduziert werden können, können scheinbar seriöse Studien fehlerhaft oder sogar betrügerisch sein. Dies wurde als „existenzielle Krise der Wissenschaft“ beschrieben.

Historisch gesehen war komplexes Schreiben – einschließlich längerer Sätze und anspruchsvoller Vokabeln – ein Hinweis auf höherwertige Forschung. Obwohl nicht narrensicher, half es, fachkundig verfasste Forschung von schlampiger Analyse zu unterscheiden.

Im Gegensatz dazu werden Artikel, die mit KI‑Unterstützung geschrieben wurden, derzeit seltener von Fachzeitschriften akzeptiert.

Insgesamt droht dies, die Kennzahl „veröffentlichte Artikel“ weiter von der tatsächlichen Begabung eines Forschenden zu entkoppeln. Redakteure und Gutachter könnten Schwierigkeiten haben, die wertvollsten Einreichungen zu identifizieren, insbesondere da KI immer effizienter und menschenähnlicher wird.

Schließlich könnten massive Mengen von „Müll“ – gefälschte, aber plausibel aussehende Forschungsartikel – durch KI erzeugt werden. Dieses Risiko beschränkt sich nicht auf soziale Medien; es stellt ein erhebliches Problem für die wissenschaftliche Forschung dar, bei der die Zeit der Gutachter bereits vor dem Aufkommen von LLMs knapp war.

Was KI für die Zukunft der wissenschaftlichen Forschung bedeutet

Da KI ein Werkzeug ist, müssen Forschende lernen, es effektiv zu nutzen. Es ist nahezu unmöglich, LLMs aus Forschungslabors zu verbannen, und die Erkennung wird nur noch schwieriger.

Anpassung und produktiver Einsatz von KI im wissenschaftlichen Schreiben werden künftig das bestimmende Thema sein.

„Schon jetzt ist die Frage nicht, ‘Haben Sie KI verwendet?’ Die Frage lautet: ‘Wie genau haben Sie KI eingesetzt und war es hilfreich?’”

Einstellungspraktiken in der Wissenschaft könnten von einer Rückkehr zu qualitativen Metriken profitieren, wie tiefgehenden Interviews und technischen Tests, anstatt sich ausschließlich auf das Publikationsvolumen zu verlassen.

Ebenso müssen Gutachter und Fachzeitschriften sich anpassen. Möglicherweise werden Systeme erforderlich sein, die vor der Analyse prüfen, ob ein Beitrag aus einem legitimen Forschungslabor stammt, um die Massenproduktion gefälschter Artikel zu verhindern.

Letztlich wird ein tiefes Verständnis der technischen Elemente eines Artikels, statt sprachlicher Eleganz, das wichtigste Kriterium zur Qualitätsbewertung werden.

Investition in KI‑Innovation

Nvidia

Nvidia hat sich von einem Grafikkartenhersteller für Gamer zu dem weltweit größten Unternehmen entwickelt, dank seiner zentralen Rolle bei der Bereitstellung von KI‑Hardware für die gesamte Technologiebranche.

Als Vorreiter bei KI‑spezifischer Hardware war Nvidia der erste, der Forschenden half, diese Werkzeuge zu nutzen. „CUDA“, eine universelle Programmierschnittstelle für Nvidias GPUs, öffnete die Tür für Anwendungen jenseits des Gamings und ebnete den Weg für die heutigen KI‑Anwendungen.

„Forscher erkannten, dass man durch den Kauf dieser Gaming‑Karte namens GeForce, die man in den Computer einbaut, im Grunde einen persönlichen Supercomputer hat.

Molekulardynamik, seismische Verarbeitung, CT‑Rekonstruktion, Bildverarbeitung – eine ganze Reihe verschiedener Anwendungen.“

Jensen Huang, in einem Interview mit Sequoia
Es ist wahrscheinlich, dass Nvidia‑Hardware, sei es direkt oder in den Clouds von Microsoft (MSFT ), Google, Meta und OpenAI integriert, weiterhin die bevorzugte Hardware für Forschende bleibt.

Die KI‑Investitionsausgaben werden voraussichtlich bis 2025 auf bis zu 200 Mrd. $ ansteigen, zusätzlich zu den ständig wachsenden Gesamtausgaben der größten Technologieunternehmen. Andere elektronische Bauteile, wie Hochleistungsspeicher (RAM), sind jetzt knapp, da die Nvidia‑Chipherstellung hochfährt.

Obwohl die wissenschaftliche Forschung im Vergleich zu Verbraucher‑ oder B2B‑Anwendungen nicht den größten Teil der KI‑Rechenleistung ausmacht, könnte sie zum langfristig einflussreichsten Treiber werden und neue Legierungen, Medikamente und wissenschaftliche Methoden versprechen.

(Sie können mehr über Nvidias Geschichte, das aktuelle Geschäft und die zukünftigen Aussichten in unserem speziellen Investitionsbericht über das Unternehmen lesen.)

Studie referenziert

^{1. Keigo Kusumegi, Xinyu Yang, Paul Ginsparg, Mathijs de Vaan, Toby Stuart und Yian Yin. Scientific production in the era of large language models. Science. 18. Dez. 2025. Band 390, Ausgabe 6779 S. 1240-1243. DOI: 10.1126/science.adw3000}