KI in der wissenschaftlichen Forschung: Produktivitätsgewinne vs. Qualitätsrisiken

KI als Forschungsassistent

Künstliche Intelligenz stellt eine wahre Revolution für viele wissenschaftliche Bereiche dar und ermöglicht die Verarbeitung von Daten und die Modellierung realer Materialien und Situationen auf eine Weise, die selbst die leistungsstärksten Supercomputer noch vor wenigen Jahren nicht leisten konnten.

Aktuelle Beispiele umfassen diverse Formen der KI, die für Folgendes eingesetzt werden:

• Suche nach neuen Materialien für Kernfusionsreaktoren.
• Wiederherstellung der Bildschärfe von Weltraumteleskopen.
• Optimierung von Metall-3D-Druckverfahren.
• Entdeckung neuer Materialien für Solarzellen, Wasserstoff-Elektrokatalysatoren, superharte Materialien, Polymere und Festkörperelektrolyte.

Diese Anwendungen basieren in der Regel auf hochspezialisierten KI-Modellen, die präzise darauf trainiert sind, eine bestimmte Kristallklasse zu untersuchen oder einen einzigartigen Satz von Bildern zu verarbeiten.

Wenn von KI die Rede ist, denkt die breite Öffentlichkeit jedoch meist an generalistische LLMs (Large Language Models). Diese werden derzeit hauptsächlich zum Schreiben und Verbessern von Texten sowie für die Durchführung komplexerer, lesbarer Suchanfragen im Vergleich zu herkömmlichen Suchmaschinen eingesetzt.

Theoretisch sollte dies nicht nur für studentische Aufsätze, schlechte Gedichte und PowerPoint-Präsentationen gelten, sondern auch für wissenschaftliche Forschung und veröffentlichte Arbeiten.

Dies kann jedoch ein zweischneidiges Schwert sein, wie eine kürzlich in der renommierten wissenschaftlichen Zeitschrift Science veröffentlichte Analyse erläutert.¹mit dem Titel „Wissenschaftliche Produktion im Zeitalter großer Sprachmodelle".

In dieser Analyse untersuchten Forscher der University of California und der Cornell University die Produktivität von Wissenschaftlern, die LLMs (Learning Learning Management) nutzen, im Vergleich zu ihren früheren Arbeiten. Sie stellten fest, dass die Nutzung von LLMs zwar die Qualität wissenschaftlicher Publikationen verbessern kann, gleichzeitig aber auch zu einem höheren Volumen an qualitativ minderwertiger Forschung führt und somit bestehende Probleme in der Wissenschaft verschärft.

Erkennung des Einsatzes von KI in wissenschaftlichen Forschungsarbeiten

Die erste Herausforderung besteht darin, festzustellen, wie verbreitet die Verwendung von LLM im wissenschaftlichen Schreiben ist und wer es verwendet.

Es überrascht nicht, dass Forscher diese Daten nicht spontan zugeben, da die verwendeten Werkzeuge noch neu sind und fehleranfällig sein können, insbesondere bei technischen Daten oder Nischenthemen.

Die Forscher trugen mehr als 2 Millionen Artikel aus großen wissenschaftlichen Datenbanken wie arXiv, bioRxiv und dem Social Science Research Network (SSRN) zusammen, die aus dem Zeitraum von Januar 2018 bis Juni 2024 stammen.

Anschließend verglichen sie vor 2023 veröffentlichte Artikel – die mutmaßlich von Menschen verfasst wurden – mit KI-generierten Texten.

Anhand dieser Daten entwickelten sie ein Modell zur Erkennung von KI-Nutzung. Mit diesem Tool ermittelten sie mit hinreichender Genauigkeit, welche Wissenschaftler LLMs verwenden und wann sie damit begonnen haben. Anschließend verfolgten sie das Publikationsvolumen dieser Wissenschaftler vor und nach der Einführung der Tools sowie die anschließende Veröffentlichung ihrer Artikel in Fachzeitschriften.

Auswirkungen von KI auf die wissenschaftliche Forschung

Zum Scrollen wischen →

Höhere Produktivität

Die erste Schlussfolgerung lautet, dass die Verwendung von LLMs die Produktivität von Wissenschaftlern steigert, zumindest wenn man sie an der Anzahl der Veröffentlichungen misst.

Auf arXiv veröffentlichten Wissenschaftler, die als LLM-Nutzer gekennzeichnet waren, etwa ein Drittel mehr Artikel als diejenigen, die keine KI zu verwenden schienen. Auf bioRxiv und SSRN lag der Anstieg bei über 50 %.

Angesichts der Tatsache, dass die „Veröffentlichen oder untergehen“-Kultur den Karriereweg der meisten Wissenschaftler bestimmt, hat diese Zunahme des Publikationsvolumens einen gravierenden Einfluss auf die Karriereverläufe.

Eine weitere Erkenntnis ist, dass der positive Effekt bei Wissenschaftlern, die vermutlich keine englischen Muttersprachler sind, stärker ausfiel.

Beispielsweise veröffentlichten Forscher, die mit asiatischen Institutionen verbunden sind, zwischen 43.0 % und 89.3 % mehr Artikel, nachdem der Detektor ihnen nahegelegt hatte, mit der Nutzung von LLMs zu beginnen.

Das ist nachvollziehbar; viele Wissenschaftler sind technisch brillant und in der Lage, Englisch zu lesen (eine Voraussetzung in der modernen akademischen Welt), haben aber möglicherweise Schwierigkeiten, klare und elegante Sätze in einer Fremdsprache zu formulieren.

Der weitverbreitete Einsatz von LLM-Abschlüssen könnte Chancengleichheit für Nicht-Muttersprachler schaffen und dazu beitragen, dass qualitativ hochwertige Forschung unabhängig von den Sprachkenntnissen des Autors internationale Anerkennung erlangt.

Bessere Entdeckung wissenschaftlicher Erkenntnisse

LLMs können auch genutzt werden, um mithilfe spezialisierter KIs wie beispielsweise Publikationen zu einem bestimmten Thema zu finden. Entlocken, Forschungskaninchenden Scite.

Ein wesentlicher Teil der wissenschaftlichen Forschung besteht darin, andere Arbeiten zu finden und zu lesen, um daraus Informationen abzuleiten oder experimentelle Protokolle zu identifizieren, die in neuen Kontexten wiederverwendet werden können.

Künstliche Intelligenzen bevorzugen im Allgemeinen neuere Veröffentlichungen und gewichten Zitationszahlen weniger stark als herkömmliche Suchmaschinen. Daher bieten sie eine Alternative für Wissenschaftler, die nach neuen Ideen oder weniger diskutierten Experimenten suchen.

„Menschen, die einen LLM-Abschluss erwerben, knüpfen Zugang zu vielfältigerem Wissen, was möglicherweise zu kreativeren Ideen führt.“

Keigo Kusumegi, Doktorand an der Cornell University

Diese Hypothese könnte in Zukunft getestet werden, indem man prüft, ob mit KI-Unterstützung verfasste Arbeiten vielfältigere Bibliografien aufweisen oder innovativer und interdisziplinärer sind.

KI als neues Thema in Wissenschaft und Forschung

In den letzten Jahren hat die wissenschaftliche Forschung – insbesondere in den Sozialwissenschaften – eine Krise der Reproduzierbarkeit erlebt.

Da die Ergebnisse vieler Studien von anderen Forschern nicht reproduziert werden können, können ansonsten seriös wirkende Untersuchungen fehlerhaft oder sogar betrügerisch sein. Dies wurde als eine „existenzielle Krise für die Wissenschaft“ bezeichnet.

Historisch gesehen galt ein komplexer Schreibstil – mit längeren Sätzen und einem anspruchsvollen Vokabular – als Indiz für qualitativ hochwertige Forschung. Obwohl er keine absolute Garantie bot, half er doch dabei, fachkundig verfasste Forschungsergebnisse von mangelhaften Analysen zu unterscheiden.

Im Gegensatz dazu werden mit Hilfe von KI verfasste Arbeiten derzeit seltener von Fachzeitschriften angenommen.

Insgesamt droht dies die Entkopplung der Kennzahl „Veröffentlichte Artikel“ vom tatsächlichen Talent eines Forschers weiter zu verstärken. Herausgeber und Gutachter könnten Schwierigkeiten haben, die wertvollsten Einreichungen zu identifizieren, insbesondere da KI immer effizienter und menschenähnlicher wird.

Schließlich könnten mithilfe von KI riesige Mengen an minderwertigen, aber plausibel wirkenden Forschungsarbeiten generiert werden. Dieses Risiko beschränkt sich nicht auf soziale Medien; es stellt ein erhebliches Problem für die wissenschaftliche Forschung dar, wo die Zeit von Gutachtern bereits vor dem Aufkommen von LLMs ein knappes Gut war.

Was KI für die Zukunft der wissenschaftlichen Forschung bedeutet

Da KI ein Werkzeug ist, müssen Forscher lernen, sie effektiv einzusetzen. Es ist nahezu unmöglich, LLMs aus Forschungslaboren zu verbannen, und ihre Aufdeckung wird nur noch schwieriger werden.

Die Anpassung und der produktive Einsatz von KI im wissenschaftlichen Schreiben werden künftig das bestimmende Thema sein.

„Schon jetzt lautet die Frage nicht mehr: ‚Haben Sie KI eingesetzt?‘, sondern: ‚Wie genau haben Sie KI eingesetzt und war sie hilfreich?‘“

Die Einstellungspraxis in den Naturwissenschaften könnte von einer Rückkehr zu qualitativen Kriterien wie ausführlichen Interviews und technischen Tests profitieren, anstatt sich ausschließlich auf die Anzahl der Veröffentlichungen zu verlassen.

Auch Gutachter und wissenschaftliche Zeitschriften müssen sich anpassen. Möglicherweise sind Systeme erforderlich, die vor der Analyse überprüfen, ob eine Einreichung aus einem legitimen Forschungslabor stammt, um die massenhafte Produktion gefälschter Artikel zu verhindern.

Letztendlich wird das tiefe Verständnis der technischen Aspekte einer Arbeit, und nicht die sprachliche Eleganz, das wichtigste Kriterium für die Beurteilung ihrer Qualität sein.

Investitionen in KI-Innovationen

Nvidia

Nvidia hat sich dank seiner zentralen Rolle bei der Bereitstellung von Grafikkarten von einem Hersteller, der sich an Gamer richtete, zum weltweit größten Unternehmen entwickelt. KI-Hardware an die gesamte Technologiebranche.

Als Pionier im Bereich KI-spezifischer Hardware war Nvidia der erste Anbieter, der Forschern die Nutzung dieser Werkzeuge ermöglichte. „CUDA“, eine universelle Programmierschnittstelle für Nvidias GPUs, eröffnete neue Anwendungsbereiche jenseits von Spielen und ebnete so den Weg für die heutigen KI-Anwendungen.

„Forscher haben festgestellt, dass man durch den Kauf dieser Gaming-Karte namens GeForce, die man zu seinem Computer hinzufügt, im Wesentlichen einen persönlichen Supercomputer besitzt.

Molekulardynamik, seismische Verarbeitung, CT-Rekonstruktion, Bildverarbeitung – eine ganze Reihe verschiedener Dinge.“

Jensen Huang im Interview mit Sequoia

Es ist wahrscheinlich, dass Nvidia-Hardware, entweder direkt oder integriert in die Clouds von Microsoft, Google, Meta und OpenAI, die Hardware der Wahl für Forscher bleiben wird.

Es werden Investitionen in KI erwartet bis 200 bis zu 2025 Milliarden Dollar erreichenZusätzlich zu den stetig steigenden Ausgaben der größten Technologiekonzerne kommt es nun auch zu Engpässen bei anderen elektronischen Bauteilen, wie beispielsweise Hochleistungs-RAM, da die Chipproduktion von Nvidia hochgefahren wird.

Auch wenn die wissenschaftliche Forschung im Vergleich zu Verbraucher- oder B2B-Anwendungen nicht den Großteil der KI-Rechenleistung ausmacht, könnte sie sich langfristig zum einflussreichsten Treiber entwickeln und neue Legierungen, Medikamente und wissenschaftliche Methoden hervorbringen.

(Du kannst rMehr über Nvidias Geschichte, das aktuelle Geschäft und die Zukunftsaussichten erfahren Sie in unserem ausführlichen Investmentbericht über das Unternehmen..)

Zitierte Studie

^{1. Keigo Kusumegi, Xinyu Yang, Paul Ginsparg, Mathijs de Vaan, Toby Stuart und Yian Yin. Wissenschaftliche Produktion im Zeitalter großer Sprachmodelle. Science. 18. Dez. 2025. Band 390, Ausgabe 6779, S. 1240-1243. DOI: 10.1126/science.adw3000}