Ihre aktualisierte Editorial Policy verlangt von Autor:innen die Offenlegung von KI-Nutzung bei risikoreicheren Anwendungen. Wie wollen Sie diese Offenlegung in der Praxis durchsetzen, wenn Peer-Reviewer:innen und Redakteur:innen nicht zuverlässig erkennen können, ob KI eingesetzt wurde oder nicht?

Die Kennzeichnung von KI-Nutzung ist bei uns für jede Art der Nutzung erforderlich, unabhängig vom jeweiligen Risikograd. Transparenz muss zu einem selbstverständlichen und erwarteten Bestandteil des Publikationsprozesses werden. Genau darauf sind unsere aktualisierten Richtlinien und die entsprechenden Anpassungen unserer Systeme ausgerichtet. Entscheidend ist, die Stigmatisierung von KI-Kennzeichnung abzubauen und Transparenz zum Normalfall statt zur Ausnahme zu machen. Diese Entwicklung beobachten wir nicht nur bei Springer Nature, sondern zunehmend im gesamten Forschungsökosystem.

Schutzmaßnamen, Monitoring und Integritätsprüfungen bleiben wichtig, und KI kann selbst Teil der Lösung sein, indem sie dabei hilft, potenzielle Probleme in großem Maßstab zu identifizieren. Verantwortungsvolle KI-Nutzung geht jedoch über bloße Erkennung und Kontrolle hinaus. Sie basiert auf klaren Erwartungen, Transparenz, Rechenschaftspflicht und gemeinsamen Standards innerhalb der Forschungsgemeinschaft. Verlage spielen eine wichtige Rolle dabei, solche Standards zu etablieren und konsequent anzuwenden. Dauerhafte Lösungen können jedoch nur in Zusammenarbeit aller Beteiligten entstehen, darunter Forschende, Peer-Reviewer:innen, Redakteur:innen, wissenschaftliche Einrichtungen, Förderorganisationen und Technologieanbieter. Unsere Richtlinien werden sich daher auch künftig weiterentwickeln, parallel zu technologischen Fortschritten, regulatorischen Anforderungen und den Erwartungen der Forschungsgemeinschaft.

Bietet Ihr Verlag spezielle Schulungen für Redakteur:innen und Peer-Reviewer:innen zu generativer KI an, damit diese Halluzinationen, synthetische Muster oder logische Fehler besser erkennen können?

Wir sehen es als einen wichtigen Teil unserer Rolle, die Forschungsgemeinschaft bei der verantwortungsvollen Nutzung von KI zu unterstützen, und verfolgen dabei einen ganzheitlichen Ansatz. Neben der Aktualisierung unserer Richtlinien haben wir praktische Orientierungshilfen für Autor:innen, Redakteur:innen und Peer-Reviewer:innen geschaffen. Darüber hinaus stehen wir im regelmäßigen Austausch mit Forschenden, Editor:innen und weiteren Akteur:innen des Wissenschaftssystems, teilen unsere Expertise und bieten Formate wie Foren, Webinare, Q&A-Sessions und weitere Austausch- und Weiterbildungsangebote an. Diese helfen dabei, die komplexen Fragestellungen rund um den Einsatz von KI und den angemessenen Umgang damit besser zu verstehen und einzuordnen.

Ein zentraler Aspekt der Überarbeitung unserer KI-Richtlinien besteht jedoch darin, den Blick auf KI-Nutzung insgesamt zu erweitern: von der Forschungspraxis über die Manuskripterstellung bis hin zu Begutachtung und redaktioneller Bewertung. Schulungen für Redakteur:innen und Peer-Reviewer:innen sollten sich nicht ausschließlich auf mögliche Missbrauchsformen oder Fragen der Forschungsintegrität konzentrieren. Menschen darin schulen zu wollen, KI-generierte Inhalte zuverlässig zu erkennen, ist letztlich weder realistisch noch zielführend. KI-generierte Inhalte lassen sich nicht immer verlässlich identifizieren, und es ist anzunehmen, dass bestimmte sprachliche oder stilistische Muster mit der Weiterentwicklung der Technologie an Aussagekraft verlieren. Viel wichtiger ist die Fähigkeit zur kritischen Bewertung: Sind die Methoden belastbar? Stützen die Daten die Schlussfolgerungen? Sind die Quellen verlässlich? Entspricht die Arbeit wissenschaftlichen und ethischen Standards?

Befürchten Sie, dass verpflichtende Kennzeichnungspflichten ehrliche Autor:innen unbeabsichtigt benachteiligen könnten, etwa durch Vorurteile bei Leser:innen oder Peer-Reviewer:innen?

Transparenz sollte nicht als Warnhinweis verstanden werden. Der Zweck einer Kennzeichnung besteht darin, Vertrauen durch nachvollziehbare Herkunftsinformationen und Kontext zu schaffen, nicht darin, auf eine vermeintlich geringere Qualität hinzuweisen.

Der Fokus unserer Richtlinien liegt bewusst darauf, wie KI eingesetzt wurde, welche Auswirkungen dies möglicherweise hatte und welches Maß an menschlicher Aufsicht dabei gewährleistet war. Anwendungen, die primär der Effizienzsteigerung oder der sprachlichen Unterstützung dienen, unterscheiden sich deutlich von solchen, die Einfluss auf Interpretation, Bewertung oder Entscheidungsfindung haben könnten.

Wir denken, dass wissenschaftliche Arbeiten anhand ihrer Qualität, Belastbarkeit und Integrität beurteilt werden sollten und nicht anhand der bloßen Tatsache, dass KI eingesetzt wurde oder möglicherweise eingesetzt worden sein könnte. Indem wir von Autor:innen und Peer-Reviewer:innen die Kennzeichnung jeglicher KI-Nutzung verlangen, gewinnen wir wichtige Informationen, die fundiertere und evidenzbasierte Bewertungen sowie Entscheidungen ermöglichen.

Gleichzeitig muss die Forschungsgemeinschaft weiterhin gemeinsame Normen und Standards entwickeln, die verantwortungsvolle Transparenz fördern, ohne angemessene KI-Nutzung unnötig zu stigmatisieren.

Führt die breite Nutzung von KI nicht zwangsläufig zu einer zunehmend einheitlichen und standardisierten wissenschaftlichen Literatur?

Im wissenschaftlichen Publizieren stehen in erster Linie die Qualität der Forschung, die Belastbarkeit der Ergebnisse und die Genauigkeit ihrer Darstellung im Vordergrund, nicht der individuelle Schreibstil. Schon bevor generative KI eine Rolle spielte, waren Forschende angehalten, einen bestimmten wissenschaftlichen Stil und Tonfall zu verwenden. Wenn KI dabei hilft, Forschung klarer und verständlicher zu kommunizieren, bringt das viele Vorteile mit sich. Zum Beispiel die stärkere Teilhabe von Forschenden – insbesondere von denen, die nicht in ihrer Muttersprache publizieren. Oder auch die insgesamt bessere Zugänglichkeit wissenschaftlicher Arbeiten.

Gleichwohl sind Sorgen über eine mögliche Homogenisierung durchaus nachvollziehbar, insbesondere in Bereichen und Wissenschaftsdisziplinen, in denen die Art der Argumentation und Darstellung einen wesentlichen Teil des wissenschaftlichen Erkenntnisgewinns beziehungsweise des Mehrwerts ausmacht. Genau deshalb ist es wichtig, dass KI menschliche Expertise ergänzt und nicht ersetzt. Forschungsfragen, Hypothesen, Interpretationen und Schlussfolgerungen müssen weiterhin von Forschenden selbst entwickelt und verantwortet werden.

Letztlich hängt die Vielfalt wissenschaftlicher Literatur davon ab, dass menschliche Autorschaft, wissenschaftliches Urteilsvermögen und Verantwortlichkeit im Zentrum des Forschungsprozesses bleiben. Solange KI als Werkzeug zur Unterstützung von Forschung und Kommunikation genutzt wird und nicht als Ersatz für Kreativität und kritisches Denken, muss ihre zunehmende Anwendung nicht zwangsläufig zu einer Vereinheitlichung des wissenschaftlichen Erkenntnisstands führen.

Werden Sie geschlossene, sichere KI-Umgebungen für interne redaktionelle Prozesse und das Peer Review entwickeln?

Vertraulichkeit bleibt eine grundlegende Voraussetzung für redaktionelle Begutachtung und Peer Review. Unveröffentlichte Manuskripte dürfen nur auf eine Weise verarbeitet werden, die die Arbeit der Autor:innen schützt und das Vertrauen in den Begutachtungsprozess wahrt.

Wir prüfen kontinuierlich, wie technologische Lösungen redaktionelle Arbeitsabläufe sinnvoll unterstützen und unnötigen Aufwand reduzieren können. Alle bestehenden und potenziellen Anwendungen müssen dabei unsere hohen Anforderungen an Datenschutz, Sicherheit, Transparenz und menschliche Aufsicht erfüllen und an unseren KI-Prinzipien gemessen werden.

Ein konkretes Beispiel ist Snapp, unsere interne Plattform für Publikations- und Peer-Review-Prozesse. Sie bietet Autor:innen, Redakteur:innen und Peer-Reviewer:innen eine gesicherte, vertrauenswürdige Umgebung während des gesamten Publikationsprozesses. Dazu gehören Funktionen – einige davon KI-unterstützt – die bei der Auswahl geeigneter Peer-Reviewer:innen unterstützen, Einreichungen hinsichtlich formaler und redaktioneller Anforderungen prüfen und potenzielle Integritätsrisiken identifizieren können, etwa problematische Referenzen oder andere Auffälligkeiten, die eine vertiefte menschliche Prüfung erfordern.

Darüber hinaus entwickeln wir KI-gestützte Lösungen, die Forschende dabei unterstützen soll, wissenschaftliche Literatur effizienter zu erschließen und Manuskripte auf transparente und verantwortungsvolle Weise für die Veröffentlichung vorzubereiten.

Der entscheidende Punkt ist jedoch nicht allein die Umgebung, in der KI eingesetzt wird. Auch in geschlossenen und sicheren Umgebungen sollte KI redaktionelle Prozesse unterstützen und nicht ersetzen. Entscheidend ist, wie die Technologie eingesetzt wird, welche Rolle sie im jeweiligen Prozess übernimmt und ob menschliches Urteilsvermögen sowie Verantwortlichkeiten weiterhin gewährleistet sind.

Welche grundlegende Grenze darf KI im wissenschaftlichen Publizieren niemals überschreiten?

Für uns lautet die zentrale Grenze: Verantwortung.

KI wird künftig wahrscheinlich eine immer wichtigere Rolle dabei spielen, Forschende bei Recherche, Analyse und Kommunikation zu unterstützen. Die Verantwortung für die Integrität wissenschaftlicher Arbeiten, die Validität wissenschaftlicher Schlussfolgerungen und die Entscheidungen entlang des gesamten Forschungs- und Publikationsprozesses muss jedoch bei Menschen verbleiben.

Genau deshalb konzentriert sich unser Ansatz weniger auf die Frage, ob KI eingesetzt wurde, sondern vielmehr darauf, wie sie eingesetzt wurde, welchen Einfluss sie hatte und wer letztlich für das Ergebnis verantwortlich ist.

Ebenso wichtig ist die Erkenntnis, dass sich die Technologie weiterentwickeln wird und sich Richtlinien entsprechend anpassen werden. Menschliches Urteilsvermögen, Transparenz und Verantwortung sowie Rechenschaftspflicht müssen jedoch dauerhaft im Zentrum von Forschung und wissenschaftlichem Publizieren stehen. KI kann diese Grundsätze unterstützen und menschliche Expertise erweitern, sie sollte sie jedoch nicht ersetzen.

Erklärung zum Einsatz von KI: KI wurde bei der Erstellung eines ersten Entwurfs dieser Antworten sowie für die Übersetzung vom Englischen ins Deutsche eingesetzt. Die wesentliche Ausarbeitung und redaktionelle Überarbeitung erfolgten jedoch durch die Autorin. Die vollständige Verantwortung für den Inhalt liegt bei ihr.