opensociety

Kann man verantwortungsvolle Wissenschaft mit KI betreiben?

Wir blicken auf ungefähr drei Jahre zurück, in denen der Hype um Chatbots und die sogenannte “künstliche Intelligenz” angehalten hat, ohne einen sichtbaren Schaden zu nehmen. In dieser Zeit habe ich erlebt, wie die Anzahl von Menschen, die regelmäßig mit Chatbots über ihre Arbeit sprechen, in meinem Kollegenkreis beständig zugenommen hat. Es gibt einige Poweruser, die kaum noch eine Arbeit ohne Zuhilfenahme von Chatbots betreiben, und anscheinend immer weniger Menschen, die es so machen, wie ich, und einfach darauf verzichten, sich von Sprachsimulationsmaschinen die Welt erklären zu lassen.

Chatbots drehen die wissenschaftliche Welt, wie wir sie kannten, auf den Kopf. Die Wissenschaft, wie ich sie kenne, zielt darauf ab, Erkenntnisse auf möglichst transparente Art zu gewinnen. Die Grundidee der Transparenz ist es, zu gewährleisten, dass die Erkenntnisse einerseits überprüft werden können und andererseits anderen Menschen zur Verfügung stehen, um auf ihnen aufzubauen und eigene neue Erkenntnisse auf transparente Art zu gewinnen. Die Grundidee dieser Art von Wissenschaft ist eine Welt, in der Erkenntnisse allen Menschen frei zur Verfügung stehen und Wissenschaft betreibende Menschen die Quellen ihres Wissens frei mit anderen Menschen teilen.

Widersprüche in der Wissenschaft

Die Wissenschaft weist dabei in der Art, wie sie von Wissenschaftlern auf der ganzen Welt betrieben wird, grundlegende Widersprüche auf. Denn Wissenschaft wird organisiert als ein Wettkampf der Ideen. Menschen, die an diesem Wettkampf teilnehmen, treten den Wettkampf mit individuellen Ambitionen an. Sie wollen die Ersten sein, die eine neue Methode entwickeln, oder die Ersten, die ein neues archäologisches Artefakt entdecken. Es geht den Individuen, die Wissenschaft betreiben, aufgrund dieser Wettbewerbshaltung oftmals nicht einfach nur darum, eine neue Erkenntnis zu gewinnen, sondern sie wollen meist auch die sein, die den entscheidenden Beitrag zum Gewinn dieser Erkenntnis leisten.

Ich bekenne mich selbst dazu, diesen Kampf der Ideen als Teil meiner Arbeit zu genießen und auch als einen grundlegenden Aspekt anzusehen, der mich antreibt, meine Arbeit zu tun. Ich sehe mich dabei selten in direkten Konkurrenzsituationen mit den Menschen um mich herum und strebe es kaum an, meine Wissenschaft als einsamer Wolf zu betreiben, der in seiner Kammer sitzt und über die Welt nachdenkt, bis ihm der Geist auf bahnbrechenden Weise blitzt. Die wissenschaftliche Arbeit, die ich betreibe, ist in großen Teilen Teamarbeit. Wir arbeiten in Teams von unterschiedlicher Größe zusammen und ergänzen uns bei der Durchführung von Projekten so gut es geht. Meine Rolle unterscheidet sich von der Rolle, die meinen Doktorandinnen und Doktoranden zukommt, aber auch der Rolle, welche die Kolleginnen oder Kollegen einnehmen, die nach individuellen neuen Erkenntnissen streben. Denn ich sehe meine Stärke selbst vor allem in der Methodologie, die ich entwickeln möchte, um Sprachen systematisch vergleichen zu können. Dabei leite ich mal die Leute in meinem Team an, mal steuere ich Expertise oder Datensätze bei, und relativ selten entwickle ich neue Methoden und Ideen komplett eigenständig.

In dieser Arbeit habe ich natürlich meinen Ehrgeiz. Ich bin sehr froh, dass ich nicht in direkter Konkurrenz zu Menschen stehe, die die gleichen Forschungsinteressen haben, wie ich. Denn, wenn es die gäbe, weiß ich nicht, wie ich reagieren würde. Vielleicht würde ich mich in Konkurrenzkämpfen abarbeiten und dabei sogar sehr gemeine Aspekte meines Charakters zutage befördern, die ich froh bin, die meiste Zeit über unter Verschluss halten zu können.

Die Konkurrenz und der Wettkampf stehen im Widerspruch zu den hehren Zielen der Wissenschaft. Wenn es nur um die Erkenntnis geht, kann es mir ja egal sein, wer die beste Methode zur Sequenzalinierung in der Linguistik entwickelt. Wenn es aber um die Konkurrenz geht und die Rolle, die man selbst dabei spielt, so muss ich sagen, dass es mich nach wie vor freut, dass die Methoden zur Sequenzalinierung, die ich in meiner Dissertation vorgestellt habe, nach wie vor zu den besten Methoden gehören, die derzeit auf dem Markt der Computerlinguistik verfügbar sind (List 2014).

Man kann die Konkurrenz natürlich als Motor der Wissenschaft ansehen, welche die Menschen dazu bringt, Höchstleistungen in ihren wissenschaftlichen Teildisziplinen zu erbringen, um im Wettbewerb der Ideen an erster Stelle zu stehen. Die Konkurrenz und die Individualisierung wissenschaftlichen Schaffens sind jedoch nicht Teil der Hochglanzbroschüre, mit der sich die Wissenschaft nach außen hin gerne präsentiert. Denn nach außen wird zum einen von Vertretern der Wissenschaft selbst, mehr aber noch von denen, die über Wissenschaft reden und schreiben, gern ein Bild vom wissenschaftlichen Betrieb erzeugt, das diesen als den Garanten der Wahrheit erscheinen lässt, als einzige Bastion gegenüber Desinformation und Fake News.

Was dabei jedoch übersehen wird, ist, dass Wissenschaft selbst ja nach dem Selbstverständnis der wissenschaftlichen Methoden, wie sie von Popper (1935) und anderen propagiert wurden, keine endgültigen Wahrheiten produzieren kann. Ein Grundzug dessen, was wir als wissenschaftlich ansehen, besteht darin, dass Erkenntnisse vorläufig sind und der Revision unterworfen werden müssen (Russell and Patterson 2025, 64f). Wissenschaft liefert nie endgültige Erkenntnisse.

Wissenschaft liefert uns, wenn sie ehrlich und ohne böswillige Absichten betrieben wird, die Möglichkeit, unseren Erkenntnisstand zu einem spezifischen Thema in transparenter Weise aufzuzeigen und unterschiedliche Erklärungsansätze gegeneinander abzuwägen. Wir können dann basierend auf dieser transparenten Aufstellung feststellen, dass bestimmte Szenarien wahrscheinlicher zu sein scheinen als andere. Wir können zum Beispiel sagen, dass bestimmte Modelle wohl die Laufbahn von Planeten besser vorhersagen als andere, oder dass die meisten Klimamodelle darauf hinweisen, dass die Durchschnittstemperaturen auf der Erde weiter ansteigen werden (und dass fast alles darauf hinweist, dass der Mensch dafür verantwortlich ist). Wir können uns aber streng genommen als Wissenschaftler nie hinstellen und sagen, dass etwas wissenschaftlich erwiesen sei. Das Erfolgsprinzip der wissenschaftlichen Methode, wie sie von Wissenschaftlern so vehement vertreten wird, besteht im Zweifel an bestehenden Erkenntnissen und in der Ablehnung, dass Erkenntnisse endgültig sind. Die Beweise sollten wir als Wissenschaftler den Detektiven überlassen.

Zitate und Plagiate

Der Widerspruch zwischen der Wissenschaft, die wir individuell als Ideenwettkampf betreiben und der Wissenschaft, wie wir sie als transparentes Ideal des Erkenntnisgewinns propagieren, zeigt sich auch in der Verwendung von Zitaten. Das Zitieren hat in dieser Widersprüchlichkeit zwei grundlegende Funktionen. Zum einen dient es dazu, Erkenntniswege transparent abzubilden, damit die Prüfung neuer Ideen möglichst lückenlos und effizient durchgeführt werden kann. Wie beim Beweis in der Mathematik, bei dem man sich auf bereits bewiesen Teilbereiche stützt, dient das Zitat in dieser Funktion, auf bestehende Erkenntnisse zu verweisen, auf denen dann neue Erkenntnisse aufgebaut werden.

Zum anderen dient das Zitat jedoch auch dazu, die Egos von Wissenschaftlerinnen und Wissenschaftlern zu bedienen, indem Erkenntnisse an einzelne Personen gebunden werden. Wenn es nur um die Erkenntnisse ginge, wäre es ja streng genommen vollkommen egal, wer einen Artikel oder ein Buch geschrieben hat. Es würde dann ja genügen, dass man Teilerkenntnisse oder Teilmodelle transparent referenziert, ohne dass man sich darum kümmert, wer diese zum ersten Mal geäußert hat. Aber da Wissenschaft ja in der Praxis darauf aufbaut, durch die Konkurrenzsituation Menschen dazu zu bringen, um ihre Ideen zu streiten, nutzen wir die Zitate eben auch als Nachweis für die Leistung einzelner Geister, einschließlich unserer eigenen. Das Zitat markiert die Urheberschaft, und wer unsere Ideen wiederholt, ohne sie zu zitieren, dem werfen wir Ideenklau vor. Das fehlende Zitat gilt als wissenschaftliches Fehlverhalten, welches der guten wissenschaftlichen Praxis widerspricht (DFG Team Wissenschaftliche Integrität 2024).

Ich will diese Doppelfunktion der Zitate in der Wissenschaft nicht kritisieren. Ich selbst lebe ja von ihr und ich ärgere mich wie alle anderen Kolleginnen und Kollegen sich ärgern, wenn man meine Arbeiten plagiiert oder nicht ausreichend würdigt, was vor allem die Grauzonen wissenschaftlichen Fehlverhaltens betrifft (List 2023, 2022). Aber ich halte es für wichtig, dass wir uns als Wissenschaftler dieser Zweischneidigkeit der wissenschaftlichen Praxis bewusst sind. Wer Wissenschaft betreibt, tut dies nicht nur aus selbstlosen Erkenntniszielen. Es schwingt immer auch das egoistische Motiv mit, im Ideenkampf unterschiedlicher Teildisziplinen einen Platz auf dem Treppchen zu erreichen.

Das Ende der Urheberschaft

Die steigende Nutzung von Chatbots beim Schreiben von Texten und beim Generieren von Ideen legt die Widersprüche in der Wissenschaft nicht nur offen, sie bringt das System, wie es relativ lange Zeit ohne größere Probleme von Wissenschaftlerinnen und Wissenschaftlern betrieben wurde, an seine Grenzen. Denn da Chatbots von großen Sprachmodellen angetrieben werden, die dadurch trainiert wurden, dass sie so ziemlich alles, was an wissenschaftlicher und nichtwissenschaftlicher Literatur zur Verfügung steht, in internen Gewichten abgespeichert haben, die weder Urheberschaft noch Transparenz kennen, haben sie die zwei grundlegenden Säulen umgeworfen, die unsere Wissenschaft bisher getragen haben, also die Transparenz der Herkunft von Erkenntnissen und die Urheberschaft von Ideen.

Denn wenn Wissenschaftlerinnen und Wissenschaftler ihre Texte zunehmend direkt von Chatbots schreiben lassen oder ihre Ideen zum Forschungsdesign mit Chatbots durchsprechen und sich im Dialog mit den Maschinen lob, Kritik und scheinbar neue Ideen abholen, dann verschwimmen die Grenzen zwischen den eigenen Arbeiten und den Vorarbeiten anderer. Wenn diese Grenzen aber verschwimmen, wird es nicht nur viel schwieriger für uns, den Arbeiten unserer Kolleginnen und Kollegen den ihnen gebührenden Respekt zu zollen, es wird auch immer schwerer werden, die Arbeiten in der Welt in konkreten vorangegangenen Werken zu verankern (List 2024), und somit die Transparenz des Prozesses zu gewährleisten, mit dem wir neue Erkenntnisse gewinnen.

Wie sich dieses Problem lösen lässt, weiß ich nicht. Auf der einen Seite sehe ich keinen Grund, warum neue Erkenntnisse nicht auch ohne den Ideenkampf in der modernen Wissenschaft erlangt werden können sollten. Ich frage mich auch vor allem in Bezug auf die für viele Menschen so wichtigen wissenschaftlichen Entdeckungen, inwiefern es nicht vollkommen egal ist, ob diese von einem Menschen, oder einer Maschine gemacht worden sind. Der neue Planet oder die neue Spezies wäre ja nicht weniger real, wenn sie von einem Computerprogramm identifiziert worden wären. Für mich persönlich, als jemand, der sich durch die eigene Arbeit ja frei zu dem Wettbewerb in der Wissenschaft bekennt, wäre es natürlich ein Unterschied, aber ich sehe keine sachlichen Gründe, die Qualität von Erkenntnissen aus der Rolle, welche die Urheberschaft spielt, abzuleiten.

Auf der anderen Seite scheint es mir jedoch, dass wir Gefahr laufen, die Transparenz der wissenschaftlichen Forschung noch weiter zu verwässern, wenn wir unsere Forschung so unreflektiert auf stochastische Papageien ausrichten, wie man das inzwischen schon in vielen Fällen beobachten kann. Ich halte mich persönlich ohnehin fern von Chatbots, wie ich auch soziale Medien weitestgehend meide, da ich deren Nutzung für Zeitverschwendung halte und auch mit den ethischen Aspekten und der Auswirkung von Chatbots auf einzelne Arbeiter, die Umwelt und unsere Gesellschaft als sehr problematisch ansehe (vgl. dazu vor allem Bender and Hanna 2025).

Aus diesem Grunde habe ich auch, obwohl ich mich nur absolut ungern öffentlich zu Themen äußere, die nichts mit meiner Arbeit zu tun haben, öffentlich gegen die unkritische Nutzung von sogenannten KI-Tools in Bildung und Forschung ausgesprochen (Guest et al. 2025). Solange Chatbots nicht vollkommen transparent betrieben werde, was vor allem auch die Daten betrifft, die zum Training der Sprachmodelle, die ihnen zugrunde liegen, Verwendung fanden (Liesenfeld et al. 2023), und solange nicht eine klare Verankerung generierter Texte in bestehenden Daten von den Bots vorgenommen wird, sehen ich einen zu großen Widerspruch mit dem, was ich unter guter wissenschaftlicher Praxis verstehe.

Literatur

Bender, Emily M., and Alex Hanna. 2025. “The AI Con. How to Fight Big Tech’s Hype and Create the Future We Want.”

DFG Team Wissenschaftliche Integrität. 2024. “Leitlinien Zur Guten Wissenschaftlichen Praxis [Report, Version 2].” Leitlinien. Bonn: Deutsche Forschungsgemeinschaft. https://doi.org/10.5281/zenodo.14281892.

Guest, Olivia, Marcela Suarez, Barbara Müller, Edwin van Meerkerk, Arnoud Oude Groote Beverborg, Ronald de Haan, Andrea Reyes Elizondo, et al. 2025. Against the Uncritical Adoption of “AI” Technologies in Academia. Geneva: Zenodo. https://doi.org/10.5281/zenodo.17065099.

Liesenfeld, Andreas, Alianda Lopez, and Mark Dingemanse. 2023. “Opening up ChatGPT: Tracking Openness, Transparency, and Accountability in Instruction-Tuned Text Generators.” In Proceedings of the 5th International Conference on Conversational User Interfaces, 1–6. CUI ’23. Eindhoven: Association for Computing Machinery. https://doi.org/10.1145/3571884.3604316.

List, Johann-Mattis. 2014. Sequence Comparison in Historical Linguistics. Düsseldorf: Düsseldorf University Press. https://doi.org/10.1515/9783110720082.

———. 2022. “Über Schattierungen Wissenschaftlichen Fehlverhaltens.”Von Wörtern Und Bäumen 6 (6). https://doi.org/10.58079/vbra.

———. 2023. “Etiquetten.”Von Wörtern Und Bäumen 7 (9). https://doi.org/10.58079/vbrp.

———. 2024. “Ankerpunkte Des Vertrauens in Den Fluten Digitaler Information.”Von Wörtern Und Bäumen 8 (1). https://doi.org/10.58079/vn3l.

Popper, Karl. 1935. Logik Der Forschung. Zur Erkenntnistheorie Der Modernen Naturwissenschaft. Wien: Springer.

Russell, Jacob Hale, and Dennis Patterson. 2025. The Weaponization of Expertise. How Elites Fuel Populism. Cambridge; London: MIT Press.


OpenEdition schlägt Ihnen vor, diesen Beitrag wie folgt zu zitieren:
Johann-Mattis List (14. Dezember 2025). Kann man verantwortungsvolle Wissenschaft mit KI betreiben? Von Wörtern und Bäumen. Abgerufen am 17. März 2026 von https://doi.org/10.58079/15cdq


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

This site uses Akismet to reduce spam. Learn how your comment data is processed.