Dialog between ScareGPT and Some User.

Wer hat Angst vorm Chatprogramm?

Die Chatbots haben in erstaunlicher Geschwindigkeit ihren Einzug in unser Leben gehalten. Kaum eine Veranstaltung, auf der geredet wird, kommt noch ohne eine Rede, ein Einladungsschreiben, oder ein Gedicht aus, das nicht von einem Chatbot geschrieben wurde. In den sozialen Medien überbieten sich Menschen mit Berichten, die entweder die schier unglaublichen Fähigkeiten der großen Sprachmodelle preisen, oder sich spöttisch über sie äußern, weil eine ganz spezifische Frage gefunden wurde, auf die die Sprachmodelle noch keine überzeugende Antwort gefunden haben. Während Größen der Linguistik wie Emily Bender (Bender et al. 2021) und Noam Chomsky (Chomsky et al. 2023) den Chatbots den Kampf angesagt haben, beschwören die Technikfreaks des Silicon Valley den Weltuntergang hervor, wenn es uns nicht gelänge die Technik gut genug zu kontrollieren.

Das ganze Treiben rund um die Chatbots mutet grotesk an, vor allem, wenn man sich vor Augen führt, dass es mit Klima und Krieg noch viel direktere Bedrohungen menschlicher Zivilisationen gibt. Es bestimmt dennoch unausweichlich unseren Alltag, und da Sprache ja mein Beruf ist, kann ich mich selbst der Thematik kaum entziehen, da es sich doch hierbei um Modelle handelt, die Sprache in einem Maße imitieren und generieren können, das wir vor einigen Jahren noch nicht für möglich gehalten hätten. So habe ich dann auch mitgeholfen, eine Ringvorlesung zum Chatbots an der Universität Passau zu organisieren, ich war erfreut, als ein Doktorand aktiven Gebrauch von ChatGPT gemacht hat, um Programmierprobleme eigenhändig zu lösen (Mantelli und Pulini 2023) und ich musste auch zu dem Thema Stellung nehmen, als es in der Sendung Planet Wissen um das Sprachwunder Mensch ging.

Während ich Bender und Kollegen folge und das Weltuntergangsdenken in Bezug auf Sprachmodelle für reißerischen Hype der Technikkonzerne halte, die ihre Produkte verkaufen wollen, kann ich kleinere Bedenken in Bezug auf Chatprogramme schon verstehen. An den Universitäten spielt das Thema Prüfungen natürlich eine große Rolle. Hier haben einige Kolleginnen und Kollegen Angst, dass die Studierenden in Zukunft kaum mehr Hausarbeiten eigenständig schreiben werden, weil Chatbots ja billige Unterstützung in mehreren Sprachen bieten. Beruflich bedroht die Fähigkeit von Chatbots, kleinere Programme in einer Vielzahl von Programmiersprachen schreiben zu können, sicher eine größere Anzahl an aktiven Programmierern, deren Jobs — wenn die Qualität der Programme das hält, was sie verspricht — bald Stück für Stück wegrationalisiert werden könnten. Aus ethischer Perspektive schließlich stellt sich die Frage, inwiefern Chatbots das ohnehin vor Falschinformationen berstende Internet weiter mit Hass füllen und so zur weiteren Spaltung der Gesellschaften beitragen werden.

Ich sehe die Situation an den Universitäten im Gegensatz zu mancher Kollegin und manchem Kollegen nicht als speziell problematisch an. Während wir vor über zehn Jahren, als ich anfing, an Universitäten zu unterrichten, noch darüber diskutierten, wie man mit Wikipedia als Quelle umgehen sollte, so werden wir jetzt eine Weile darüber diskutieren müssen, wie wir mit generierten Texten verfahren. Wenn man Wissenschaft streng betrachtet, dann sollte die sprachliche Qualität von Forschungsergebnissen eigentlich kaum eine Rolle spielen, wie die Forschungsergebnisse selbst beurteilt werden. Wenn die Forschungsergebnisse aber selbst im Vordergrund stehen sollten, könnte der Einsatz von Chatbots vielleicht dazu führen, dass nun Menschen mit ihrer Forschung beachtet werden, denen es vorher an den Fähigkeiten mangelte, sich adäquat auszudrücken. Da Wissenschaft vorwiegend auf Englisch betrieben wird, und gute sprachliche Qualität praktisch sehr wohl einen Einfluss darauf hat, wie Forschung wahrgenommen wird, könnten frei verfügbare Chatbots vielleicht tatsächlich dazu beitragen, das Gefälle zwischen den Vertretern der Wissenschaft, die sich ein englisches Lektorat bisher nicht leisten konnten, und denen, die es entweder nicht brauchten (weil sie aus englischsprachigen Ländern kommen), oder es finanziert bekommen, abzuflachen. Da es leider nicht so billig ist, gute Chatbots und Sprachmodelle zu unterhalten, wird dieser Effekt aber wahrscheinlich sehr gering ausfallen und eher dazu führen, dass in Zukunft in Ländern wie Deutschland am Lektorat gespart wird, während ärmere Länder auf schlechtere Sprachmodelle zurückgreifen müssen und weiterhin benachteiligt bleiben werden.

Auf jeden Fall erwarte ich nicht, dass sich die sprachlichen Fähigkeiten von Studierenden in Zukunft drastisch verringern werden, ich erwarte eher, dass wir — wenn die Technologie sich noch ein bisschen weiterentwickelt und weiter verbessert — bald schlicht und einfach keine Texte in der Wissenschaft mehr ohne Sprachmodelle schreiben werden. Genauso, wie wir routinemäßig zum Taschenrechner greifen, wenn wir etwas ausrechnen müssen, werden wir uns an Sprachmodelle wenden, wenn es um das Formulieren von Texten geht, und diese in Kollaboration mit den Modellen verfassen (in Kollaboration, indem wir Texte nachkorrigieren, nicht, indem wir uns blind auf die Modelle verlassen). Natürlich wird dies auch dazu führen, dass wir Prüfungsleistungen an Universitäten und in der Schule kaum noch hinsichtlich ihrer sprachlichen Qualität allein bewerten können und sollten, aber streng genommen sollte das bei wissenschaftlichen Arbeiten schon jetzt der Fall sein. Zwar ist es wichtig, sauber und klar zu formulieren, schön zu schreiben war aber noch nie ein Kriterium für gute wissenschaftliche Arbeit, oder sollte es eigentlich nicht sein (auch wenn die Praxis zeigt, dass wissenschaftliche Arbeit nicht frei von rhetorischer Manipulation ist, vgl. Corneille et al. 2023.)

Aus Perspektive derer, die regelmäßig Programmieren und eigenen Code schreiben, oder derer, die lernen wollen, wie man programmiert, könnten Sprachmodelle das Programmieren von Morgen revolutionieren, indem sie all die kleinteiligen Aufgaben erledigen, die man selbst am Programmieren hasst. Auch für Menschen, die noch nicht die Chance hatten, programmieren zu lernen, lassen sich durch den Dialog mit Chatbots sowohl kleinere Programme schreiben als auch konkrete Fragen zum Programmieren beantworten, für deren Beantwortung Menschen mit Programmiererfahrung nicht immer Zeit haben (Mantelli und Pulini 2023). Man sollte allerdings sehr vorsichtig sein, das klassische Programmieren, welches ohne Hilfsmittel von Chatbots und KI-getriebener Software auskommt, zu früh aufzugeben. Da Sprachmodelle das Programmieren von Menschen lernen, die ihren Code veröffentlichen, und die meisten Menschen eher schlecht als recht Probleme mit Code lösen, entsprechen deren Fähigkeiten kaum denen einer überlegenen Intelligenz, sondern eher dem eines durchschnittlichen Menschen, der eben auch mal schlampig und ungenau programmiert und vielleicht auch zu faul ist, eine richtige, nachhaltige Lösung für ein Problem zu finden.

Darüber hinaus scheinen die Modelle nach wie vor sehr weit davon entfernt zu sein, Code wirklich zu durchdringen, was sich daran zeigt, dass sie Lösungen nach Häufigkeit auswählen und nicht den Programmiercode selbst wirklich zu durchdringen scheinen (Miceli-Barone et al. 2023). Dies bedeutet für mich, dass Sprachmodelle Menschen beim Einstieg in das Programmieren durchaus helfen können. Komplexe Aufgaben und Durchdringen von längeren Code-Blöcken können sie aber noch nicht leisten. Ohne Programmierer, die den Code wirklich verstehen, werden Projekte also auch in Zukunft erst mal nicht auskommen. Wer Programmieren lernen will, tut nach wie vor gut daran, sich die Mühe zu machen, sich die Grundlagen verschiedener Programmiersprachen anzueignen.

Was die ethischen Bedenken, die in Bezug auf das Training von Sprachmodellen geäußert wurden, welches Scharen von schlechtbezahlten Menschen zwingt, sich mitunter psychisch sehr belastende Inhalte aus dem Internet anzuschauen, damit Sprachmodelle sie nicht wiederholen (vgl. Wolfangel 2023), so teile ich diese vollständig. Es scheint eben einfach keine absolut saubere Technik zu geben, auch — aber vielleicht auch vor allem — nicht im Bereich der künstlichen Intelligenz. Ein weiteres Problem ist die Anwendung von Sprachmodellen, um das Internet, welches in Teilen einer riesigen stinkenden Restmülltonne gleicht, weiter mit extremen Inhalten zu füllen, die die Gesellschaft weiter spalten und Menschen mit Verschwörungstheorien und Falschinformationen weiter verunsichern. Weil es zusehends schwerer wird, maschinengenerierten Inhalt von menschengeneriertem Inhalt zu unterscheiden, wird sich dagegen so schnell nicht viel tun lassen. Interessanterweise werden zukünftige Sprachmodelle jedoch wahrscheinlich selbst unter maschinengenerierten Inhalten leiden, da sie ja vor allem am Web trainiert werden. Wenn dieses nun voll ist von generierten Inhalten, dann würde sich ein bizarrer Kreislauf entwickeln, in dem sich Sprachmodelle immer mehr ihrer selbst durch Inhalte, die sie selbst generiert haben, versichern, was schließlich zu deren Degeneration (sogenannter Modellkollaps, vgl. Shumailov et al. 2023) führen kann.

Es ist schwer zu sagen, worauf das alles hinauslaufen wird, und da ohnehin schon so viel zu der Zukunft mit Sprachmodellen geschrieben und diskutiert wird, ist es wahrscheinlich am besten, sich ein bisschen zurückzulehnen und die Diskussion erst mal nur zu beobachten, anstatt in sie aktiv einzugreifen. Viele Ängste, die Menschen im Internet und Menschen, denen ich begegnet bin, bisher geäußert haben, teile ich jedoch viel weniger. Klar werden die Sprachmodelle bestimmte Aspekte unseres Lebens verändern, aber Wikipedia hat unser Leben auch auf unglaubliche Weise verändert, und das Smarthone ebenfalls, weshalb es sicher übertrieben ist, jetzt davor zu warnen, dass die Technik zu mächtig wird. Solange Sprachmodelle Millionen von Sätzen und Milliarden von Wörtern brauchen, um halbwegs kohärente Sätze zu erzeugen, ist die Sprachfähigkeit des Menschen, der aus einem viel kleineren Korpus nahezu perfekt zu sprechen lernt, ihnen immer noch meilenweit überlegen. Auch für die Wissenschaft bedeutet das, dass wir nach wie vor gute Gründe haben, die Sprachfähigkeit von Menschen und individuelle Sprachen im Detail und mit großem Enthusiasmus zu erforschen.

Literatur

Emily M. Bender and Timnit Gebru and Angelina McMillan-Major and Shmargaret Shmitchell (2021): On the Dangers of Stochastic Parrots. In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency.

Noam Chomsky and Ian Roberts and Jeffrey Watumull (2023): Noam Chomsky: The False Promise of ChatGPT. New York Times 2023.03/08. https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html

Alessandro Mantelli and Michele Pulini, “Leveraging JavaScript, jQuery, and ChatGPT for Data Extraction from Web Tables,” in Computer-Assisted Language Comparison in Practice, 17/05/2023, https://calc.hypotheses.org/6079.

Antonio Valerio Miceli-Barone and Fazl Barez and Ioannis Konstas and Shay B. Cohen (2023): The Larger They Are, the Harder They Fail: Language Models do not Recognize Identifier Swaps in Python. arXiv . 1-17. https://doi.org/10.48550/arXiv.2305.15507

Ilia Shumailov and Zakhar Shumaylov and Yiren Zhao and Yarin Gal and Nicolas Papernot and Ross Anderson (2023): The Curse of Recursion: Training on Generated Data Makes Models Forget. arXiv . 1-17. https://doi.org/10.48550/arXiv.2305.17493

Wolfangel, Eva (2023): Ausgebeutet, um die KI zu zähmen. ZEIT Online, 2023:01/20. https://www.zeit.de/digital/2023-01/chatgpt-ki-training-arbeitsbedingungen-kenia

 



Diesen Blogbeitrag zitieren
Johann-Mattis List (2023, 19. Juni). Wer hat Angst vorm Chatprogramm? Von Wörtern und Bäumen. Abgerufen am 28. Februar 2024, von https://doi.org/10.58079/vbrm

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.