Schlagwort-Archive: künstliche Intelligenz

Dialog between ScareGPT and Some User.

Wer hat Angst vorm Chatprogramm?

Schreibe eine Antwort

Die Chatbots haben in erstaunlicher Geschwindigkeit ihren Einzug in unser Leben gehalten. Kaum eine Veranstaltung, auf der geredet wird, kommt noch ohne eine Rede, ein Einladungsschreiben, oder ein Gedicht aus, das nicht von einem Chatbot geschrieben wurde. In den sozialen Medien überbieten sich Menschen mit Berichten, die entweder die schier unglaublichen Fähigkeiten der großen Sprachmodelle preisen, oder sich spöttisch über sie äußern, weil eine ganz spezifische Frage gefunden wurde, auf die die Sprachmodelle noch keine überzeugende Antwort gefunden haben. Während Größen der Linguistik wie Emily Bender (Bender et al. 2021) und Noam Chomsky (Chomsky et al. 2023) den Chatbots den Kampf angesagt haben, beschwören die Technikfreaks des Silicon Valley den Weltuntergang hervor, wenn es uns nicht gelänge die Technik gut genug zu kontrollieren.

Das ganze Treiben rund um die Chatbots mutet grotesk an, vor allem, wenn man sich vor Augen führt, dass es mit Klima und Krieg noch viel direktere Bedrohungen menschlicher Zivilisationen gibt. Es bestimmt dennoch unausweichlich unseren Alltag, und da Sprache ja mein Beruf ist, kann ich mich selbst der Thematik kaum entziehen, da es sich doch hierbei um Modelle handelt, die Sprache in einem Maße imitieren und generieren können, das wir vor einigen Jahren noch nicht für möglich gehalten hätten. So habe ich dann auch mitgeholfen, eine Ringvorlesung zum Chatbots an der Universität Passau zu organisieren, ich war erfreut, als ein Doktorand aktiven Gebrauch von ChatGPT gemacht hat, um Programmierprobleme eigenhändig zu lösen (Mantelli und Pulini 2023) und ich musste auch zu dem Thema Stellung nehmen, als es in der Sendung Planet Wissen um das Sprachwunder Mensch ging.

Während ich Bender und Kollegen folge und das Weltuntergangsdenken in Bezug auf Sprachmodelle für reißerischen Hype der Technikkonzerne halte, die ihre Produkte verkaufen wollen, kann ich kleinere Bedenken in Bezug auf Chatprogramme schon verstehen. An den Universitäten spielt das Thema Prüfungen natürlich eine große Rolle. Hier haben einige Kolleginnen und Kollegen Angst, dass die Studierenden in Zukunft kaum mehr Hausarbeiten eigenständig schreiben werden, weil Chatbots ja billige Unterstützung in mehreren Sprachen bieten. Beruflich bedroht die Fähigkeit von Chatbots, kleinere Programme in einer Vielzahl von Programmiersprachen schreiben zu können, sicher eine größere Anzahl an aktiven Programmierern, deren Jobs — wenn die Qualität der Programme das hält, was sie verspricht — bald Stück für Stück wegrationalisiert werden könnten. Aus ethischer Perspektive schließlich stellt sich die Frage, inwiefern Chatbots das ohnehin vor Falschinformationen berstende Internet weiter mit Hass füllen und so zur weiteren Spaltung der Gesellschaften beitragen werden.

Ich sehe die Situation an den Universitäten im Gegensatz zu mancher Kollegin und manchem Kollegen nicht als speziell problematisch an. Während wir vor über zehn Jahren, als ich anfing, an Universitäten zu unterrichten, noch darüber diskutierten, wie man mit Wikipedia als Quelle umgehen sollte, so werden wir jetzt eine Weile darüber diskutieren müssen, wie wir mit generierten Texten verfahren. Wenn man Wissenschaft streng betrachtet, dann sollte die sprachliche Qualität von Forschungsergebnissen eigentlich kaum eine Rolle spielen, wie die Forschungsergebnisse selbst beurteilt werden. Wenn die Forschungsergebnisse aber selbst im Vordergrund stehen sollten, könnte der Einsatz von Chatbots vielleicht dazu führen, dass nun Menschen mit ihrer Forschung beachtet werden, denen es vorher an den Fähigkeiten mangelte, sich adäquat auszudrücken. Da Wissenschaft vorwiegend auf Englisch betrieben wird, und gute sprachliche Qualität praktisch sehr wohl einen Einfluss darauf hat, wie Forschung wahrgenommen wird, könnten frei verfügbare Chatbots vielleicht tatsächlich dazu beitragen, das Gefälle zwischen den Vertretern der Wissenschaft, die sich ein englisches Lektorat bisher nicht leisten konnten, und denen, die es entweder nicht brauchten (weil sie aus englischsprachigen Ländern kommen), oder es finanziert bekommen, abzuflachen. Da es leider nicht so billig ist, gute Chatbots und Sprachmodelle zu unterhalten, wird dieser Effekt aber wahrscheinlich sehr gering ausfallen und eher dazu führen, dass in Zukunft in Ländern wie Deutschland am Lektorat gespart wird, während ärmere Länder auf schlechtere Sprachmodelle zurückgreifen müssen und weiterhin benachteiligt bleiben werden.

Auf jeden Fall erwarte ich nicht, dass sich die sprachlichen Fähigkeiten von Studierenden in Zukunft drastisch verringern werden, ich erwarte eher, dass wir — wenn die Technologie sich noch ein bisschen weiterentwickelt und weiter verbessert — bald schlicht und einfach keine Texte in der Wissenschaft mehr ohne Sprachmodelle schreiben werden. Genauso, wie wir routinemäßig zum Taschenrechner greifen, wenn wir etwas ausrechnen müssen, werden wir uns an Sprachmodelle wenden, wenn es um das Formulieren von Texten geht, und diese in Kollaboration mit den Modellen verfassen (in Kollaboration, indem wir Texte nachkorrigieren, nicht, indem wir uns blind auf die Modelle verlassen). Natürlich wird dies auch dazu führen, dass wir Prüfungsleistungen an Universitäten und in der Schule kaum noch hinsichtlich ihrer sprachlichen Qualität allein bewerten können und sollten, aber streng genommen sollte das bei wissenschaftlichen Arbeiten schon jetzt der Fall sein. Zwar ist es wichtig, sauber und klar zu formulieren, schön zu schreiben war aber noch nie ein Kriterium für gute wissenschaftliche Arbeit, oder sollte es eigentlich nicht sein (auch wenn die Praxis zeigt, dass wissenschaftliche Arbeit nicht frei von rhetorischer Manipulation ist, vgl. Corneille et al. 2023.)

Aus Perspektive derer, die regelmäßig Programmieren und eigenen Code schreiben, oder derer, die lernen wollen, wie man programmiert, könnten Sprachmodelle das Programmieren von Morgen revolutionieren, indem sie all die kleinteiligen Aufgaben erledigen, die man selbst am Programmieren hasst. Auch für Menschen, die noch nicht die Chance hatten, programmieren zu lernen, lassen sich durch den Dialog mit Chatbots sowohl kleinere Programme schreiben als auch konkrete Fragen zum Programmieren beantworten, für deren Beantwortung Menschen mit Programmiererfahrung nicht immer Zeit haben (Mantelli und Pulini 2023). Man sollte allerdings sehr vorsichtig sein, das klassische Programmieren, welches ohne Hilfsmittel von Chatbots und KI-getriebener Software auskommt, zu früh aufzugeben. Da Sprachmodelle das Programmieren von Menschen lernen, die ihren Code veröffentlichen, und die meisten Menschen eher schlecht als recht Probleme mit Code lösen, entsprechen deren Fähigkeiten kaum denen einer überlegenen Intelligenz, sondern eher dem eines durchschnittlichen Menschen, der eben auch mal schlampig und ungenau programmiert und vielleicht auch zu faul ist, eine richtige, nachhaltige Lösung für ein Problem zu finden.

Darüber hinaus scheinen die Modelle nach wie vor sehr weit davon entfernt zu sein, Code wirklich zu durchdringen, was sich daran zeigt, dass sie Lösungen nach Häufigkeit auswählen und nicht den Programmiercode selbst wirklich zu durchdringen scheinen (Miceli-Barone et al. 2023). Dies bedeutet für mich, dass Sprachmodelle Menschen beim Einstieg in das Programmieren durchaus helfen können. Komplexe Aufgaben und Durchdringen von längeren Code-Blöcken können sie aber noch nicht leisten. Ohne Programmierer, die den Code wirklich verstehen, werden Projekte also auch in Zukunft erst mal nicht auskommen. Wer Programmieren lernen will, tut nach wie vor gut daran, sich die Mühe zu machen, sich die Grundlagen verschiedener Programmiersprachen anzueignen.

Was die ethischen Bedenken, die in Bezug auf das Training von Sprachmodellen geäußert wurden, welches Scharen von schlechtbezahlten Menschen zwingt, sich mitunter psychisch sehr belastende Inhalte aus dem Internet anzuschauen, damit Sprachmodelle sie nicht wiederholen (vgl. Wolfangel 2023), so teile ich diese vollständig. Es scheint eben einfach keine absolut saubere Technik zu geben, auch — aber vielleicht auch vor allem — nicht im Bereich der künstlichen Intelligenz. Ein weiteres Problem ist die Anwendung von Sprachmodellen, um das Internet, welches in Teilen einer riesigen stinkenden Restmülltonne gleicht, weiter mit extremen Inhalten zu füllen, die die Gesellschaft weiter spalten und Menschen mit Verschwörungstheorien und Falschinformationen weiter verunsichern. Weil es zusehends schwerer wird, maschinengenerierten Inhalt von menschengeneriertem Inhalt zu unterscheiden, wird sich dagegen so schnell nicht viel tun lassen. Interessanterweise werden zukünftige Sprachmodelle jedoch wahrscheinlich selbst unter maschinengenerierten Inhalten leiden, da sie ja vor allem am Web trainiert werden. Wenn dieses nun voll ist von generierten Inhalten, dann würde sich ein bizarrer Kreislauf entwickeln, in dem sich Sprachmodelle immer mehr ihrer selbst durch Inhalte, die sie selbst generiert haben, versichern, was schließlich zu deren Degeneration (sogenannter Modellkollaps, vgl. Shumailov et al. 2023) führen kann.

Es ist schwer zu sagen, worauf das alles hinauslaufen wird, und da ohnehin schon so viel zu der Zukunft mit Sprachmodellen geschrieben und diskutiert wird, ist es wahrscheinlich am besten, sich ein bisschen zurückzulehnen und die Diskussion erst mal nur zu beobachten, anstatt in sie aktiv einzugreifen. Viele Ängste, die Menschen im Internet und Menschen, denen ich begegnet bin, bisher geäußert haben, teile ich jedoch viel weniger. Klar werden die Sprachmodelle bestimmte Aspekte unseres Lebens verändern, aber Wikipedia hat unser Leben auch auf unglaubliche Weise verändert, und das Smarthone ebenfalls, weshalb es sicher übertrieben ist, jetzt davor zu warnen, dass die Technik zu mächtig wird. Solange Sprachmodelle Millionen von Sätzen und Milliarden von Wörtern brauchen, um halbwegs kohärente Sätze zu erzeugen, ist die Sprachfähigkeit des Menschen, der aus einem viel kleineren Korpus nahezu perfekt zu sprechen lernt, ihnen immer noch meilenweit überlegen. Auch für die Wissenschaft bedeutet das, dass wir nach wie vor gute Gründe haben, die Sprachfähigkeit von Menschen und individuelle Sprachen im Detail und mit großem Enthusiasmus zu erforschen.

Literatur

Emily M. Bender and Timnit Gebru and Angelina McMillan-Major and Shmargaret Shmitchell (2021): On the Dangers of Stochastic Parrots. In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency.

Noam Chomsky and Ian Roberts and Jeffrey Watumull (2023): Noam Chomsky: The False Promise of ChatGPT. New York Times 2023.03/08. https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html

Alessandro Mantelli and Michele Pulini, “Leveraging JavaScript, jQuery, and ChatGPT for Data Extraction from Web Tables,” in Computer-Assisted Language Comparison in Practice, 17/05/2023, https://calc.hypotheses.org/6079.

Antonio Valerio Miceli-Barone and Fazl Barez and Ioannis Konstas and Shay B. Cohen (2023): The Larger They Are, the Harder They Fail: Language Models do not Recognize Identifier Swaps in Python. arXiv . 1-17. https://doi.org/10.48550/arXiv.2305.15507

Ilia Shumailov and Zakhar Shumaylov and Yiren Zhao and Yarin Gal and Nicolas Papernot and Ross Anderson (2023): The Curse of Recursion: Training on Generated Data Makes Models Forget. arXiv . 1-17. https://doi.org/10.48550/arXiv.2305.17493

Wolfangel, Eva (2023): Ausgebeutet, um die KI zu zähmen. ZEIT Online, 2023:01/20. https://www.zeit.de/digital/2023-01/chatgpt-ki-training-arbeitsbedingungen-kenia

 

Worüber man schweigen sollte…

Schreibe eine Antwort

Mit großer Macht kommt große Verantwortung. Das gilt nicht nur für Spidermenschen oder Personen, die Rootrechte für ihre Computer besitzen, sondern auch für diejenigen, die Wissenschaft betreiben. Was dabei immer ganz besonders wichtig ist, ist es, zu beachten, dass man nicht alles zwangsläufig tun muss, was man tun kann, und dass man auch — was manchmal noch wichtiger ist — nicht über alles berichten muss, was man getan hat.

Es gibt eben immer wieder Situationen, in denen man sich in diesen Grenzbereichen verfängt, — und die tauchen vielleicht am Ende sogar in jeder Wissenschaftsdisziplin auf — an denen man am Ende einer Frage nachforscht, über deren Erforschung man nicht unbedingt öffentlich sprechen muss, weil die Fragestellung zu verrückt, zu dumm, aber vielleicht auch zu verletzend sein kann, als dass man wirklich möchte, dass andere erfahren, dass man sie bearbeitet hat.

Ich denke da weniger an den Biologiestudenten, der eigene Zellkulturen in seiner Kaffeetasse züchtet oder fasziniert sein verschimmeltes Marmeladenbrot unterm Mikroskop betrachtet. Dieser wird auf dem nächsten Maskenball sicher einige Lacher für seine Story ernten. Ich denke auch nicht an die Linguistikstudentin, die sprachliche Ausdrücke für Tätigkeiten an stillen Orten sammelt und dann versucht, herauszufinden, ob es eine lautmalerische Tendenz zur Bezeichung dieser Tätigkeiten in den Sprachen der Welt gibt. Diese findet sicher leicht eine Fangemeinde in einem Redditforum und wird sich dann vor Angeboten aus der Conlang-Community (Menschen, die Sprachen selbst erfinden oder erfundene Sprachen lernen und erforschen) ihre Daten aufzufrischen und zu erweitern kaum retten können.

Ich denke eher an Fälle, in denen Forscher gedacht haben, dass es vielleicht eine gute Idee sei, mal zu schauen, inwiefern Sprachen, in denen aspirierte Konsonanten auftauchen (also Sprachen wie das Deutsche, in denen das t spuckt) vielleicht zu einem höhreren Ausstoß von Aerosolen in der Sprachgemeinschaft führen, die dann wiederum begründen, warum sich Covid-19 dort schneller verbreitet (Georgiou und Kilani 2020). Klar kann man darüber nachdenken, und klar kann man sich hinsetzen und mal schauen, ob es eine Korrelation ergibt. Aber abgesehen davon, dass man diesen Gedanken in geselliger Runde mit anderen Menschen austauschen kann, tut man den Gesellschaften in der Welt keinen Gefallen damit, wenn man diese Idee öffentlich publiziert. Denn zum einen sind unsere Erkenntnisse zu unterschiedlichen Aerosolausstößen in unterschiedlichen Sprachen gleich null, weshalb es gar nicht möglich ist, von der Aspiration auf eine Tendenz zum erhöhten Spucken beim Sprechen zu schließen, und zum anderen fehlen uns die Daten, diese Theorie zu untersuchen, sowohl in der Linguistik, als auch in Bezug auf die Entwicklung der Pandemie, die ja noch nicht vorüber ist.

Ich denke auch an Fälle, wo versucht wurde, nachzuweisen, dass es einen Zusammenhang zwischen der Tendenz, Personalpronomen am Verb auszudrücken, oder sie explizit auszusprechen und der ökonomischen Situation von Gesellschaften gibt (Feldmann 2019). Klar kann man sich fragen, inwiefern sich Sprachen dahingehend unterscheiden, ob sie es erlauben, das Personalpronomen wegzulassen, wie wir es im Russischen vorfinden, wo man понимаю ponimaju “verstehe” sagen kann, oder ob sie in fast allen Situationen fordern, dass man das Personalpronomen explizit verwendet, wie im Englischen, wo wir I understand sagen müssten, während understand einfach so, also ohne das I, komisch klingen würde. Allerdings ist diese Frage bereits linguistisch problematisch, da wir sehr gut wissen, dass es hier viele Grenzfälle gibt, wie zum Beispiel im Deutschen, wo wir uns häufig, abhängig vom Kontext, die Pronomen ersparen (ja, verstehe das gut…). Wenn wir es aber schon nicht schaffen, alle Sprachen unter zwei eindeutige Hüte zu bringen, dann sollte man nicht auf Teufel komm raus versuchen, diese doch sehr banale Einteilung von Sprachen in verschiedene Gruppen mit irgendwelchen ökonomischen Faktoren der Gesellschaften zu korrelieren, die die Sprachen sprechen.

Natürlich kann man alles miteinander korrelieren und sich wundern, was es für komische Zusammenhänge gibt. Aber man sollte dann auch so redlich sein in der Forschung, dass man sich gründlich über die Probleme und Gefahren informiert, die durch wilde Korrelationssuche (das sogenannte pi-hacking) entstehen können (Head et al. 2015). Außerdem finde ich, dass man sich insbesondere bei Forschungsthemen, von denen klar ist, dass sie leicht für politische Zwecke missbraucht werden können, auch ruhig mal ein bisschen zurückhalten darf.

Besonders gefährdet, Experimente durchzuführen, die man besser verschweigen sollte, ist neben den typischen Korrelationsversuchen die Forschung zur artifiziellen Intelligenz und zum maschinellen Lernen. Während man bei den Korrelationsversuchen wild irgendwelche Variablen miteinander vergleicht, versucht man beim maschinellen Lernen zu zeigen, dass man mit genügend Daten zum Trainieren bestimmte Voraussagen über bisher unbekannte Daten machen kann. Die Anwendung dieser Methoden ist dabei verhältnismäßig simpel und erfordert wenig fachliches Wissen über das, was in den eigentlichen Forschungsdisziplinen, die sich mit den ursprünglichen Probleme beschäftigen, am Ende diskutiert wird. Alles, was man braucht, ist ein Trainingsdatensatz, in dem Daten in Bezug auf eine Variable annotiert wurden — wie beispielsweise Bilder von Katzen und Hunden, die entsprechend gekennzeichnet wurden — und einen Testdatensatz, an dem man dann testen kann, wie gut die Methode voraussagt, ob zum Beispiel ein Bild eine Katze oder einen Hund aufweist.

Generell gibt es gegen diese Methoden nichts einzuwenden. Auch, wenn sie nicht immer so gut funktionieren, wie man sich das wünscht (wie wir in einem Experiment zur Erkennung von Lehnwörtern feststellen konnten, Miller et al. 2020), können sie mitunter sehr hilfreiche Ergebnisse liefern und uns helfen, wichtige Daten automatisch vorzuannotieren (zum Beispiel in der Optical Character Recognition, die uns hilft, Daten zu digitalisieren und uns damit sehr viel Arbeit erspart). Problematisch wird es aber, wenn Menschen wieder anfangen, blind alles zu testen, was ihnen so durch den Kopf geht, und diese virtuellen selbstgezüchteten Kaffeeschimmelkulturen dann auch noch mit einer breiten Öffentlichkeit im Rahmen von Publikationen teilen.

Das beste Beispiel, welches ich in diesem Zusammenhang bisher finden konnte, ist eine Studie, in der Forscher versuchten, Modelle zu entwickeln, die von dem Aussehen einer Person auf deren Vornamen schließen können (Chen et al. 2014). Als ich zum ersten Mal von dieser Idee hörte, musste ich an eine deutsche Komödie (oder Serie, ich kann mich nicht mehr erinnern) aus den Neunzigern denken, in der eine der Hauptfiguren ständig versuchte, vom Aussehen eines Menschen auf seinen Namen zu schließen (“du siehst aus wie ein Herbert”). Aber so absurd es auch klingen mag, war es genau das, was in dieser Studie am Ende wirklich untersucht wurde. Ein Datensatz wurde erstellt, in dem man Bilder mit den tatsächlichen Vornamen von Menschen verlinkte und dann daraufhin ein Modell “trainierte”, welches in der Lage sein sollte, einem neuen Bild sofort einen Personennamen zuzuordnen. Das Ganze, so betonten es die Autoren, funktionierte dann angeblich überraschend gut, auf jeden Fall besser, als wenn man einfach nur gewürfelt hätte.

Das Problem an dieser Studie ist nicht ihre Absurdität, sondern die Naivität, mit der Methoden des maschinellen Lernens hier angewendet wurden, um ein Problem zu lösen, das eigentlich keines ist, weshalb ich es mir auch lieber erspare, zu sehr ins Detail zu gehen, warum diese Studie bei mir nicht nur lachen, sondern auch ein mulmiges Gefühl ausgelöst hat.

Aber wer weiß? Vielleicht hat die Studie ja bald eine konkrete Anwendung, die die Welt zu einem sichereren Ort macht? Ich kann mir vorstellen, dass Geheimdienste oder Polizeibehörden die Methode anwenden könnten, um Menschen ausfindig zu machen, die unter falschem Vornamen unterwegs sind. Das wäre sicher auch toller Stoff für neue Fernsehserien, wenn der Geheimdienstler sag: “Sie sagen, dass sie Lars heißen, stimmt das? Geben Sie endlich zu, dass sie ein Peter sind!” Es würde auch vielen Actionfilmen in der Zukunft eine drastische neue Wendung geben können. Man stelle sich nur vor, was passiert, wenn Blofelds künstliche Intelligenz herausfindet, dass Peter Franks, David Somerset, Charles Morton und Richard Sterling mit falschen Vornamen herumlaufen, da es sich bei allen diesen Personen ja in Wirklichkeit um James — James Bond — handelt!

Literatur

Chen, Huizhong and Galagher, Andrew C. and Girod, Bernd (2014): The hidden sides of names. Face modeling with first name attributes. IEEE Transactions on Pattern Analysis and Machine Intelligence 36.9. 1860-1873.

Georgios P. Georgiou, Ahmad Kilani (2020). The use of aspirated consonants during speech may increase the transmission of COVID-19, Medical Hypotheses. 144. 2020.

Horst Feldmann (2019): Do linguistic structures affect human capital? The case of pronoun drop. Kyklos 72.1. 29-54.

Megan L. Head and Luke Holman and Rob Lanfear and Andrew T. Kahn and Michael D. Jennions (2015): The Extent and Consequences of P-Hacking in Science. PLOS Biology 13.3. e1002106.

Miller, John E. and Tresoldi, Tiago and Zariquiey, Roberto and Beltrán Castañón, César A. and Morozova, Natalia and List, Johann-Mattis (2020): Using lexical language models to detect borrowings in monolingual wordlists. PLOS One 15.12. e0242709.