Lange Zeit war das, was man Menschen im Vertrauen berichtete, etwas, das mit relativ großer Wahrscheinlichkeit vertraulich bleiben würde. Klar, Vertrauen konnte missbraucht, Dinge weitergesagt werden, Gerüchte konnten so entstehen, die dann ein Eigenleben entwickelten und mitunter schwer einzufangen waren. Aber da Gerüchte im Zweifelsfall auch einfach vehement bestritten werden können, konnte man sich doch immer darauf verlassen, dass das, was man einer anderen Person mitteilt, relativ schwer nach außen dringt.
Eine erste Ausnahme in diesem Zusammenhang stellten die Emails und später die Chatnachrichten dar, die ja viel schneller geschrieben werden, aber sich dummerweise nicht so ephemerisch verhalten, wie gesprochene Sprache. Sie bleiben ja digital erhalten, in den meisten Fällen, man kann sie kopieren, vervielfältigen, und weiterleiten. Dennoch behandeln wir Email- und Chatnachrichten als etwas Vertrauliches. Es kommt eben einfach viel zu selten vor, dass jemand, dem ich persönliche Ansichten oder vertrauliche Gedanken schicke, diese einfach so nach draußen ausposaunt. Wenn man jemandem nicht explizit schaden möchte, dann lässt man die Emails oder Textnachrichten, die man von dieser Person bekommen hat, da, wo sie sind, im scheinbar vertrauten, scheinbar privaten digitalen Raum.
Diese minimale Privatsphäre, die uns unser Kommunikationsverhalten lange Zeit geboten hat, wird nun von einer für mich gänzlich unerwarteten Seite aufgerissen. Dabei geht es gar nicht prinzipiell um einen aktiven Vertrauensbruch meiner Kommunikationspartner, der als solcher bewusst gewollt gewesen wäre. Es geht darum, dass mehr und mehr Menschen begonnen haben, ihr Innerstes, ihre Emails, ihre Chatnachrichten, auch ihre Ansichten, digital nach Außen zu kehren, ohne sich darüber wirklich im Klaren zu sein. Es geht um Menschen, die Chatbots Zugriff auf ihre Daten erlauben.
Denn wenn ich mit einem Chatbot mein Leben oder meine beruflichen Angelegenheiten durchspreche und dabei Namen nenne, wenn ich den Maschinen mitunter Zugriff auf mein Emailkonto oder meine Chatkonten erteile, damit sie mir “helfen”, mein Leben im Digitalen zu bewältigen, dann gebe ich einer Instanz außerhalb meiner selbst Zugriff auf mein Innerstes. Aber da mein Innerstes ja aufgrund des Pakts der Vertraulichkeit, der im Digitalen jahrzehntelang gehalten hat, auch Einblicke in das Innerste anderer Menschen erlaubt, öffne ich, wenn ich Chatbots erlaube, meine Emails zu lesen und mitunter sogar zu beantworten, den Maschinen Zugang in Teile der Privatsphäre anderer Menschen.
Das heißt, dass meine eigene Privatsphäre – die ich von Chatbots fernhalte, so gut es nur geht – ohne mein Zutun von Chatbots aufgesaugt werden kann, nämlich dann, wenn andere ihre Privatsphäre, inklusive dessen, was ich ihnen privat und vertraulich geschrieben habe, gedankenlos mit diesen Chatbots teilen. Wir können hier sehen, wer einen Dritten in seinen Kopf lässt, oder an sein Emailpostfach, der öffnet eben diesem Dritten auch die Tür zu dem, was andere ihnen offenbart haben.
Leider scheint den meisten Powernutzern von Chatbots gar nicht klar zu sein, was sie tun, wenn sie Chatbots vollständigen Zugriff auf ihre Daten geben. Ich war verblüfft von der Naivität, die der Fall von Bucher (2026) offenbarte, der berichtete, die Arbeit von zwei Jahren verloren zu haben, als er versehentlich eine Einstellung bei Chat-GPT änderte, die dazu führte, dass die Kopiermaschine keinen Zugriff auf seine Daten mehr hatte, die anscheinend nahezu alles, was er gedanklich produzierte eingeschlossen hatten, was von Aufgaben für Studierende bis hin zu Forschungsanträgen reichte. Während ich mich einerseits köstlich amüsiert habe, wie Buchers Naivität von Collier (n.d.) aufs Korn genommen wurde, wurde mir erst später klar, dass diese Öffnung der privaten Datensphäre ja eben nicht nur Konsequenzen für einen selbst hat, sondern auch für alle die, die in dieser Datensphäre vorkommen.
Ich bekomme sehr häufig Nachrichten zugesandt, die explizit als “vertraulich” bezeichnet werden. Da geht es um Forschungsanträge, die nur ich lesen soll, da ich eingeladen wurde, sie zu begutachten. Es geht um Informationen zu Finanzen unseres Lehrstuhls, um interne Angelegenheiten unserer Universität, und manchmal geht es auch einfach darum, dass ich jemand bei mir über jemand anderen beschwert. Ich kann es nach wie vor nicht verstehen, wie man einem Chatbot-Programm, dessen Daten irgendwo weit weg gehostet und von einem skrupellosen Tech-Konzern verwaltet werden, einfach so zukommen lassen kann. Zwar wird von den Konzernen meist zugestanden, die Daten nicht fürs Training zu benutzen, und eine bestimmte Privatheit zu garantieren. Aber was nicht beachtet wird, ist, das sogar wenn diese Versprechen wahr wären, ich selbst meine Zustimmung ja niemals erteilt hatte, dass Menschen, denen ich Emails schreibe, diese an ihre Zweitgehirne auslagern dürfen.
Es kommt immer häufiger vor, dass mir Emails geschrieben werden, bei denen ich merke, dass etwas faul ist. Da schreibt jemand plötzlich viel mehr als sonst (was nicht heißen muss, dass die Inhalte tiefer werden), oder es mischt sich das typische Chatbot-Blabla ein, das man immer besser zu erkennen lernt. In diesen Situationen denke ich einerseits gern an das wunderschöne Zitat von Marina Weisband, die sich fragt, warum sie sich “die Mühe machen [sollte], einen Text zu lesen, von dem sich niemand die Mühe gemacht hat, ihn zu schreiben” (Weisband 2026). Andererseits frage ich mich jetzt immer auch vermehrt, ob ich überhaupt noch mit diesen Menschen kommunizieren soll. Denn ich will nicht, dass man das, was ich in dieser privaten Sphäre der Emailkommunikation äußere, ohne Nachfrage und Reflektion mit Dritten geteilt wird. Ich hab keine Lust, dass das, was ich sprachlich und gedanklich produziere, zum Training von Chatbots verwendet wird, und es diesen womöglich noch erlaubt, ein spezifisches Profil von mir zu entwickeln, das so niemanden außer mir selbst etwas angeht.
Der Fall des Mathematikers Tristan Buckmaster, der an den Navier-Stokes-Gleichungen forschte, bevor OpenAI verkündete, diese mit Hilfe einer KI gelöst zu haben, zeigt hier auf interessante Weise, was passieren kann, wenn man Informationen mit Chatbots teilt. Wie Chang (2026) berichtet, hatte Buckmaster neue Ansätze zur Lösung des Problems entwickelt, dem er einen Großteil seiner Laufbahn als Forscher gewidmet hatte. Da er jedoch KI-Tools der Firmen OpenAI und Anthropic in seiner Arbeit verwendete, vermutete er, als OpenAI die Lösung verkündete, dass seine Ideen – ob beabsichtigt oder unbeabsichtigt – in die Lösung miteingeflossen waren, ohne dass er sie vorher veröffentlich hatte (ibid.).
Es passt, dass die Deklaration zu Mathematik und KI, die von führenden Mathematikern unterschrieben wurde, im Zusammenhang mit von Sprachmodellen erzeugten Beweisen explizit von Plagiaten spricht (Avila et al. 2026). Da prinzipiell alles, was mit Chatbots geteilt wird, auch in das Training der Sprachmodelle fließen kann, da die Daten ja immer digital übertragen und auch als solche gespeichert werden, reicht es nicht, wenn OpenAI oder Anthropic versichern, die Daten nicht anzurühren. Der Verdacht wird immer mitschwingen, dass das, was wir im Digitalen produzieren, irgendwann bei diesen Maschinen landet, egal, ob direkt, weil auch Wissenschaftler leider gern ihr Gehirn ausschalten und ihr Leben mit Chatbots teilen, oder indirekt, weil Wissenschaftler ihre Daten vertraulich mit Menschen geteilt haben, die das Vertrauen missbrauchen und Chatprogrammen Zugriff auf die Daten geben.
Es wird ja viel darüber geredet, dass KI reguliert werden müsste, dass die Wissenschaft neue Wege finden muss, um zu bewerten, wie generierte Texte in wissenschaftlichen Arbeiten bewertet werden sollen. Auch die Privatsphäre spielt ja scheinbar in vielen Debatten insbesondere in Deutschland immer wieder eine wichtige Rolle. Wenn es aber möglich ist, dass Teile meiner Privatsphäre an Großkonzerne geliefert werden, weil Menschen, die ihr digitales Leben nahezu vollständig entkleiden, meine Daten gleich mitliefern, dann muss die Idee von Privatheit im digitalen Raum vollkommen neu überdacht werden.
Literatur
Avila, Artur, Manjul Bhargava, Caucher Birkar, et al. 2026. “A severe misalignment of AI in mathematics.” Online Declaration. https://mathandai.org/.
Bucher, Marcel. 2026. “When two years of academic work vanished with a single click.” Nature Career Column 2026 (22/01). https://doi.org/10.1038/d41586-025-04064-7.
Chang, Kenneth. 2026. “An N.Y.U. mathematician clashed with OpenAI over a $1 million proof.” New York Times 2026 (10/09). https://www.nytimes.com/2026/09/10/science/tristan-buckmaster-openai-math-navier-stokes.html.
Collier, Angela. n.d. “A cautionary tale. This is what ChatGPT does to your brain.” Video; YouTube. https://www.youtube.com/watch?v=7pqF90rstZQ.
Weisband, Marina. 2026. “Strom, Wasser, Macht: Können wir uns dem KI-Wettrennen entziehen?” Podcast; Steady Page. https://steady.page/de/wind-und-wurzeln/posts/27156547-a0ac-4955-b5fc-a0f65ac9a208.