Vor wenigen Tagen kursierte eine Internet-Kuriosität umher: Der allseits bekannte und inzwischen auch tagtäglich beliebte Chatbot ChatGPT der Firma OpenAI soll nach mehreren übereinstimmenden Berichten nicht dazu in der Lage gewesen sein, den Namen „David Mayer“ zu schreiben. Daraufhin entstanden diverse Erklärungsversuche, wobei von Verschwörungstheorien bis hin zu juristischen Vermutungen alles dabei war. Mittlerweile ist der KI-Chatbot problemlos in der Lage, den Namen zu schreiben. Geklärt hat sich das Mysterium aber nicht – und es zeigt eine extrem spannende Schnittstelle zwischen Jura, der Zukunft und ChatGPT auf. Denn wir alle können ChatGPT zum Vergessen und Schweigen zwingen. Und sollten wir es vielleicht auch?
1. Der Hintergrund
ChatGPT ist ein KI-gestützter Sprachroboter der Firma OpenAI und erfreut sich seit seiner Veröffentlichung vor wenigen Jahren bereits enormer Bekannt- und Beliebtheit. Der Chatbot kann Fragen in natürlicher Sprache beantworten und Antworten generieren, also neuen Text erschaffen, der oftmals nur schwer von einem menschlichen Werk zu unterscheiden ist.
Immer wieder tauchen jedoch einzelne Berichte auf, in denen ChatGPT unterstellt wird, sehr banal wirkende Aufgaben nicht erfüllen zu können. Sei es die Additionsaufgabe „1+1“ oder nun eben das Schreiben des Namens „David Mayer“. Der sonst für sekundenschnelle Präzision und täuschend echt wirkende qualitative Antworten bekannte Chatbot stößt hier angeblich an seine Grenzen.
Diesmal berichteten Nutzer auf Reddit, dass der Chatbot entweder eine Antwort verweigerte, anders antwortete oder sogar auf einen Verstoß gegen die Community-Richtlinien hinwies.
2. Erklärungsversuche
Zunächst könnte man vermuten, dass der Chatbot fast schon Angst vor dem Aussprechen dieses Namens hat. So nennt es Heise etwa den Voldemort des ChatGPT, dessen Name niemals ausgesprochen werden darf.
- (nicht haltbare!) Verschwörungstheorien: Ohne diesem Thema Aufmerksamkeit geben zu wollen ist zunächst die Vermutung einiger zu erwähnen, dass der Aussetzer von ChatGPT damit zu tun hat, dass ein realer David Mayer mit Rothschilds in Verbindung gebracht wird. Leider arteten diese Erklärungen sehr schnell in unwissenschaftliche oder gar antisemitische Richtungen aus. Dass Chatbots aufgrund von Trainingsdaten diskriminierende Tendenzen annehmen können ist übrigens ein tatsächliches Problem, was wir in diesem Blogbeitrag genauer beleuchten.
- True Crime: Vielleicht hat der Fall etwas mit True Crime zu tun und ChatGPT hört zu viele Podcasts darüber? Ein amerikanischer Verbrecher hatte nämlich vor vielen Jahren den Namen David Mayer angenommen, um sich so eine falsche Persönlichkeit zuzulegen und unterzutauchen. Für einen echten David Mayer aus Großbritannien hatte das negative Folgen bei der versuchten Einreise in die USA. Möchte ChatGPT vielleicht den Identitätsdiebstahl bzw. die negativen Folgen für den UK-Bürger nicht weiter verschärfen? Wohl eher kaum.
- Recht auf Vergessen: Die wahrscheinlichste Antwort wird wohl eine juristische sein. Ein italienischer Anwalt hat etwa nach eigenen Angaben seine Person aus den Daten bei OpenAI löschen lassen und sei nun ebenfalls wie ein etwaiger David Mayer nicht mehr auffindbar. Dies wäre eine höchst interessante Erklärung, die Datenschutz endlich mal spannend und greifbar macht.
3. Juristische Grundlagen DSCVO
Dass Datenschutz einmal einigermaßen spannend und zukunftsrelevant wird hätten wohl die meisten nicht gedacht. Doch Digitalität hat, wie allseits bekannt ist, sehr viel mit Daten zu tun. Sogenannte Datenkraken wie Google sammeln all unsere Daten und durch KI-Modelle versteht man auch so langsam, wofür eigentlich. Denn ein KI-Modell hängt stark von seinen Trainingsdaten ab. Diese müssen einerseits echt, also real sein, andererseits aber auch in enormen Massen verfügbar sein. Nur so kann die KI durch unsere Daten lernen, was es heißt, ein Mensch zu sein. Und so kann sie uns immer echter und natürlicher nachahmen, bis sie wie bei ChatGPT kaum von uns zu unterscheiden ist.
Wer jedoch nicht möchte, dass seine Daten für KI-Training verwendet wird, der kann sich (teilweise) hiergegen wehren. In Australien ist deswegen übrigens ein kompletter Streit mit Meta ausgebrochen, wobei das Unternehmen zwischenzeitlich damit drohte, man könne seine Dienste (etwa Whatsapp oder Facebook) dort nicht mehr nutzen. Und hier kommt Datenschutz ins Spiel.
4. Datenschutz in Deutschland und der EU
Und wer könnte mehr für Datenschutz bekannt sein als Deutschland bzw. die EU? Neben vielen langweiligen Details in der Theorie hat das Thema vor allem deshalb nie die freudige Begeisterung erfahren, die es verdient, weil es in der Praxis zu sehr vielen lästigen Einschränkungen führt. Während diese nervig und durch die Bürokratie vielleicht sogar wirtschaftshinderlich ist spricht für Datenschutz der enorme Wert von persönlichen Daten in unserer heutigen Zeit (man denke nur an KI-Training). Doch diese Diskussion braucht hier gar nicht geführt zu werden, denn die Rechtslage zum Thema ist in Deutschland ziemlich eindeutig. Spannend für ChatGPT und Co. ist diesbezüglich das berühmte Urteil „Recht auf Vergessen“ des BVerfG: „Bei der Entscheidung über einen Schutzanspruch kommt der Zeit unter den Kommunikationsbedingungen des Internets ein spezifisches Gewicht zu. Die Rechtsordnung muss davor schützen, dass sich eine Person frühere Positionen, Äußerungen und Handlungen unbegrenzt vor der Öffentlichkeit vorhalten lassen muss. Erst die Ermöglichung eines Zurücktretens vergangener Sachverhalte eröffnet den Einzelnen die Chance zum Neubeginn in Freiheit. Zur Zeitlichkeit der Freiheit gehört die Möglichkeit des Vergessens.“ so das oberste Gericht in 2019. Jedoch hängt vom Einzelfall ab, ob der Bürger deswegen jegliche Daten zu löschen verlangen kann. In Zukunft wird dies sicherlich sehr spannend werden!
