Der weltweit bekannte Chatbot von OpenAI bekommt beinahe wöchentlich Updates. Eine der neuen Errungenschaften ist die Verarbeitung von Input bis zu 40.000 Zeichen und auch entsprechend langer Output. Für Anwälte heißt das, dass nun auch längere Verträge über mehrere Seiten von der KI erfasst werden können. Doch Europol warnt: ChatGPT in seiner Version von November bereits stellt ein großes Risiko dar. Kriminelle können den Chatbot auf eine Vielzahl von Wegen dazu benutzen, menschliche Verbrechen in Roboter-Geschwindigkeit zu begehen.
1. Keine Einführung nötig
Dass ChatGPT ein KI-gestützter Chatbot ist, der auf Fragen in Alltagssprache ausformulierte Antworten in ganzen und zusamenhängenden Sätzen geben kann, ist so gut wie jedem bekannt. Durch Natural Language Processing schafft er es, die eingegebene Frage tatsächlich zu verstehen und individuell auf sie zu reagieren. Dagegen dann etwa eine noch so clevere Suchmaschine stets nur das ausspucken, was im Internet mal von jemandem gesagt wurde. ChatGPT hingegen ist es möglich, kreativ zu arbeiten und Neues zu erschaffen – mit Nachteilen, die später noch wichtig werden.
Kostenlosen Demotermin buchen
Lernen Sie die Funktionen und Einsatzmöglichkeiten der cloudbasierten Anwaltssoftware Legalvisio kennen! Jetzt registrieren und wir kontaktieren Sie, um einen Demotermin zu vereinbaren.
2. Halluzinieren soll verringert werden
Durch die Kreativität von ChatGPT ergeben sich aber auch Probleme. Der Chatbot schafft eben leider auch Neues und irrt sich dabei. Er erfindet „Fakten“, die er ohne ein Zeichen von Unsicherheit als wahr verkauft. Bei alltäglichen Dingen ist dies leicht zu erkennen, doch für Fachunkundige stellt es ein großes Problem dar, wenn ChatGPT beispielsweise ganze Gesetze dazuerfindet. Mit dem neuesten Modell soll dieses Halluzinieren des Chatbots nun eingeschränkt werden, während gleichzeitig seine Kreativität beim Schreiben erhalten bleiben muss. Hierzu müssen im Hintergrund seine Lernmaterialien erweitert und korrigiert werden und durch Stichproben sein erfinderisches Verhalten untersucht und verhindert werden.
3. Beschränkte Wissensdatenbank gelöst?
Weiterer Nachteil war, dass ChatGPT bisher nur auf sein Trainingswissen zurückgreifen konnte. Dieses bezog sich aber auf den Stand von 2021, sodass gerade in der Rechtsbranche teils veraltete oder reformierte Normen Grundlage der Antworten waren. Nun aber soll ChatGPT eine Art Internetzugang erhalten. Dadurch soll es ihm ermöglicht werden, auf die neuesten Informationen zugreifen zu können und stets aktuell zu bleiben. Dabei besteht die Schwierigkeit, dass ChatGPT nun zwar weniger ausgedachte Informationen selbst erzeugt, sich jedoch bei der Wissensquelle Internet unzählige absichtliche oder veraltete, oder unqualifizierte Falschinformationen einfangen kann.
4. Europols Warnung
Doch hiervor warnt Europol gar nicht. Die europäische Polizeibehörde warnt vielmehr vor dem kriminellen Potenzial, was in einem so fähigen Chatbot steckt. Die Anwendungsfelder sind fast unbegrenzt: Vom Verfassen von Phishing-Mails bis hin zur Programmierung von Schadsoftware! Das Brisante ist, dass Betrüger nun durch Unterstützung von ChatGPT eine Vielzahl von menschlich klingenden Mails in Sekunden verfassen können. Auf die klassischen Phishing-Mails fällt heutzutage schließlich kaum noch jemand herein – nun allerdings können die Betrüger Bezug nehmen auf Sprachstil, individuellen Inhalt und Anknüpfung an vorangegangene Wortwahl in Konversationen um immer echter zu klingen und das bei einer Massenproduktion.
5. Die Befähigung von Laien zu Kriminellen
Nun ist es schon immer so, dass seit der Erfindung des Internets auch rechtsuntreue Personen profitieren. Zum Bau einer Bombe lässt sich recht simpel eine Anleitung finden und auf geschickte Weise lassen sich womöglich auch die Zutaten online besorgen. Bei ChatGPT geht dies aber insofern weiter, als dass durch das Natural Language Processing auch sprachlich ungenau oder alltäglich formulierte Befehle zu jedem Grad der Professionalisierung hochgestuft werden können. Jemand ohne jegliche Ahnung von Programmierung kann sich von ChatGPT einen Code schreiben lassen für das Ziel, was er in einfachen Worten vorgibt. Cyberkriminalität war wohl noch nie so einfach!
