Manchen erwarten es sehnsüchtig, bei anderen trifft die Befürchtung ein: Die EU hat ihre Regulierung zu KI vorgestellt. Die Abgeordneten stimmten der Verhandlungsposition zu, sodass nun die konkrete Ausgestaltung in Absprache mit den Mitgliedsstaaten erfolgt. „Schon“ bis Ende diesen Jahres soll eine Einigung erzielt sein. Diese verhältnismäßige Eile zeigt, wie dringend ein gemeinsamer Standpunkt zu dem Thema kommen soll. Gerade in den letzten Monaten hatte die KI-Entwicklung einen enormen Schub bekommen und bisher gab es die unterschiedlichsten Alleingänge der Mitgliedsstaaten im Umgang mit der Hype-Technologie. Nun soll EU-Kommissar Thierry Breton sich im Silicon Valley mit den Führungskräften der Tech- und KI-Branche getroffen haben.
1. Was war der bisherige Stand?
Bis zu diesem neuen KI-Gesetz hatte die EU keine einheitliche Gesetzeslage. Es gab diverse kleinere Maßnahmen und auch immer wieder Diskussionen bzw. Arbeiten in Ausschüssen. KI ist schließlich auch schon seit Jahrzehnten im Einsatz. Doch die jüngsten Entwicklungen von KI-gesteuerten Chatbots, in der Automobilbranche sowie die Unberechenbarkeit dieses sehr schnell wachsenden Markts habe nun ein einheitliches Gesetz „so richtig“ notwendig gemacht. Laut EU ist es das weltweit erste in dieser Art. Im Wege des Unionsrechtswegs hat es selbstverständlich bindende oder richtlinienvorgebende Wirkung für die deutsche Rechtslage.
Kostenlosen Demotermin buchen
Lernen Sie die Funktionen und Einsatzmöglichkeiten der cloudbasierten Anwaltssoftware Legalvisio kennen! Jetzt registrieren und wir kontaktieren Sie, um einen Demotermin zu vereinbaren.
2. Was soll geregelt werden?
Das Gesetz soll dazu führen, „dass die in der EU eingesetzten KI-Systeme sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. KI-Systeme sollten von Menschen und nicht von der Automatisierung überwacht werden, um schädliche Ergebnisse zu verhindern.“ (Kommentierung des Europäischen Parlaments)
Vielleicht noch spannender: Im selben Zug soll in dem Gesetz eine Definition für KI gegeben werden. Wer juristische Genauigkeit bei durchaus komplexen und langen Definitionen kennt, der weiß, dass diese hier entweder sehr abstrakt und generell bleiben muss, oder aber ein 5-zeiliges Ungetüm wird. Es gilt die technische, allgemeine, philosophische und juristische Sicht auf KI in einer Definition zu vereinen, die all die verschiedenen Formen von KI erfasst und gleichzeitig jetzt praktikabel und in Zukunft noch passend ist. Die EU sagt dabei selbst es soll sich zudem um eine technikneutrale Definition handeln, was es noch spannender macht.
3. Was ist der jetzige Vorschlag der EU und was wird kritisiert?
Die EU nennt es ein KI-Gesetz mit „risikobasiertem Ansatz“. So sollen sich die auferlegten Verpflichtungen für Unternehmen aber auch Nutzer nach dem Grad des mit der KI verbundenen Risikos richten. Selbst KI mit minimalstem Risiko solle dabei bewertet werden. Es gibt drei Gruppen von Risiko-Stufen: Unannehmbares Risiko, Hochrisiko und begrenztes Risiko. Je nach Gefahrenpotenzial werden dann bestimmte Maßnahmen getroffen bzw. Pflichten auferlegt – oder aber die Art von KI ganz verboten. Kritiker bemängeln letzteres als nicht zeitgemäß. Wenn die EU gewisse Arten von KI verbiete sei es nur eine Frage kürzester Zeit, bis genau diese hochgefährliche Technologie in anderen Ländern beherrscht wird und etwa in einer neuen Form der Kriegsführung eingesetzt werden könnte. Die EU würde den Anschluss verlieren, etwa besonders an Russland und China.
4. Die drei Risikogruppen:
Unannehmbares Risiko und daher verboten:
Als „Bedrohung für Menschen“ gelten demnach
- kognitive Verhaltensmanipulation von Personen oder bestimmten gefährdeten Gruppen, zum Beispiel sprachgesteuertes Spielzeug, das gefährliches Verhalten bei Kindern fördert;
- Soziales Scoring: Klassifizierung von Menschen auf der Grundlage von Verhalten, sozioökonomischem Status und persönlichen Merkmalen (wie etwa in China);
- biometrischen Echtzeit-Fernidentifizierungssystemen, zum Beispiel Gesichtserkennung auch nicht für die Strafverfolgung, Ausnahme siehe unten.
Hoch-Risiko-KI:
Sie zeichnen sich durch eine hohe Gefahr für die Gesundheit und Grundrechte der europäischen Bürger aus. Sie werden vor dem Inverkehrbringen untersucht und dauerhaft bewertet. Hierzu zählen u.a.
- biometrische Identifizierung und Kategorisierung von natürlichen Personen;
- Verwaltung und Betrieb von kritischen Infrastrukturen;
- allgemeine und berufliche Bildung;
- Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen;
- Strafverfolgung;
- Verwaltung von Migration, Asyl und Grenzkontrollen;
- Unterstützung bei der Auslegung und Anwendung von Gesetzen.
Generative KI:
Interessanterweise wird Generative KI explizit ChatGPT zugeordnet und noch über der Kategorie „begrenztes Risiko“ aufgeführt. Hier besteht die Pflicht zur
- Offenlegung, dass der Inhalt durch KI generiert wurde;
- Gestaltung des Modells, um zu verhindern, dass es illegale Inhalte erzeugt;
- Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden.
begrenztes Risiko:
„KI-Systeme mit begrenztem Risiko sollten minimale Transparenzanforderungen erfüllen, die es den Nutzern ermöglichen, fundierte Entscheidungen zu treffen. “ Hierunter fallen wohl jegliche sonstige KI, sozusagen als Auffang-Tatbestand.
5. Juristische Sichtweise
Aus dem Blickwinkel von Juristen ist dieses Gesetz ein Novum in diesem Feld und damit hochspannend. Es ergibt sich eine Regulierung einer Materie, die sehr schwer zu fassen war und es wahrscheinlich auch trotzdem erst einmal bleibt. Selbstverständlich gibt es jedoch Ausnahmen: Teilweise wurde während der Diskussionen im Vorfeld von konservativen Stimmen gefordert, man müsse unbedingt die biometrischen Echtzeit-Fernidentifizierungssystemen, zum Beispiel Gesichtserkennung, erlauben um so gegen Kriminalität vorzugehen. Nun wurden diese jedoch sogar verboten – … nun ja, bis eben auf die Ausnahme zur Bekämpfung schwerer Straftaten nach richterlichem Beschluss. Dies gibt auch Gerichten und Strafverfolgung eine völlig neue Möglichkeit, erinnert an China und ist gerade auch für Anwälte hoch spannend.
6. Tech-Konzerne stimmen zu?
Laut einigen Medienberichten, die sich auf Bloomberg berufen, soll EU-Kommissar Thierry Breton sich am Freitag den 23.06. mit Größen wie Marc Zuckerberg (Meta) sowie Sam Altman (OpenAI/ChatGPT) und Jensen Huang (Nvidia) getroffen haben. Von diesen solle er Zustimmung für das Gesetz erhalten haben. Dies verwundert ein wenig nach den in den letzten Wochen vorangegangenen Drohungen der Techbranche, sich aus Europa zurückzuziehen, wenn ihre Entwicklung reguliert werde. Entweder scheint man mit der Ausgestaltung zufrieden zu sein, oder die Drohungen waren eher der Erpressungs-Versuch, die Regulierung möglichst schwach ausfallen zu lassen. Oder aber wir sehen tatsächlich mal die EU als Vorreiter der Welt und den Konzernen ist klar, dass eine Regulierung ohnehin in jedem Staat kommen wird. Nur hat nun einmal die EU tatsächlich schnell, aktuell und zukunftsorientiert gehandelt.
