Länder weltweit entwickeln schnell Ansätze für wirtschaftliche, politische und soziale Veränderungen, die von künstlicher Intelligenz (KI) vorangetrieben werden. Doch was an einem Ort ein gutes Bild macht, wirkt an einem anderen oft erschreckend. So zum Beispiel verfolgt China eine allgegenwärtige Technologie zur Gesichtserkennung, die bei Vielen für Unruhe sorgt. Die Menschen in den USA sind aber eher darauf konzentriert, andere Arten von Daten an Firmen zu übergeben, um die KI oder die maschinellen Lernalgorithmen zu füttern. Die Europäer hingegen sind noch vorsichtiger. Sie haben die Datenschutz-Grundverordnung und ein Recht auf Vergessenwerden angenommen, die Firmen die Pflicht geben, die Daten von EU-Bürgern zu schützen. Dies hat bereits bei Google zu Geldstrafen in Höhe von mehr als 50 Millionen US-Dollar geführt.
In puncto Analytik ist die EU vorsichtig eingestellt und hat im Bereich der KI-Forschung und -Entwicklung eine Reihe von Leitprinzipien für ethische Überlegungen wie Nichtdiskriminierung und Transparenz entwickelt. Auch Frankreich ist skeptisch gegenüber der KI und hat somit statistische Auswertungen von richterlichen Entscheidungen verboten.
Kostenlosen Demotermin buchen
Lernen Sie die Funktionen und Einsatzmöglichkeiten der cloudbasierten Anwaltssoftware Legalvisio kennen! Jetzt registrieren und wir kontaktieren Sie, um einen Demotermin zu vereinbaren.
1. Die Anwendung von KI zur Analyse des Richterverhaltens ist in Frankreich illegal
Im Juni 2019 hat Frankreich ein neues Gesetz eingeführt, welches den Einsatz von prädiktiver künstlicher Intelligenz (KI) für Rechtsstreitigkeiten verbietet. Das im Artikel 33 des Justizreformgesetzes angesiedelte Gesetz hat die Aufgabe, die Kommerzialisierung von gerichtlichen Entscheidungsdaten einzudämmen. Artikel 33 des neuen Gesetzes besagt: „Die Identitätsdaten von Richtern und Angehörigen der Justiz dürfen nicht mit dem Zweck oder der Wirkung weiterverwendet werden, ihre tatsächlichen oder angeblichen Berufspraktiken zu bewerten, zu analysieren, zu vergleichen oder vorherzusagen.“[1]. Zum Teil resultierte dieses gezielte Verbot der KI aus dem enormen Erfolg von juristischen Unternehmungen, die jetzt in der Justiz relativ einfach die Entscheidungstendenzen von Richtern vorhersagen können und offenbar die französischen Entscheidungsträger in die falsche Richtung treiben. Weiterhin werden die französischen Gerichtsentscheidungen vollständig veröffentlicht, ohne das Redigieren des Richternamens.
2. KI-Forscher und Start-ups werden die Rechtsbranche umgehen
Das neue Gesetz in Frankreich klassifiziert die Beteiligung an sogenannten Justizanalysen, bei denen maschinelles Lernen und Statistiken angewendet werden, um das Justizverhalten vorherzusagen oder zu verstehen, als illegal. Für diese Art von Analyse gibt es ein Beispiel aus den USA, bei dem Forscher Gerichtsdaten sammeln, um empirisch zu untersuchen, wie die Verhandlungsmacht der Angeklagten in Strafverfahren durch die Untersuchungshaft verringert wird. In Frankreich würde solch eine Arbeit die Forscher schnell auf die andere Seite des Gesetzes setzen und in bis zu 5 Jahren Gefängnis resultieren. In gewisser Weise ist diese Gesetzgebung eine Ausweitung der EU-Bedenken hinsichtlich des Datenschutzes, die erfordern, dass die Parteinamen eines Falls geschwärzt werden. Befürworter sind überzeugt, dass Analysen auch ohne Richterinformationen immer noch durchgeführt werden können. Dennoch erfordern ernsthafte Analysen und Vorhersagen des Richterverhaltens die Berücksichtigung individueller Unterschiede zwischen den einzelnen Richtern, denn diese können beträchtlich sein. Wahrscheinlich werden das Verbot und die Androhung einer harten strafrechtlichen Strafe auch eine breitere abschreckende Wirkung auf diesen Bereich ausüben[2]. Forscher und Start-ups werden sich nun anderen Bereichen zuwenden müssen, in denen sie sich keine Sorgen darüber machen müssen, wegen durchgeführten Analysen im Gefängnis zu landen.
3. Angst vor KI-Vorhersagen in der Rechtsbranche?
Seit einiger Zeit wird die strafrechtlich verbotene Methode in Frankreich unter dem Begriff „Predictive Analytics“ diskutiert. Vereinfacht gesagt, geht es hier um das Erkennen von Mustern. Durch statistische Auswertungen soll diese Methode wiederkehrende Muster in den Daten identifizieren können[3]. Auf diesen Mustern aufbauend, können bisher verdeckte Unregelmäßigkeiten oder andere Probleme identifiziert werden. In Zukunft kann das Muster dann auch dazu verwendet werden, um eine Wahrscheinlichkeitsvorhersage zu treffen. Dann beschreibt diese Wahrscheinlichkeit zwar eine Korrelation zwischen zwei oder mehreren Ergebnissen, nicht aber die Kausalität. Das heißt: Die Datenauswertung zeigt nur, ob bestimmte Zusammenhänge bestehen – und nicht warum. Dies ist somit keine juristische, sondern rein statistische Methode.
