Ist KI intelligent? – Ein philosophisches Gedankenexperiment

Mitmach-Gedankenexperiment: Künstliche Intelligenz (KI) hat ihren Namen daher, dass eine Maschine sich intelligent verhält. Doch ist die KI wirklich intelligent? Oder geht es nur um die Nachahmung von menschlichem Denkverhalten? Ein Gedankenexperiment des Philosophen Searle sollte bereits im letzten Jahrhundert die Möglichkeit von wahrlich „intelligenten“ Maschinen widerlegen. Doch gelingt das tatsächlich im Hinblick auf heutige KI? Wo liegt etwa bei einem Chatbot der Unterschied zwischen Syntax und Semantik? Mach bei dem Gedankenspiel mit und finde heraus, wie du zu einem Verstand oder Bewusstsein von KI stehst. Sollte sie etwa Urheberrechte haben?

1. Das Gedankenexperiment

„Das chinesische Zimmer“ ist ein nicht ganz einfaches Gedankenexperiment von 1960. Es stammt vom Philosophen Searle und geht in etwa so:

Searle beschrieb einen umschlossenen Raum, in dem sich ein Mensch befindet. Durch einen Schlitz in der Tür werden ihm Zettel mit Geschichten auf chinesisch zugestellt. Der Mensch selbst spricht kein Chinesisch und versteht daher weder die Bedeutung der einzelnen Schriftzeichen noch den Sinn der Geschichte. Anschließend erhält er einen Zettel mit Fragen zur Geschichte (auch in chinesischer Sprache). Der Mensch findet dann einen Stapel chinesischer Schriften und ein „Handbuch“ mit Regeln in seiner Muttersprache. Die Skripte enthalten Zusatz- und Hintergrundinformationen zu der Geschichte (eine Art Wissensdatenbank).

Das Handbuch erlaubt ihm, die Schriftzeichen mit der Geschichte in Beziehung zu setzen, aber nur auf der Ebene der Zeichenerkennung (über die Form der Zeichen). Er findet auch Anweisungen in dem Handbuch, welche Zeichen auf den Antwortzettel gesetzt werden sollen (abhängig von den Zeichen der Geschichte, den Skripten und den Fragen). Er folgt also rein mechanisch Anweisungen und schiebt das Ergebnis (die Antworten auf die Fragen) durch den Türschlitz zurück, ohne die Geschichte oder die Fragen verstanden zu haben. Ein chinesischer Muttersprachler wartet vor der Tür, um die Antwortzettel zu lesen. Aufgrund der Bedeutung der Antworten kam er zu dem Schluss, dass sich auch eine chinesisch sprechende Person im Raum befand, die die Geschichte verstand.

2. Deutungen pro intelligenter KI

Das Gedankenexperiment stieß auf geteilte Kritik. Befürworter der Möglichkeit von intelligentem Denken einer KI sahen den Raum, die bereitgestellten Materialien darin und die Person darin als Einheit. Als KI gilt für sie nicht ein „Gehirn“ wie wir es von unserem Körper oder einem Buch unterscheiden können. Vielmehr sei die Kombination aus Raum, Handbuch und Mensch zusammen erst das Äquivalent der KI. Und diese Kombination verstehe die chinesische Sprache genauso gut wie ein Muttersprachler auch. Dahinter steckt insbesondere eine andere Ansicht von menschlichem Denkverhalten. Dieses sei die bloße (bio-)mechanische Reaktion oder Antwort des Menschen auf äußere Reize. Folgt man diesem Verständnis zeigen sich große Parallelen zu den Reizen außerhalb und innerhalb des Zimmers und der Antwort, die aus dem Raum daraufhin gegeben wird.

3. Andere Deutungen

Dieses rein biomechanische Verständnis von Reiz und Reaktion hielten andere hingegen für zu kurz gegriffen. Das menschliche Denken sei schließlich neben den kognitiven Fähigkeiten auch mit einem eigenen Bewusstsein ausgestattet. Ob dies für Intelligenz nötig ist, bleibt strittig. Es eröffnet aber die ebenso spannende Frage nach einem Bewusstsein der KI.

Andere Kritiker warfen dem Gedankenexperiment vor, es würde zu wenige Parallelen zu einer KI aufweisen. Denn eine künstliche Intelligenz hätte als ein Computerprogramm nicht mehrere getrennte Komponenten wie der Mensch, das Zimmer und das Buch. Dem entgegnete Searle jedoch, dass auch wenn der Mensch die Schriftzeichen auswendig lernen würde und damit als einzig denkende Komponente übrig blieb – er würde immer noch nicht die Sprache bzw. Geschichte wirklich verstehen.

4. Technische Kritik

Darüber hinaus wurde bei seiner Veröffentlichung in der Mitte des 20. Jahrhunderts auch darüber diskutiert, ob denn überhaupt das notwendige „Regelhandbuch“ technisch möglich sei. Es müsste schließlich alle möglichen Fragen und Antworten enthalten und bräuchte damit einen so großen Speicherplatz, dass es niemals technisch möglich wäre. Diesem Kritikpunkt würde man heutzutage wahrscheinlich die wenigste Aufmerksamkeit schenken. In den vergangenen 70 Jahren haben sich Speichermöglichkeiten und Datenmengen so stark vervielfältigt, dass dies wohl das geringste Problem einer KI darstellt. Vielmehr ist spannend, dass zum Zeitpunkt des Experiments davon ausgegangen wurde, dass die KI auch nur so schlau sein könnte, wie sie der Mensch trainiert. Die Person im Raum kann nie mehr wissen, als im Handbuch steht. Auch dies ändert sich gerade zunehmend mithilfe von selbstlernender KI, die aber noch nicht weit genug erforscht ist.

5. Kein Verstehen

Schließlich lässt sich diskutieren, ob denn Intelligenz tatsächliches bewusstes Verständnis bedeutet, oder sinnvolles Antworten auf Reize. Besteht das menschliche Denken aus mehr als reinem Reagieren? Was ist mit intentionellem Agieren?

Eine kleine Modifikation des Experiments zeigt die eigentliche Tiefe: Wenn von Außen nicht chinesische Schriftzeichen hereingegeben werden, sondern ein Zahlencode mit 1 und 0, woraufhin der Mensch im Zimmer diesen Zahlencode mit dem Handbuch in eine Frage übersetzt und auch mit dem Handbuch dann die Antwort auf chinesisch gibt: Hat er dann die chinesische Sprache verstanden? Nein! Er beherrscht lediglich den Zahlencode und die Regeln aus dem Buch und kann so eine Antwort auf chinesisch produzieren.

Hierbei, sowie bei dem Gedankenexperiment von Searle geht es darum, dass die KI zwar Syntax befolgen kann durch bestimmte Regeln – die KI aber dadurch nicht zur Semantik befähigt wird. Es fehlt das Verständnis des Sinngehalts. So, wie etwa ChatGPT eine „sinnvolle“ Unterhaltung führen kann, rein aufgrund von Regelbefolgung. Der eigentliche Sinn hinter den Sätzen bleibt ihm aber (noch) verborgen.

6. Fazit

Das heißt allerdings nicht, dass es keine künstliche Intelligenz geben kann. Denn wie oben beschrieben hängt dies vom Verständnis von Intelligenz ab. Braucht es Bewusstsein? Braucht es Intentionalität? Ein eigenes Erleben? Oder ist es nicht nötig, dass der KI bewusst ist, dass sie eine intelligente Antwort gibt?

Gerade im Hinblick auf die rasanten technologischen Fortschritte ist ein generelles Ausschließen wohl ohnehin fahrlässig. Doch eine Debatte über Intelligenz und Verstand von Maschinen ist umso wichtiger. Schließlich hängt hiervon etwa die Haftung für KI oder etwa Urheberrechte ab. Ein solches Gedankenbeispiel kann also vor allem Denkanstöße hierzu liefern!