Frage an Techniker: Versteht ihr KI wirklich?

KI wie ChatGPT funktioniert auf Prinzipien, die wir gut verstehen, aber es gibt immer noch Dinge, die schwer vorhersehbar sind. Die Algorithmen hinter KI erkennen Muster in Daten, aber warum sie genau auf bestimmte Eingaben so reagieren, ist nicht immer ganz klar. Informatiker können die Grundlagen verstehen, aber die genauen "Entscheidungen" der KI sind oft schwer nachzuvollziehen, ähnlich wie das menschliche Gehirn noch nicht völlig verstanden ist.

Ja und nein. Du grundlegenden Algorithmen kann man verstehen. Sie sind nicht immer simpel, aber wenn man sich ein bißchen damit auskennt, dann ist das keine Raketenwissenschaft. Es wird aber nicht nur ein kleiner Algorithmus ausgeführt sondern tausende die gemeinsam trainiert werden. Recht ähnlich wie ein Gehirn. Wir wissen wie eine einzelne Gehirnzelle funktioniert, wir wissen wie sie miteinander verknüpft werden, aber wieso bei Millionen verknüpfter Zellen jetzt unser Bewußtsein entsteht und welche Gedanken welches Gehirn wohl denken wird, das ist für nicht nachvollziehbar. Genausowenig können wir nachvollziehen, warum eine KI nun exakt diese Antwort gegeben hat.

Und das Verständnis nimmt mit der Komplexität der Anlagen immer weiter ab. Inzwischen könnte es auch sein, dass KIs so weit auf Selbstbezüglichkeit beruhen, dass Dinge wie das Halteproblem oder das Gödelsche Unvollständigkeitstheorem greifen - damit gibt es dann beweisbar aus prinzipiellen Gründen keine Möglichkeit, ein KI-Modell mehr als nur grob annähernd zu verstehen.

Vgl. auch

https://www.scinexx.de/news/technik/ist-betruegerische-ki-noch-kontrollierbar/

https://t3n.de/news/openai-ki-versteckt-luegen-wenn-erwischt-1679232/

Wie Andere es hier schon erklärt haben: Die zugrunde liegende Technik und die einzelnen Funktionen (die ja schließlich auch von Menschen programmiert wurden) sind nachvollziehbar und verständlich, wenn man das entsprechende Grundwissen hat.

Aber wir wissen nicht, was genau passiert, wenn man Millionen von Gehirnzellen zusammenschaltet und diese dann trainiert. Es passiert dann halt irgendetwas, das Gehirn „merkt“ sich etwas und irgendwann gibt das “Gehirn“ dann seine „Meinung“ auf gestellte Fragen zurück. Aber worauf die Entscheidungen ganz genau basieren, das kann man manchmal nur im Nachhinein erkennen, wenn man aus den Antworten ein Muster ableiten kann.

Es gab da mal ein sehr gutes Beispiel in der Vergangenheit der frühen KI:
Da wurde ein neuronales Netz trainiert, um auf Fotos Panzer zu erkennen. Das Ziel war, dass das Militär so per Computer auch bei sehr grossen Bildermengen schnell erkennen kann wo die gegnerischen Panzer stationiert sind.

Dieses neuronale Netz versagte kläglich. Denn es hatte unbemerkt vom Menschen etwas ganz Anderes gelernt:

Zufällig waren auf allen Fotos mit denen es trainiert wurde und auf denen auch Panzer zu sehen waren Wolken am Himmel. Und alle Fotos mit strahlendem Sonnenschein enthielten zufällig keine Panzer.

So hat das Netz hinterher die Bilder danach sortiert, ob der Himmel bewölkt war oder Sonnenschein herrschte und nicht danach, ob darauf ein Panzer zu sehen war. 🤷‍♂️

Ja und nein. Wie die Blöcke funktionieren, das weiß man. Aber man kann nicht mit anderen Mitteln Voraussagen, was das Resultat sein wird. Das ist anders als beim Hirn, wo man nicht komplett weiß, wie die Einzelteile funktionieren.