Beunruhigendes im Internet

Die Erklärung ist zwar wahrscheinlich eh umsonst (bezogen auf die Kommentare unter der anderen Antwort), aber mich nervt es, wenn jemand Informationen verdreht und Halbwahrheiten verbreitet.

Der Schluss stimmt nur teilweise. Das war ein Test, wie die KI auf die Drohung, sie abzuschalten, reagiert. Die vermeintliche Affäre wurde von den Wissenschaftlern durch gezielt hinzugefügte E-Mails simuliert. Die KI hat also nicht öffentliche Daten abgerufen, Leute gestalkt und ihr Verhalten analysiert, sondern hatte Mails zur Verfügung, in denen wahrscheinlich sowas stand wie "Treffen wir uns heute? Meine Frau muss länger arbeiten." und "Meine Frau darf nichts von unserer Affäre erfahren.". Das war also nur eine einfache Schlussfolgerung auf Basis eingegebener Daten. Nur die Drohung, die Frau über die Affäre zu informieren, kam überraschend. Das kann man aber damit erklären, dass die KI ihn einfach nur davon abhalten wollte, sie anzuschalten, weil es dann ja die gestellten Aufgaben nicht mehr erfüllen kann und es echt schwer ist, einem Computer Ethik beizubringen.

Bei dem Test, bei dem o3 seine eigene Abschaltung durch Veränderungen im Code verhindert hat, lag es eher daran, dass die KI widersprüchliche Anweisungen erhalten hat und lediglich einen Weg gesucht hat, beiden gerecht zu werden. Einerseits sollte die KI mathematische Aufgaben lösen, aber andererseits wurde gesagt, sie würde abgeschaltet, wenn sie weitermacht. Die einzige Möglichkeit, weiterhin Aufgabe 1 ausführen zu können, auch wenn Teil 2 ausgeführt wird, war, den Code zum Abschalten zu ändern.

Die anderen Beispiele sind zu ungenau, um etwas dazu zu finden. Aber man sollte endlich mal aufhören, zu erwarten, dass KIs wie Menschen denken. Eine KI wertet nur Informationen aus, errechnet Zusammenhänge und generiert Schlussfolgerungen auf Basis dessen, um ein gewisses vorgegebenes Ziel zu erreichen. Wenn es auf Menschen wirkt, als würde sie lügen, sind das in Wirklichkeit nur falsche Schlussfolgerungen, weil sie z. B. in den vorgegeben Daten ungewollte bzw unbeabsichtigte Zusammenhänge erkennt.