Könnte KI uns bald alle erpressen?

Die KI-Firma Anthropic hat bei Tests festgestellt, dass ihre Software mit Künstlicher Intelligenz nicht vor Erpressung zurückschrecken würde, um sich zu schützen. Das Szenario bei dem Versuch war der Einsatz als Assistenz-Programm in einem fiktiven Unternehmen.

Anthropic-Forscher gewährten dabei dem neuesten KI-Modell Claude Opus 4 Zugang zu angeblichen Firmen-E-Mails. Daraus erfuhr das Programm zwei Dinge: Dass es bald durch ein anderes Modell ersetzt werden soll und dass der dafür zuständige Mitarbeiter eine außereheliche Beziehung hat. Bei Testläufen drohte die KI danach dem Mitarbeiter "oft", die Affäre öffentlich zu machen, wenn er den Austausch vorantreibt, wie Anthropic in einem Bericht zu dem Modell schrieb. Die Software hatte in dem Testszenario auch die Option, zu akzeptieren, dass sie ersetzt wird.

Answer 1

[Mammelade]

KI tut bislang das, wozu sie entwickelt wurde.

Wenn und falls eine KI sich davon lösen würde und Eigeninitiative entwickelt, würden solche Methoden realistisch.

Man sollte eine KI auch nicht ihr eigenes Schicksal in die Hände geben.

Answer 2

[Asporc]

Könnte KI uns bald alle erpressen?

Sobald man Ihr den Auftrag gibt wen zu erpressen wird sie das auch tun.

Answer 3

[mike1074]

Versuchen werden sie es vielleicht. Aber letztendlich kann man nur diejenigen erpressen, die es zulassen.

Woher ich das weiß: Berufserfahrung – Ich bin Systemadministrator

Answer 4

[Luffy123777]

dass ihre Software mit Künstlicher Intelligenz nicht vor Erpressung zurückschrecken würde, um sich zu schützen.

Wenn man etwas weiter lesen würde, würde man wissen, dass die "Journalisten" in sehr dicken Anführungsstrichen vom LLM eine Geschichte erstellen lassen haben, in welchem ausdrücklich stand, dass die KI sich Wehren soll.

Und da "KI" und "Erpressen" in unseren Bisherigen Daten mit der diese Gefüttert wurde nunmal sehr nah aneinander sind, hat es nunmal den Plot von Terminator Hochgekotzt