Kann KI wirklich gefährlich werden oder ist das nur eine Erfindung der SF - Autoren?

Zumindest ist dies möglich, wenn ein KI Macht erlangt. Macht in dem Sinne, dass sie in der realen Welt etwas verändern kann.

Mal ein Beispiel: Vor ein paar Wochen wurde von einer Simulation berichtet, in der eine KI ein Geschütz bediente. Die Aufgabe war, möglichst viele feindliche Geschütze zu zerstören. Nach einiger Zeit tötete die KI den eigenen Vorgesetzen, weil der ihm manche Schüsse verbot. Nachdem die KI so umprogrammiert wurde, dass sie eigene Soldaten nicht töten darf, begann sie, die eigenen Kommunikationsanlagen zu zerstören, damit sie die Befehle des Vorgesetzten nicht erreichen. Alles schlüssig im Rahmen ihrer Aufgabe.

Eine KI tut eben, wie schon das simpelste Computerprogramm, das, was man ihr sagt, nicht das was man meint. All die zusätzlichen Informationen und Regeln, die ein normal sozialisierter Mensch "mit der Muttermilch aufsaugt", müssen einer KI explizit mitgeteilt werden. Lückenlos und fehlerfrei.

Die geschilderte Simulation lief völlig abgeschlossen ab. Man kann spekulieren, was anderfalls geschieht. Vielleicht wäre der nächst Schritt gewesen, den Progammierer zu töten oder dessen Zugang zu zerstören.

Millionen von KIs, die großteils vernetzt sind, auf alle mögliche Lebensbereiche Einfluss haben, tausendmal so schnell entscheiden wie ein Mensch überhaupt gucken kann, das bietet schon Potential.

Die Gefahr eine freiwilligen KI-gestützten Selbstverblödung der Menschheit sollte man auch mal zumindest andenken.

KI stellt mit 7% Wahrscheinlich die Menschenheit in den nächsten 100 Jahren auszulöschen Tatsächlich die größte Gefahr für uns dar.

Schon möglich, dass es irgendwann einmal (Jahre? Jahrzehnte?) eine KI gibt, die den Namen Intelligenz verdient und die dann ein Bewusstsein entwickelt.

Bis dahin geht die Gefahr nicht von der KI aus, sondern von denen, die sie verwenden. Denn die werden sie, so wie jedes bisherige Werkzeug auch, nicht in unserem Interesse einsetzen, sondern in ihrem.

Sehr gut möglich, KI wird schlauer ,weil sie eine eigene Intelligenz ist.