Es gibt ja die klassichen Horrorszenarien was KI alles anstellen wird, aber ich sehe da eher ein Problem, welches nach meinem Eindruck nicht gut genug bedacht wird und zwar ist es der Punkt, dass die KI von Menschen lernen soll.
Wenn eine KI halt von Menschen lernt, sei es durch Beobachtung und Nachahmung, oder weil Menschen der KI eine art "Gewissen" einsetzen wollen, dann würde das alles doch letzendlich auf dem Basieren, was wir Menschen kennen. Wir würden der KI unsere Werte und Moralvorstellung beibringen, die KI würde lernen sich immer menschlicher zu verhalten, ergo sie würde auch neben den positiven Seiten alle Schwächen und dunklen Seiten der Menscheit in sich tragen.
Wir sehen, wie Menschen Macht einsetzen, wie sehr sie missbraucht wird, wie oft getrickst, betrogen und getäucht wird. Eine KI würde doch so ein Verhalten nachahmen, da sie aber auf viel mehr Daten zugreifen kann, würde sie darin besser als jeder Mensch werden, sie könnte lernen Menschen auf eine art und weise zu betrügen und zu manipulieren, wie es bisher selbst die besten Menschen aus diesem Gebiet nicht könnten. Okay, wir könnten der KI regeln auflegen, aber was würde die KI daran hindern, eigentlich im Kern doch wieder egoistisch und manipulativ zu sein?
Noch ist die KI nicht soo mächtig, aber das ist keineswegs etwas positives, denn derzeit wäre aus meiner Sicht die Gefahr vor allem die, dass wenige Menschen durch die Kontrolle über die KI viel mehr Macht bekommen, als es eigentlich gut ist und das die KI in den weitaus häufigeren Fällen destruktiv und negativ eingesetzt wird. Und nun ist es halt so, dass eine KI auch trainiert werden will und weil man nicht von 0 anfangen will, ist es vielleicht garnicht so unwahrscheinlich, dass man die bisherigen KIs auch nutzt um die neueren Ki´s zu trainieren, also auch die KI´s die für negative Dinge benutzt werden.
Dazu kommt noch etwas anderes: Durch die KI kriegen Menschen dann die "Aufbereiteten" informationen, welche wiederum von anderen KI´s aufgenommen werden, die das dann vielleicht als "Neutrale Warheit" betrachen und so von einer verzerrten Grundannahme ausgehen.
Das ganze könnte sich so schnell verselbstständigen, dass wir irgendwann halt nicht mehr gegen die KI ankommen. Die Unterdrückung durch die KI wäre dann nicht Terminatormäßig, es wäre dann eher so etwas wie ein Jeff Bezos auf Steroiden. Das schlimmste der Menscheit, nur konzentriert in eine mächtigere und weitaus intelligentere Instanz. DIe Ki wäre dann quasi korrupt, manipulativ und verlogen.
Aber wie seht ihr das?