"Wenn KI anfängt "selbstständig" zu denken wird's übel..." (Habe die Tage öfters darüber gelesen, deshalb die Umfrage)

Das ist nicht meine Angst

Meine Angst ist, dass die Leute blind der KI Glauben schenken, bzw verlernen zu denken

Ist bisschen wie ein Taschenrechner

Wer rechnet heute schon noch 2745 - 800?

Obwohl es eigentlich wirklich simpel wäre

Habe das Gefühl, die Menschen sind heute schon viel dümmer, als noch vor 20 Jahren.

Naja, wenn man sieht was heute schon möglich ist:

https://www.youtube.com/watch?v=EtNagNezo8w

😲Skynet lässt grüßen.

Oder die KI-Generierung aus Wörtern oder Texten, hier meine KI-Influenzerin, die ich ohne viel Ahnung erstellt habe:

https://www.tiktok.com/@mabowo/video/7494752259830517014

Der Begriff KI darf nicht überbewertet werden. Trotz erstaunlicher Resultate geht eine KI beim Beantworten einer Frage rein statistisch vor und sucht diejenigen Antworten zusammen, die im Internet am häufigsten vorkommen. Diese werden als "richtig" angesehen. Für die weitgehend korrekte und fehlerfreie Sprache wird die KI (vergl. Algorithmen und neuronale Netzwerke) mit unzähligen Sätzen trainiert.

Der Begriff KI existiert übrigens schon fast so lange, wie es Computer gibt. Die heutigen Fortschritte beruhen hauptsächlich auf der gesteigerten Leistungsfähigkeit der Systeme und den Verbesserungen in der Sprachverarbeitung (Sprachgenerierung).

In diese Richtung werden auch die weiteren Verbesserungen in den nächsten Jahren gehen. Dadurch möglich werden voll autonome Roboter. Ein eigenes Bewusstsein entwickeln und eine eigene Meinung bilden wird eine KI wohl noch längere Zeit nicht können. Zumindest solange nicht, bis Quantencomputer einsatzreif sein werden, denn auch beim menschlichen Gehirn vermutet man, dass dazu Quanten im Spiel sind.

Es fehlt ein 4. Punkt:

KI ist noch nicht so weit und das wird sich sehr lange nicht ändern.

Das, was wir heute so großspurig "Intelligenz" nennen, ist am Ende nichts anderes, als ein ziemlich dämliches Programm mit einem ziemlich raffinierten (von Menschen entwickelter) Algorithmus, der anhand enorm gigantischen Datenmengen Heuristiken errechnet, was Du gerne als Antwort lesen möchtest.

Unter "Intelligenz" verstehe ich etwas anderes.

Es wirkt vielleicht intelligent, weil es mit massenhaft Texten von größtenteils vergleichsweise intelligenten Menschen trainiert wurde, aber deshalb ist es nicht intelligent.

Das merkt man auch, wenn man Mal komplexe Themen durch diskutiert und genauer hin schaut. Z.B. lasse ich mir gerne Antworten auf Diskussionen gegenlesen, um z.B. problematische Formulierungen aufdecken zu lassen und die "KI" übersieht häufig, dass ich einen Chat mit mehreren Personen kopiert habe und nur die letzte Nachricht für mich spannend ist, obwohl ich es mehrfach dazu geschrieben habe. Es kommt auch häufiger vor, dass die "KI" mir mein eigenes Konzept erklärt, einfach weil es den Faden verloren hat, was Frage und was Antwort war. Solche Stolperer gibt's massig, man muss nur darauf achten.

Also *diese* KI wird niemals selbständig denken können, darauf sind diese System schlicht nicht ausgelegt. Ich möchte aber nicht ausschließen, dass das irgendwann Mal so sein wird, allerdings gibt es derzeit meines Wissens nach nicht einmal ein stabiles Konzept, wie man sowas überhaupt aufbauen können sollte. In 50 Jahren vielleicht, oder 100, meine Glaskugel ist kaputt, aber das, was wir heute so großspurig "KI" nennen, wird diesen Punkt niemals erreichen.

Man darf meiner Ansicht nach die KI nicht mit den angeschlossenen Geräten verwechseln. Zunächst mal ist KI nur ein Algorithmus, der "tut" erst mal gar nichts - außer eben ein Programm auf irgendeinem Rechner zu sein.

Erst wenn man Geräte, Roboter usw. anschließt, kann die KI physikalisch was "tun".
Nur wenn ich so einem Roboter als Konstrukteur die Möglichkeit einräume, etwas zu tun, was einem Menschen physisch schaden könnte, besteht ein Risiko.

D.h. ein KI Schachcomputer ist harmlos (er gewinnt halt nur höchstwahrscheinlich), aber ein KI-gesteuertes Auto könnte u.U. ein Risiko darstellen. Aber auch da gibt es Sicherheitsmechanismen, die man auch weiterentwickeln muss.