Ist das gefährlich 2 KI's miteinander kommunizieren zu lassen?
Heyho. Also meine Programmiererfahrung ist ganz in Ordnung, ich mache das so hobby-mäßig. Ich habe mir aber überlegt, 2 künstliche Intelligenzen zu programmieren, die 2 sollen mir beim coden helfen und tipps geben (eventuell auch eigenen code schreiben). Ich habe mich für 2 entschieden, da ich sie miteinander kommunizieren lassen möchte, damit sie voneinander lernen und immer besser werden, vielleicht irgendwann sogar besser als ich. Ich habe zwar Erfahrung mit programmierung, aber KI's sind für mich ganz neu. Aber was wenn die 2 böse werden und zusammen etwas planen? Denkt ihr das ist möglich und ich sollte es lassen oder habe ich nur zu viele Filme gesehen? Mfg
7 Antworten
Aber was wenn die 2 böse werden und zusammen etwas planen? Denkt ihr das ist möglich und ich sollte es lassen oder habe ich nur zu viele Filme gesehen?
Das wird nie geschehen, denn: Keine KI hat Bewusstsein. Sie kann daher nicht böse werden.
Die beiden KIs gegen einander antreten zu lassen, kann jedoch den Effekt haben, dass solches "Training" sie besser werden lässt (wenn sie entsprechend programmiert sind).
KI trainiert sich durch Muster-Erkennung. Sie kann deswegen nur nachahmen, aber keine ethischen Überlegungen anstellen.
Ich habe mich für 2 entschieden, da ich sie miteinander kommunizieren lassen möchte, damit sie voneinander lernen und immer besser werden, vielleicht irgendwann sogar besser als ich.
Ich glaube, du solltest deinen Science Fiction Film pausieren und dir erst mal anschauen was KI eigentlich ist und was es kann.
die 2 sollen mir beim coden helfen und tipps geben
Code Completion KIs gibt es schon, aber du solltest dir das besser als Autocompletion für Code statt einem Roboter für Pair Programming vorstellen.
Letztendlich baust du ein statistisches Modell, welches basierend auf deiner bisherigen Eingabe den wahrscheinlichsten Rest der Zeile bestimmt (also wie Autokorrektur). Wenn du genügend Trainingsdaten (siehe bspw. Microsoft mit Github) hast in denen genügend ähnliche Muster (bekannte APIs, gleiche Benennungsschemata) vorkommen, kannst du halbwegs sinnvolle Vorschläge machen.
Denkt ihr das ist möglich und ich sollte es lassen oder habe ich nur zu viele Filme gesehen?
Letzteres. KI wie es aktuell entwickelt wird ist weder intelligent noch hat es ein Bewusstsein.
Wurde schon gemacht.
In einem Thinktank bei Alphabet wurde zwei KIs aufgestellt, die sich untereinander unterhalten sollten. Zielfunktion war die Kommunikationsgeschwindigkeit zu erhöhen und die Effizienz der Sprache zu optimieren.
Nach einer Weile begannen sie, die Worte der verwendeten Sprache durch Token zu ersetzen, später tauchten immer mehr unbekannte Token auf für ganze Aussagensequenzen, die nach und nach die originale Sprache komplett verdrängten.
Die Struktur der neuen Sprache wurde zu Beginn noch verstanden, später nicht mehr.
Das Experiment wurde abgebrochen, als die Beteiligten feststellen mussten, daß keiner eine Ahnung hatte, was die beiden KIs da kommunizierten.
Du kannst das ganze ja gerne wiederholen.
Sollte Dir das gelingen, melde Dich bitte bei Google und biete Ihnen Deinen Sourcecode für mindestens 10 Milliarden Dollar an.
Bitte nicht persönlich nehmen. Ich will damit nur deutlich machen, dass der Hype um KI schlicht auf dem beschränkten Weltbild von Technik-Freaks basiert. Tatsächlich ist bis heute unklar, was Intelligenz eigenlich ausmacht, dazu zählt z.B. ein Bewusstsein. Mir ist bis heute keine Maschine bekannt, die über solches verfügt. Eine Maschine kann also immer nur Algorithmen abarbeiten. Mit Intelligenz hat das nichts zu tun.
Ausserdem hat Herr Turing bereits im Jahr ca. 1950 bewiesen, dass eine Maschine nicht in der Lage ist festzustellen, ob ein Programm in endlicher Zeit ein Ergebnis liefert. Allein daran scheitert die Analyse eines Sourcecodes, erstellt von Maschine A und geprüft durch Maschine B.
Nein, das ist kein Problem.
Die werden auch nicht einfach böse, außer du programmierst sie halt so, lol.
AI's schmieden keine bösen Pläne, du hast wohl zu viele Filme gesehen.
Im prinzip ist dass dann einfach eine selbstlernende AI. Wenn 2 Programme ständig miteinander kommunizieren, ist es im Prinzip dann ein Programm
Machine learning heißt das fachgebiet, unsupervised learning nennt man das wenn sie selbst lernen kann ohne genaue vorgaben. Für unsupervised learning sind neural networks aktuell das beliebteste mittel.
Dann ist ja gut. Aber nicht, dass sie sich das böse selber aneignen, ohne das ich es einprogrammiert habe. Sie sollen ja voneinander lernen