Habt ihr angst dass KI die Welt regieren könnte?
Wie steht ihr zu dem Thema? was meint ihr wie es in 10 Jahren aussehen wird?
Das Ergebnis basiert auf 12 Abstimmungen
7 Antworten
Den aktuellen unteren Anführungszeichen AI's sind vergleichbar mit einem Pathfinding Algorithmus, nur dass beispielsweise ein Dijkstra Algorithmus ein konkretes Ziel definiert hat, ist es bei dem Deep-Learning-Algorithm das Ziel etwas schwammiger definiert.
Beispiel Ziel Gewinne in Schach:
Schach ist ein sehr komplexes Spiel, es ist unmöglich den gesamten Spielbaum zu berechnen und den Gegner Schachmatt zu setzen lässt sich nicht so leicht definieren wie in einem Labyrinth den Ausweg suchen.
Aber schwierig wird es bei den AI's, wenn es um echte Denkarbeit geht, damit meine ich, dass die AI in der Lage zu sein einen gewissen Sachverhalt zu verstehen und sich sachgemäß darauf zu verhalten.
Beispiel:
Angenommen, es gäbe weltweit selbstfahrende Autos und in einem solchen ist ein Mensch, der kurz vorm Sterben ist.
Die Aufgabe ist klar, die AI muss den Menschen so schnell wie möglich ins Krankenhaus transportieren, mit sowenig Kollateralschaden wie möglich.
Nun heutige AI's würden wahrscheinlich in diesem Fall die meisten Verkehrsregeln brechen, da die AI beim Kassieren eines Strafzettels eine geringere Bestrafung erhalten würde als, wenn der sterbende Mensch im Auto sterben würde und würde dadurch wahrscheinlich einen Unfall bauen.
Vielleicht wäre die Welt sogar besser, wenn sie von einer KI regiert wird. Menschen sind einfach zu unfähig dazu, wie man ja immer wieder sieht.
Wir haben keine "echte" KI und sind auch noch sehr weit davon entfernt.
Vielleicht erlebe ich noch, dass es da erste Durchbrüche gibt, aber Weltherrschaft durch KI sicher nicht mehr.
Wir haben nur Sprachmodelle, Bild-Generierung, etc. und die haben auch noch einige Macken. Sie sind gut im simulieren von "intelligenter" menschlicher Sprache, aber es bleibt nur eine Simulation.
Die weitaus größere Gefahr geht von den Missbrauchsmöglichkeiten von uns Menschen aus.
Künstliche neurale Netze sind der Biologie nachempfunden und funktionieren vom prinzip gleich.
Prinzipiell ja, aber auch nur nach dem bisherigen Wissenstand und auch nur stark vereinfacht.
Ich habe dazu meine eigene Theorie, wie das Gehirn als ganzes sowohl elektrisch, als auch hormonell arbeitet und wenn ich das mit der Arbeit eines neuronalen Netzwerks vergleiche, ist das eine ganz andere Größenordnung von Komplexität.
Dementsprechend wird irgendwann auch der durchbruch zum künstlichen Bewusstsein erreicht
Ich habe ja auch nichts anderes behauptet.
Meine Aussage war nur, dass es noch einige Zeit dauern wird.
Was ich damit sagen will ist dass wir uns nicht selbst auf ein zu hohes Podest stellen sollten, im Endeffekt sind wir einfach nur auch Maschinen.
Allerdings sind wir dazu in der Lage, rational, abstrakt, analytisch, kreativ, intuitiv, etc. zu denken und ein Thema bewusst zu erfassen, das können aktuelle KI-Systeme nicht.
Und das meine ich mit Simulation.
Ein ChatGPT liefert Antworten, die zwar so aussehen, als hätte es die Frage verstanden und durchdacht, aber dass das nicht der Fall ist, sieht man häufig, besonders wenn die Fragen "nischiger" oder komplexer werden.
Ergo: Es simuliert nur menschliche Intelligenz.
der Mensch ist ohne zweifel einer KI noch weit vorraus, das heißt aber eben, nicht dass es deswegen simulierter ist. Ich stelle immer wieder fest dass viele es verstörend finden wenn man ihnen sagt dass sie auch nur eine Maschine sind... ja sogar ihr "ich" nicht existiert weil sämtliche Zellen mit der Zeit austauschen und das "ich" von vor 30 Jahren nicht mehr existiert. Das Bewustsein ist im Prinzip nur ein Dauerfeedback bzw. eine Endlosschleife im neuralen Netz unseres Gehirns. Noch schlimmer ist es bei gläubigen Menschen die sich eine Seele zusammen erfinden.
Ich denke bei der KI wird es nicht mehr lange dauern bis zur ersten AGI, und sie werden schnell noch komplexer werden. Letztendlich ist "die Frage erfassen" auch im menschlichen Bereich ein simples Abfolgen von neuralen Verknüfungen.
Naja, wenn ein System so aussieht, als würde es Fragen verstehen, es sie aber nicht versteht, ist das per Definition eine Simulation :D
Und ich merke es auch immer wieder mit ChatGPT, dass es nicht wirklich "echt" ist, es fällt auf, dass es eben nur die wahrscheinlichsten Antworten liefert, selbst wenn die inhaltlich eigentlich keinen Sinn ergeben.
Ich denke bei der KI wird es nicht mehr lange dauern bis zur ersten AGI
Das sehe ich anders.
Aktuelle neuronale Netze arbeiten meines Wissens im Grunde "linear", das heißt, es gibt einen Input, dann das Netzwerk durchgearbeitet und am Ende kommt ein Output raus. Im Netzwerk kann es zwar auch Rückkopplungen geben, aber es bleibt ein grundlegend linearer Aufbau.
Ein wesentlicher Unterschied zum Gehirn ist, dass es nicht so linear aufgebaut ist und es gibt weder einen klaren Input, noch Output. Alles ist irgendwie kreuz und quer miteinander verbunden und dann kommen noch die Hormone dazu, die sozusagen noch eine zweite Ebene der Kommunikation zwischen den Neuronen bilden, nur dass dafür keine Verbindung zwischen den Neuronen nötig ist. Die elektrische Kommunikation ist sozusagen die "gezielte" Arbeitsweise des Gehirns, während die Hormone eine eher weitläufige Arbeitsweise darstellen, die Neuronen selber aktivieren oder die elektrische Kommunikation beeinflussen können.
Zusätzlich beschäftigt sich das Gehirn nicht nur mit einem Thema, sondern besteht aus vielen Regionen, bleibt aber ein sehr großes in sich vernetztes neuronales Netzwerk, wo ein Bereich Auswirkungen auf einen ganz anderen Bereich haben kann, selbst wenn es keine direkte Verknüpfung gibt.
Und dann kann das Gehirn sich aktiv selber trainieren und permanent weiterentwickeln, das funktioniert mit aktuellen Systemen nur "von außen".
Das steht in keinerlei Verhältnis zu dem, was wir aktuell haben.
Und dazu kommt noch, dass wir auch keine Technologie haben, die diesen enormen Rechenaufwand (der ist ja schon heute gewaltig) *und* die Flexibilität zur "selbstprogrammierung" (damit ein System selbständig lernen kann) stemmen kann, da hat die Biologie unserer Technologie einiges voraus.
Nimm GPT, sieh die Temperature als die hormonelle Komponente an welche eben dafür sorgt dass es nicht mehr so "linear" und berechenbar ist. Wie gesagt, eine KI ist noch lang nicht so weit wie ein menschliches Gehirn, aber die Grundfunktion ist ziemlich ähnlich. Evt. sollten wir auch eher den Begriff TI für technische Intelligenz prägen
Der entscheidende Punkte bei unserem Gehirn ist ja gerade, dass es sich selber beeinflussen und mit der Zeit auch selber verändern und trainieren kann. Die Temperature mag auch davon inspiriert worden sein, aber es ist am Ende auch nur ein von außen vorgegebener Wert, der mit eingerechnet wird.
Außerdem haben Hormone verschiedene Auswirkungen, sie regulieren nicht nur linear die Berechnungen, sondern beeinflussen Empfindlichkeit, Aktivität, Wachstum, etc. der Neuronen, oder sie beeinflussen andere Körperfunktionen, die wiederum Folgen wie weitere Hormonproduktion hervorrufen.
Also ja, es mag ähnlichkeiten geben, aber ich bleibe dabei: Aktuelle Systeme sind mMn. nicht mehr als nur eine Simulation von Intelligenz, wenn auch eine sehr gute Simulation.
Das ist so, wie als würdest Du eiun Hologramm von einem Menschen als Mensch bezeichnen. Es mag noch so perfekt aussehen, aber es wird niemals ein Mensch sein, dafür fühlt einfach noch zu viel.
Evt. sollten wir auch eher den Begriff TI für technische Intelligenz prägen
Der Vorschlag gefällt mir sehr gut.
Ich hatte auch an anderer Stelle die Debatte zur Begrifflichkeit von AI/KI vs. AGI und dass ich diese Begriffe für sehr unglücklich gewählt halte, da es die meisten Menschen dazu verleitet, dass es tatsächlich eine Form von Intelligenz im menschlichen Sinne ist - was nicht stimmt, zumindest derzeit nicht.
Insofern finde ich es sehr sinnvoll, einen anderen Begriff zu finden, der weniger Verwirrungen hervorruft. "TI" finde ich nicht perfekt, aber es ist weitaus besser, als "KI".
Regieren nicht, aber dramatisch verändern. Ich befürchte extrem starke soziale Verwerfungen im Übergang... zig millionen Arbeitslose, kollabieren von Sozialsystemen uvm.
ich halte nichts von solchen Aussagen, denn dann sind auch wir menschen nur eine Simulation. Künstliche neurale Netze sind der Biologie nachempfunden und funktionieren vom prinzip gleich. Dementsprechend wird irgendwann auch der durchbruch zum künstlichen Bewusstsein erreicht... das natürlich nicht gleich Skynet bedeutet. Was ich damit sagen will ist dass wir uns nicht selbst auf ein zu hohes Podest stellen sollten, im Endeffekt sind wir einfach nur auch Maschinen.