Sollte es verpflichtend werden das öffentlich implementierte (ins Web integrierte) Künstliche Intelligenz/Maßgeschneiderte Algorithmen einen NOT-AUS besitzen?
Sofern die KI sich verselbständlicht, selbstrepliziert, unkontrollierbar autonom agiert, Probleme bereitet durch irgendwelche Sachverhalte, sie mittels NOT-AUS abschaltbar sein muss ?
5 Antworten
Naja, wenn die KI sich selbst replizieren kann und einfach auf einen anderen Server hochlädt, bringt auch ein Not-Aus Knopf nicht. Damit wird ja nur der ursprüngliche Server ausgeschaltet.
So weit sind die KIs heutzutage aber noch lange nicht. Die können Texte schreiben und Bilder malen, aber das war es dann auch schon fast.
Sofern die KI sich verselbständlicht, selbstrepliziert, unkontrollierbar autonom agiert,
Klar, sobald es irgendwann mal so eine KI gibt. Davon sind wir aber noch lange entfernt
Jeder Programmierer, der pflichtbewusst ist und noch alle Latten am Zaun hat, wird nicht nur Backdoors, sondern auch mehrere Sicherheiten einbauen. Wenn das Ziel aber Vernichtung ist und die Hersteller den Charm von Virenentwicklern haben, dann hilft eh nur die Schrotflinte.
Hey,
alle diese KIs liegen auf irgendwelchen (virtuellen) Servern, diese lassen sich immer abschalten oder auch einfach der Firewall einsperren.
Mfg Jannick (L1nd)
Also die Software hat natürlich Zugriff auf das Internet, es muss ja auch aus diesem erreichbar sein. Aber dennoch hat die Software generell kein Zugriff auf die eigentliche Infrastruktur der Server bzw. des Rechenzentrums.
IT hat immer einen Not-Aus: Stecker ziehen. Ich hab noch keinen Computer erlebt, der sich selbst in die Steckdose stöpselt.
in einer isolierten Umgebung am laufen, in einer Sandbox ?