KI hinterfragen?
Ist eine KI in der Lage sich selber kritisch zu hinterfragen?
6 Antworten
Naja sie "simuliert" halt ein Bewusstsein bisher nur! Das immer besser und keiner weiß wann das mal über geht in ein "echtes Bewusstsein !!
https://www.youtube.com/watch?v=Uv4k-HytAAQ&t=5s
Die Fähigkeit, sich selbst kritisch zu hinterfragen, erfordert ein Maß an Bewusstsein, also sich über seine eigene Existenz bewusst zu sein. Aktuelle KI-Systeme besitzen derzeit kein Bewusstsein. KI Systeme haben keine persönliche Erfahrungen, Gefühle oder ein Bewusstsein. Sie können Informationen analysieren und Antworten generieren, die auf ihrer Programmierung und dem Datensatz basieren, mit dem sie trainiert wurden. Aber sie haben kein Verständnis von sich selbst oder ihren Aktionen im Sinne eines menschlichen Bewusstseins.
In der KI-Forschung gibt es Ansätze, um Modelle zu entwickeln, die in der Lage sind, ihre eigenen Leistungen zu evaluieren und zu verbessern. Aber auch das ist nicht dasselbe wie die Fähigkeit eines Menschen, sich selbst zu reflektieren und kritisch zu hinterfragen.
Also das kommt auf das verwendete Sprachmodell an, aber bei den GPT 3 bzw 4 Modellen ist das tatsächlich nicht so.
Dort wird lediglich der Input zerlegt und dann basierend auf Wahrscheinlichkeiten jedes Wortes eine Antwort generiert.
Das klappt super wenn es nur darum geht ein Text zusammenzufassen, aber wenn die KI mal daneben liegt, dann ist sie was das angeht ziemlich lernresistent.
Und da KI draufzuschreiben ist auch schon Problematisch, weil "verstehen" tut die KI tatsächlich gar nix.
Ist bei anderen Sprachmodellen insbesondere welchen die ein anderes Prinzip verfolgen kann das natürlich anders sein.
Hi! Ich habe eine KI gefragt und sie meinte "Als KI-Modell habe ich kein eigenes Bewusstsein oder Selbstreflexion. Ich wurde entwickelt, um Fragen zu beantworten und Informationen bereitzustellen, basierend auf dem Wissen, das mir während meines Trainings bis September 2021 vermittelt wurde. Meine Antworten basieren auf Mustern und Zusammenhängen, die ich in den Trainingsdaten erkannt habe. Es liegt an den Benutzern, meine Antworten kritisch zu hinterfragen und sie mit anderen Quellen und ihrem eigenen Urteilsvermögen zu überprüfen."
Wir haben keine KI, wir haben nur Sprachmodelle.
Und nein, können sie nicht, das würde ein Selbstbewusstsein und Fehlerbewusstsein voraussetzen, was sie nicht haben. Sie ketten nur Worte und Wortfetzen nach Wahrscheinlichkeiten aneinander, da ist nichts intelligent oder selbstbewusst.