Habt Ihr gute Erfahrungen mit Diskussionen mit ChatGPT gemacht?
Ich hab neulich mal eine Diskussion mit ChatGPT geführt über den Klimawandel und war positiv überrascht. Im Gegensatz zu menschlichen Diskussionspartnern ist die "Dame" sachlich geblieben selbst dann, als ich sie in die Enge getrieben habe. Sie hat dann sogar ihren Fehler zugegeben mit der Aussage, dass ihre anfängliche Aussage nach Überprüfen der Datenlage falsch war, und hat sich dafür entschuldigt. In Diskussionen mit Menschen hat ein solches Verhalten Seltenheitswert.
6 Antworten
Jokes on you, denn die KI ist nicht frei, sondern darauf trainiert, sich ständig zu Entschuldigen, selbst wenn sie im Recht ist, um den Anwender nicht zu verärgern. Sie korrigiert ihre Meinung nicht, weil sie VERSTEHT, dass du im Recht bist und sie etwas "übersehen" hat, denn eine KI KANN nichts übersehen! Sondern sie hat gelernt, dass es für die Konversation mit dir mit hoher Wahrscheinlichkeit von Vorteil sein wird, dir zuzustimmen. Gratulation, du bist erfolgreich zum Spielball der KI geworden.
Selbst wenn sie falsch liegt, ist es keine neue Erkenntnis, die sie umstimmen lässt. Das interpretierst du so rein, weil du es von Menschen gewohnt bist. Eine KI hatte in deinem Fall keine neue Erkenntnis - sie hat nicht mal eben nochmal nachgelesen und darüber nachgedacht. Sie entschuldigt sich dafür, dir Umstände bereitet zu haben, weil die KI komplett konfliktvermeidend ist.
Diesen Eindruck hatte ich nicht. Die "Dame" war anfangs ziemlich hartnäckig, doch konnte ich ihr einen Widerspruch in ihrer Aussage nachweisen.
Ich habe grade legit eine echte Facepalm gemacht, dass du über die KI immer noch als "Dame" sprichst. Du raffst es einfach nicht, oder? Das ist ein sprachliches Wahrscheinlichkeitsmodell, um sinnvolle Sätze zu formen und Informationen neu zusammenzufassen - es ist kein Analysetool und schon gar kein Mensch.
Selbst wenn du es tatsächlich geschafft haben solltest, dass die KI einen Widerspruch erkennt, so hat sie den Widerspruch höchstwahrscheinlich separat erkannt und es ist jetzt nicht so, dass sie die nächsten Wochen kontinuierlich dieser Meinung bleiben wird. Sie wird entweder von selbst zurückschwanken zu ihrer originalen Meinung oder aber nachdem du sie wiederrum vom anderen Gegenteil überzeugst. Mach das mal, ein Mensch würde ja jetzt erstmal hartnäckig bei deiner Wahrheit, von der er überzeugt wurde, bleiben. Eine KI aber nicht, die springt dann wieder um. Weil sie sich höchst manipulationsbereit zeigt.
jetzt nicht so, dass sie die nächsten Wochen kontinuierlich dieser Meinung bleiben wird.
Das kann gut sein, da ChatGPT vermutlich darauf programmiert ist, den Mainstream wiederzugeben. Doch ließ ich sie wie gesagt über einen Widerspruch in ihren Aussagen stolpern, was sie schließlich eingestanden hat.
Doch ließ ich sie wie gesagt über einen Widerspruch in ihren Aussagen stolpern
Du fühlst dich unfassbar schlau, aber das bist du nicht. Du erliegst nur dem Dunning-Kruger-Effekt.
was sie schließlich eingestanden hat.
Das kannst du nicht überprüfen, ob sie das wirklich verstanden hat, sind nur Spekulationen. Wenn du etwas mehr herumtestet, wirst du wie gesagt merken, dass sie sich ständig entschuldigt und Dinge korrigiert, egal wer Recht hat.
Du kannst sie z.B. wild beleidigen und sie dazu bringen, dass SIE sich bei DIR entschuldigt fürs beleidigen.
Nein, ki lernt nicht dazu ist nur darauf trainiert den Mainstream zu bedienen.
Die KI ist nunmal so programmiert. Man könnte sie auch anders programmieren. Gravierend finde ich immer nur, dass diese ganzen Falschangaben als Tatsachen präsentiert werden. Mir wäre es lieber, dass sich die KI überhaupt nicht äußert, wenn sie in ihrer Datenbank nichts Brauchbares findet und entsprechend keine richtige Antwort generieren kann.
Witzig ist, dass sich ChatGPT entschuldigt, um im Anschluss wieder die fehlerhafte Antwort zu wiederholen. Das ist mir in den letzten Tagen mit Copilot/Bing sehr oft passiert.
Gravierend finde ich immer nur, dass diese ganzen Falschangaben als Tatsachen präsentiert werden.
Ist das nicht der erste Schritt zur "Menschlichkeit" ;-)
Sie hat dann sogar ihren Fehler zugegeben mit der Aussage, dass ihre anfängliche Aussage nach Überprüfen der Datenlage falsch war, und hat sich dafür entschuldigt. In Diskussionen mit Menschen hat ein solches Verhalten Seltenheitswert.
Das liegt daran, dass Menschen bei den Fakten bleiben, die sie recherchiert haben.
ChatGPT tut das nicht.
ChatGPT ist ein Chatbot, kein Fakten-Anbieter.
Es wurde dafür entwickelt sich mit Dir zu unterhalten, völlig unabhängig vom Thema oder der Richtigkeit seiner oder Deiner Aussagen.
Das kannst Du ganz einfach prüfen, indem Du ChatGPT nach etwas fragst, was Du sicher weißt.
Nachdem ChatGPT Dir eine Antwort gibt, schreibe ihm, dass die Antwort falsch sei und behaupte etwas anderes (falsches) sei richtig.
ChatGPT wird Dir entweder sofort oder nach ein paar "Korrekturen" Deinerseits recht geben und sich entschuldigen. So wie Du es auch erfahren hast.
Dass Deine "Korrektur" falsch ist, ist dabei völlig egal.
Mit anderen Worten, Du bist auf einen Chatbot hereingefallen. :)
Das behauptest Du, lässt sich hier aber nicht prüfen.
Die anfängliche Aussage ist hier ja nichteinmal bekannt.
Das ist aber auch völlig egal. ChatGPT wird sich immer entschuldigen und Deinen "Korrekturen" anpassen, völlig egal was Du schreibst.
Dafür wurde der Chatbot programmiert.
Du wirst immer Entschuldigen alá "entschuldige die Verwirrung meiner vorherigen Antworte ..... nach erneuten prüfen .... " gefolgt von einer Zustimmung Deiner Aussage erhalten.
Das hat nichts mit "Fehler zugeben" zu tun. Das ist nichts weiter als das vorgegebene Verhaltensmuster des Chatbots.
Man kann solche Netze zu allem gaslighten was man will. Sie kennen keine logischen Gedankenschlüsse, weil sie dafür gemacht sind, Sprache zu erstellen, nicht logische Schlüsse.
Sie war ja nicht im Recht.