Sagt ChatGPT immer die Wahrheit?
Woher soll ich wissen das da kein Käse erzählt wird? 🤔
Das Ergebnis basiert auf 19 Abstimmungen
7 Antworten
Kann es garnicht ...
- https://www.golem.de/news/chatbots-contra-wahrhaftigkeit-ki-halluzinationen-koennen-nicht-komplett-beseitigt-werden-2308-176398.html
- https://deinkikompass.de/blog/ki-halluzinationen-wie-chatgpt-fakten-erfindet
- https://www.scinexx.de/news/technik/kuenstliche-intelligenz-es-hapert-beim-umkehrschluss/
Dabei muss die KI nicht mal bewusst lügen. Die aktuellen KIs verarbeiten Text, ohne den Sinn des Textes zu begreifen.
Eine KI kann Dir alles über Marienkäfer erzählen, was sie in zig Trainingstexten darüber zusammengetragen hat, aber sie weiß trotzdem nicht was ein Marienkäfer ist. Das bringt es mit sich, dass eine KI auch in irgendeinem Trainingstext vorhandene Daten in einen falschen Zusammenhang bringt.
Das kann schon prinzipbedingt nicht sein, denn ChatGPT ist nur ein Sprachmodell, kein KI-basiertes Wissensmodell, Suchmaschine oder sonstwas.
Es kann, basierend auf Deinem Prompt, Wahrscheinlichkeiten für Folgewörter ausrechnen. Ob die Sinn ergeben, weiß das LLM nicht.
Du willst wissen, wie das funktioniert? Ganz einfach: Stelle 10 Leute nebeneinander. Beginne beispielsweise den Satz "Die ganze Woche war das Wetter schön ..." und dann soll jeder in der Reihe ein weiteres Wort ergänzen, so dass am Schluss ein grammatikalisch korrekter, sinnvoller Satz herauskommt. Genau das macht GPT. Nicht mehr, nicht weniger. Ohne Wissen über das Wetter. Rein auf Basis von Wahrscheinlichkeiten.
Woher soll ich wissen das da kein Käse erzählt wird?
Ganz einfach: Verwende es nicht für Wissenfragen.
Ist halt auch über StackOverflow drübergelaufen. Wie gesagt, ja, es ist faszinierend, was es als Sprachmodell alles kann - es kann ja auch einigermaßen funktionierenden Python-Code erzeugen. Aber dennoch: es bleibt "nur" ein Sprachmodell.
Viel interessanter finde ich, dass man es im Stile von Personen schreiben lassen kann. Das ist wirklich gut. Wir haben hausintern einen kleinen "Trump"-Assistenten, der sich selbst am geilsten findet und alle anderen sind "total loser". Das ist wirklich unterhaltsam.
Aber NIEMALS würde ich ungeprüft dem vertrauen, was mir das Ding erzählt. Und niemals würde ich Quellcode von GPT einsetzen, ohne ihn vorher geprüft zu haben. Und schon gar nicht würde ich diesen als Student oder Schüler als Lösung für irgendwelche Prüfungsaufgaben abgeben - viel zu groß die Chance, sich für immer peinlich zu machen...
Jein.
ChatGPT Lügt nicht im Sinne von "Nenn mir die Hauptstadt von Frankreich" "Budapest". Das würde eine Absicht vorraussetzen die nicht da ist.
Aber ChatGPT kann dinge erfinden wenn man ungünstig formuliert oder dinge will die es nicht gibt.
Ich hab mir mal das Fiktive Königreich Genovien rausgesucht. Offene Fragen nach Lage, Regierung usw. wurden mit "es ist fiktiv" eingeleitet.
Aber wenn ich natürlich frage: "Erzähl mir was von Genovien als ob es wirklich existieren würde"
Dann macht ChatGPT das auch und tut so als ob es real wäre.
Ob ChatGPT Käse erzählt lieg also stark daran was und wie man informationen erfragt.
Fakten Checken sollte man aber dennoch denn ChatGPT ist keine vernünftige Quelle und die sollte man bei Referaten und ähnlichem haben. Und du weist nicht ob die Quellen aus denen Chatgpt die daten hat ordentlich sind.
Woher soll ich wissen das da kein Käse erzählt wird?
Man hört es nicht gerne, aber da hilft nur eigene Bildung.
Es benutzt nur die Daten die im Internet stehen und die stimmen die immer?
Es benutzt Daten aus dem Internet, um ein Sprachmodell zu trainieren. Sprich: Um Wahrscheinlichkeiten zu errechnen, welche Wörter besonders oft mit anderen zusammen verwendet werden und mit diesen in Zusammenhang stehen. Das hat mit Wissen gar nichts zu tun.
Genau du sagst es ja selbst dafür braucht es das Internet diese Wahrscheinlichkeiten basieren darauf.
Aber nicht aktuell! Das Training eines solchen Sprachmodells dauert unheimlich lange. Deswegen ist der Stand von GPT auch Januar 2022 (nach meinem aktuellen Wissensstand). Es ist eben keine Suchmaschine.
Es geht schon damit los, dass Dir chatGPT nicht sagen kann, wieviel Uhr es gerade ist. Einfache Frage, oder? Kann sogar Google. Die Antwort von chatGPT auf die Frage "What time is it in Germany" gerade eben ist:
I'm sorry, but I don't have access to real-time information, including the current time in specific locations. To find the current time in Germany, you can use a world clock or a time zone conversion tool, or simply check the time on your device or search online. Keep in mind that Germany may have different time zones depending on the time of year and daylight saving time, so it's a good idea to double-check the time if it's important for a specific event or appointment.
Und noch besser: Es kann nicht einmal genau sagen, ob der 6. November jetzt nach dem letzten Sonntag im Oktober liegt oder nicht, denn auf die Frage "What time is it in Germany on November 06th at 11 am" lautet die Antwort:
Germany is typically in the Central European Time (CET) zone, which is UTC+1. However, on the last Sunday in October, Germany usually switches to Central European Standard Time (CET), which is UTC+1. If November 6th falls within this period, the time in Germany would be CET (UTC+1).
Therefore, on November 6th at 11:00 AM CET, it would be 11:00 AM in Germany. However, please keep in mind that this does not account for any potential changes due to daylight saving time, so it's always a good idea to double-check the current time closer to the date.
Und ist CET jetzt "Central European Time (CET)" oder "Central European Standard Time (CET)"? Und was soll der Unterschied sein, wo doch beide angeblich (und fälschlicherweise) UTC+1 sind?
So viel also zur "Intelligenz".
Sorry ich weiß grade nicht warum du hier so ein großes Ding draus machst. Ich habe ja nicht behauptet das es auf Echtzeit Infos zu greift. Das macht ja erst GPT 4. Wenn du GPT 4 frägst gibt es dir die richtige Antwort. Das kannst du gerne ausprobieren mit der Bing AI.
Sorry ich weiß grade nicht warum du hier so ein großes Ding draus machst.
Weil alle glauben, es sei eine tolle KI. Isses nicht.
Behaupte ich auch nicht. Es gab schon vorher "KI" aber dadurch denkt jeder neues Zeitalter ist angebrochen.
Naja, weil die Leute nicht verstehen, was "machine learning" in Wahrheit bedeutet.
Wobei dabei aber schon spannend ist, wie ChatGPT für mich eine SVG generieren kann, nicht als Bild, sondern als XML. Und meine Anforderungen und nachträgliche Korrektur-Wünsche wurden mit Bravur umgesetzt, inklusive Erklärung, was was bedeutet.