ChatGPT macht große Fehler?
Einfachste Fragen, die ich mir ergoogeln kann, beantwortet das mir falsch.
Laut ChatGPT ist Günther Jauch 65 Jahre alt (FALSCH) und nicht nur Moderator, sondern auch Schlagersänger (FALSCH).
Warum kann dieses Ding einfachste Fragen nicht beantworten?
4 Antworten
Bei mir stimmt alles:
You
wer ist günther jauch?
ChatGPT
Günther Jauch ist ein bekannter deutscher Fernsehmoderator und Journalist. Er wurde am 13. Juli 1956 in Münster geboren und hat im Laufe seiner Karriere in verschiedenen TV-Formaten mitgewirkt. Bekannt wurde er vor allem durch seine Moderation der Quizshow "Wer wird Millionär?", die weltweit populär geworden ist. Jauch hat auch in anderen TV-Sendungen und politischen Diskussionen mitgewirkt und gilt als einer der angesehensten Moderatoren im deutschen Fernsehen.
You
ist günther jauch schlagersänger?
ChatGPT
Nein, Günther Jauch ist nicht als Schlagersänger bekannt. Seine Karriere konzentrierte sich hauptsächlich auf das Moderieren von Fernsehsendungen und den Journalismus. Obwohl er in der Unterhaltungsbranche tätig ist, ist er nicht für seine Gesangskarriere oder Schlagermusik bekannt. Seine Bekanntheit stammt hauptsächlich aus seiner Arbeit als Fernsehmoderator, insbesondere durch die Moderation der Quizshow "Wer wird Millionär?".
You
wie alt ist günther jauch?
ChatGPT
Günther Jauch wurde am 13. Juli 1956 geboren. Stand 2024 wäre er demnach 68 Jahre alt.
Weil es halt noch eine KI in der Entwicklungsphase ist. Ich nutze Chat GPT mittlerweile auch nur noch selten, da sie mich maßlos enttäuscht hat mit teilweise richtig dummen Antworten.
Weil eine KI keine Fakten zu 100% wiedergibt, sondern eine für sie momentan am wahrscheinlichsten erscheinende Geschichte erzählt, die auf zuvor trainierten Fakten basiert.
Es ist eine der Wahrheit nahe kommende Fantasie, die aber fehlerbehaftet ist.
Deswegen: vertraue niemals einer KI.
Also, ich dachte, wir hätten mittlerweile gelernt, wie ChatGPT funktioniert und warum es sich für diese Art Frage nicht eignet.
ChatGPT hat sich eine große Menge an Text durchgelesen, basierend auf welchem es nun versucht, Antworten zu schreiben, die aussehen, als wären sie von einem Menschen verfasst worden. Dabei ist es erstmal zweitrangig, ob diese auch faktisch richtig sind, sondern am wichtigsten, dass Grammatik und Syntax richtig sind.
Im Prinzip ist es derselbe Grund, weshalb ChatGPT kein Mathe kann - wenn man es fragt, was 1+1 ist, dann kommt das richtige Ergebnis raus. Ist ja auch leicht zu erraten, stand ja sicher auch oft im Trainingsmaterial. Bei riesengroßen Formeln ist es dann nicht mehr so leicht, zu erraten, was wohl das richtige Ergebnis ist.
So, aber bei anderen kommt ja das richtige Ergebnis raus, wie kann das sein. Abgesehen davon, dass dein Prompt eventuell ungeschickt gewählt sein könnte, wird eine gewisse Zufälligkeit hinzugefügt, damit nicht immer dieselbe Antwort rauskommt, da GPT im Grunde deterministisch ist, was aber im Kontext menschlicher Sprache nicht passt.
Beispielsweise das Alter könnte somit in einem seltenen Fall aus einer veralteten Quelle gezogen werden, die korrekterweise behauptet, er sei 65, was halt jetzt nicht mehr stimmt, weil er 68 ist - ChatGPT kann nicht nachdenken, es versucht nur, so zu sprechen, wie wir. Es weiß nicht, wer Günther Jauch ist oder was ein Schlagersänger ist. Es muss sich also auf sein angelesenes Wissen verlassen - und wenn es da eben mehrdeutige Informationen gibt, die falsch wiederholt werden können, dann kommt es zu Halluzinationen - also, dass ein LLM Unwahrheiten produziert, ohne, dass es das weiß.
Hinzu kommt noch, dass du die Frage vermutlich auf Deutsch gestellt hast und unter 6% der Inhalte im CommonCrawl Dataset (also dem Datensatz, auf dem ChatGPT unter anderem trainiert wurde), wodurch ChatGPT auf Deutsch sowieso weitaus schlechter als auf Englisch ist.
Also sollte man entweder selbst Material bereitstellen, welches das LLM verwenden soll (das funktioniert am besten) oder man lässt Material bereitstellen, indem man einen Chatbot mit Internetzugriff verwendet wie Bing Chat / Microsoft Copilot oder Google Bard - oder man bezahlt halt für ChatGPT - oder eben, indem man seine Suchmaschine verwendet - die meisten großen Suchmaschinen sind clever genug, um solche Informationen auf Smart Cards anzuzeigen. Das ist schneller und verlässlicher.
Hä okay bei mir ist das von Tag zu Tag unterschiedlich