Chatgpt erfindet lügen?

ich hab das mal irgendwo gehört, dass man chatgpt zu einer ganzbestimmten person was fragen konnte und chatgpt sich dann jedes mal eine antwort ausdenkt, die aber falsch ist.

Answer 1

[Diagenal]

Ja, ChatGPT generiert relativ häufig falsche Antworten. Gerade, wenn es um Personen geht. Sollte man immer gegenchecken.

Beispiele, die ich selbst ausprobiert habe:

• erfundene Gedichtstitel werden bekannten Schriftstellern zugeschrieben und auf Anfrage dann sogar generiert
• erfundene wohlklingende Zitate werden berühmten Persönlichkeiten angedichtet und dann sogar im Spiegel des Lebens und des Werkes dieser Persönlichkeiten "erklärt"
• Auf der Suche nach Filmtitel mithilfe von Infos zum Plot hat ChatGPT Filme erfunden

Comments

[theodoravontane]

Auf der Suche nach Filmtitel mithilfe von Infos zum Plot hat ChatGPT Filme erfunden

Wenn das die Drehbuchautoren in Hollywood mitbekommen, dann ist aber was los. Wobei, bei manchem Film könnte man auf die Idee kommen, daß er genau so entstanden ist :)

Answer 2

[Kelec]

Prinzipiell sind das nicht bestimmte Fragen sondern kann bei jeder Frage auftreten.

Der Grund dahinter ist weil ChatGPT eigentlich ein Sprachmodel ist und eine Antwort generieren will die sich so anhört als würde sie von einem Menschen stammen, der sich in dem Themengebiet auskennt.

ChatGPT weiß aber nicht ob die Antwort richtig ist oder falsch alles was es weiß ist, dass die generierte Antwort sich so anhört als stamme sie von einem Menschen. In so fern erfindet ChatGPT eher Dinge anstatt es sagt, dass es eine bestimmte Antwort nicht kenne, weil es selbst gar nicht weiß, dass es die Antwort nicht kennt bzw das der AI dahinter auch nicht wichtig ist.