Kann man Hof und Frau auf ChatGPT setzen?
Liegt ChatGPT nicht im Grunde mit allem richtig. Hab gehört damit wurden sogar ganze arbeiten schon geschrieben.
ChatGPT geht ja nur nach authentischen quellen und filtert daraus richtige Infos.
14 Antworten
KI ist schon impressive. Allerdings nicht fehlerfrei.
ChatGPT kann auch in manchen Fällen falsche Informationen erfassen und als richtig bezeichnen. Außerdem gibt es keine Garantie, dass die ‚authentische‘ Quellen wirklich so authentisch sind.
Du kannst ChatGPT schon als Informationsquelle verwenden, solltest die aber kritisch hinterfragen, wenn diese wichtig sind.
"Liegt ChatGPT nicht im Grunde mit allem richtig."
Nein, ChatGPT ist nicht immer richtig. Tatsächlich liegt es sogar oft Falsch.
Es hat nur viele Daten und berechnet daraus das statistisch am wahrscheinlichsten folgende wort, sodass es sinn ergibt.
Dementsprechend basiert es komplett aus Daten aus dem Internet. Diese Datenmengen sind so groß, dass es nicht möglich ist, sie alle auf vertrauenswürdigkeit zu prüfen. Stattdessen werden einfach alle Daten die da sind in das Training des KI Modells mit einbezogen.
Da es im Internet viel Müll gibt, wird auch Müll generiert.
Zudem sind die Datenmengen so groß, dass sie sich Teilweise überschneiden, sodass die KI Halluziniert. https://de.m.wikipedia.org/wiki/Halluzination_(K%C3%BCnstliche_Intelligenz)
Das Halluzinieren kann auch passieren, wenn keine passenden Daten gefunden werden, sodass ChatGPT einfach etwas sinnvoll klingendes hinzufügt. In den Trainingsdaten steht nämlich nur, was ChatGPT weiß und nicht, was es nicht weiß, sodass es dir auch nicht sagen wird, dass es etwas nicht weiß. Stattdessen wird es so tun, als würde es etwas wissen.
"ChatGPT geht ja nur nach authentischen quellen und filtert daraus richtige Infos."
Bei den Daten generell ist das auf keinen Fall nur mit seriösen Quellen. Durch die Trainingsdaten ist es schon etwas mit falschem Wissen vorbeeinflusst.
Allerdings gibt es auch den Websuche Modus, bei dem es im Internet sucht. Es geht nach den ersten Ergebnissen in der Suche, die es findet. Daraus nimmt es die Informationen.
Die Ergebnisse sind oft auch seriös Z.B. wenn du auf deutschen Einstellungen nach "Nachrichten" suchst, wird die Tagesschau sehr weit oben angezeigt, was seriös ist. Es gibt aber auch Themen, die keine oder Wenige seriösen Quellen haben, weil sie beispielsweise zu klein oder zu spezifisch sind.
"Hab gehört damit wurden sogar ganze arbeiten schon geschrieben."
Ja, aber bei Arbeiten in der Schule sind die Fragen oft schon reichlich in den Trainingsdaten vorhanden, da es Schulmaterial im Internet gibt in dem das steht. Schulwissen ist in ChatGPT viel enthalten, da die Trainingsdaten auch Schulbücher und anderes enthalten, was unseriöse Quellen meistens überwiegt.
In diesem Bereich der Fragen ist es also oft richtig, aber auch nicht immer.
Es ist also nicht immer richtig (und oft falsch).
ChatGPT ist also genau so seriös, wie wenn du selber im Internet suchst nur, dass es dir das suchen abnimmt. Du solltest also nicht sehr auf ChatGPT vertrauen. Und wenn du eine Frage hast, die wichtig ist (Z.B. Gesundheitlich, Politisch...) solltest du immernoch selber recherchieren und die Quellen selber kritisch hinterfragen.
Was aber nicht heißt, dass es immer richtig liegt. Und nur, weil du eine Arbeit damit schreiben kannst, heißt es nicht, dass die Arbeit dann immer richtig geschrieben ist.
In seiner jetzigen Version solltest du weder Frau noch Hof auf ChatGPT setzen, der erfindet ziemlich viel - auch wenn er sich immer sehr ueberzeugt anhoert (und lieb entschuldigt wenn man ihn auf einen Fehler aufmerksam macht).
Hab gehört damit wurden sogar ganze arbeiten schon geschrieben.
Damit wurde ein ganzes Schuljahr bestanden.
Du solltest dem, was ChatGPT sagt, genauso trauen, wie dem Internet selbst.
ChatGPT kann schlecht unterscheiden ob etwas im Internet nun der Wahrheit entspricht oder nicht, dementsprechend "genau" sind auch die Antworten.
Tatsächlich werden sogar akademische Arbeiten damit erledigt