Wird die KI von ChatGPT & Co. mit der Zeit nicht schlauer, sondern dümmer?
Die meisten KI-Chatbots wie ChatGPT basieren ja darauf, dass sie ständig Inhalte des Internets scannen und daraus "lernen". LLM (Large Language Models) wie die hinter ChatGPT funktionieren so.
Nun werden aber immer mehr selbst von der KI generierte Inhalte ins Internet geladen und geteilt: Bilder, PFDs, Code-Snippets, ganze Webseiten und neuerdings sogar Zeitungsartikel und Youtube-Videos, die mit ChatGPT erstellt wurden. Teils sogar vollautomatisch.
- Wenn das Internet von immer mehr KI-Inhalten geflutet wird, füttert sich die KI dann quasi selber?
- Wird sie dadurch dümmer?
Sprich: Nimmt die Qualität der ChatGPT-Antworten zunehmend ab? Weil sie immer mehr "sich selbst" vertraut, also den Inhalten die mit ChatGPT erstellt wurden. Weil menschgemachte Inhalte verdrängt werden.
9 Stimmen
5 Antworten
Das sind eben noch keine KI sondern komplexere Suchmaschinen und dementsprechend darauf angewiesen was sie finden und ihre Algorithmen (beides wird ständig direkt und indirekt angepasst und das oft nicht mit dem ziel sie objektiv intelligenter zu machen).
Von KI würde ich frühestens dann reden wenn KI trainieren kann und sich dadurch verbessert - wenn wir aber jetzt zwei Chatbots aufeinander loslassen werden sie sehr schnell sehr nennen wir es mal "Simpel"
Was du beschreibst ist ein bekanntes Problem. Erste KI Chatbots wie Cleverbot sind tatsächlich daran gescheitert.
Zwar wurde Cleverbot nicht mit seinem eigenen Unsinn gefüttert, sondern den von Nutzern, aber das Prinzip war ähnlich. Heute redet der nur noch rassistischen Unfug.
OpenAI füttert heute aber z.B einen Großteil der anderen KI's. Deepseek z.B der chinesische Konkurrent, wurde durch OpenAI's Trainingsdaten trainiert.
Bei OpenAI gibt es aber meines Wissens nach Filtermechanismen, um genau so einen Supergau zu verhindern. Außerdem haben die sicherlich zur Not snappshots anderer Versionen gespeichert um zur Not einen rollback machen zu können.
An dem Gedanken ist was dran.
Mit dieser "Rückkopplung" müsste ChatGPT eigentlich irgendwann anfangen zu pfeifen! :-)
Kann eine KI den eigenen Dünnseich erkennen (und folgerichtig verwerfen)? Kann eine KI den Dünnseich fremder KIs erkennen?
Füttert die KI dann die Konkurrenz bewusst mit dem eigenen oder fremden Dünnseich? (und wird natürlich umgekehrt auch mit Dünnseich gefüttert?)
Gute Gründe, der eigenen NI zu vertrauen und auf die KI zu pfeifen!
Womit wir wieder beim "Pfeifen" wären!
weil sie laufend weiter Entwickelt wird und sich rasant verbessert, auf jeder Ebene
ja, wird auch ständig neu geranked und aufgelistet und getestet, völlig unabhängig ohne die Anbieter, warum auch?
Von wem wird getestet und geranked und anhand welcher Kriterien? Weißt du da etwas genaueres?
einfach selber nach Googeln, gibt wirklich tausende die es Testen und auch angeben wie genau etc. auch oft in Fachzeitschriften zu finden
Mittlerweile ist es besser, die KI lernt von sich selbst.
Nein, tut sie derzeit noch nicht, wenn das der Fall wäre könnten wir auch tatsächlich von KIs anstelle nur Chatbots sprechen.
Der Algorythmus ist aber derzeit nicht in der Lage sich tatsächlich selbst zu reflektieren mit dem Ergebnis das er eben nicht wirklich lernt (wenn zwei Chatbots mit Einander Kommunizieren, werden sie derzeit "dümmer" udn nicht schlauer, was zeigt dass es sich eben noch nicht um KI handelt)...
...behaupten die KI-Anbieter. Schaut sich aber irgendwer mal die Inhalte im Detail an?