Wie werden KI-Echokammern verhindert?

2 Antworten

Vom Fragesteller als hilfreich ausgezeichnet
Inhalte und werden deren Nachteile (Fake News, fehlende Quellen) dadurch verstärkt?

Ich denke das eine verstärkung durchaus stattfinden kann. Ki produziert Müll. Müll gelang in netz und es wird drüber berichtet. KI nutzt die berichte um weiter zulernen. KI Produziert entsprechend mehr müll.

Dieses Ringverweise gibts auch bei Wikipedia. Quasi: Etwas steht in wikipedia. Ein Artikel berichtet über die sache und benutzt dafür wikipedia. (Quelle ggf. nicht angegeben.) Der artikel landet als belag und verweis unter dem gleichen Wikipedia artikel.

Wie man solch Einen teufelskreis verhindern kann? In dem man dafür sorgt das KIs nur mit Primären quellen oder wenigstens hochwertigen sekundären quellen gefüttert werden und selbst nicht als quelle oder maximal tertiäre quelle gelten dürfen.

Das was chat GPT dir am ende sagt ist nicht mehr wert als was ich dir sagen oder jeder andere Mensch. Es ist imgrunde nichts anderes als eine Form des Hörensagens.

tunik123  25.01.2024, 10:49
Das was chat GPT dir am ende sagt ist nicht mehr wert als was ich dir sagen oder jeder andere Mensch.

Es ist sogar viel weniger Wert. Wenn ich etwas sage oder hier schreibe, gebe ich immer eine Information mit, für wie wahrscheinlich ich es halte, dass das stimmt. (zumindest eine Quellenangabe)

0
FouLou  25.01.2024, 11:10
@tunik123

Stimmt. Das Macht Chat GPT nicht per se. Geht aber streckenweise auf aufforderung wie ich das mitbekommen habe.

0
EinTyppie  25.01.2024, 13:08
@FouLou
Geht aber streckenweise auf aufforderung wie ich das mitbekommen habe.

Nicht wirklich. ChatGPT erfindet wörter, und rät, welches Wort am besten als nächstest kommt. Wenn du nach Linkst fragst, werden sehr viele davon fake sein, keinen Sinn ergeben usw. Oder garnix mit dem eigentlichen Thema zu tun haben. ChatGPT hat nichts mit quellenangaben und quellenbezug zu tun, sondern reinem text erfinden, der durch das trainierte wissen beeinflusst wird. Aber quellenangaben kannst du vergessen

0

Das von dir beschriebene Problem ist eine Angriffsfläche. Mit gezielten Angriffen lässt sich das Phänomen vorsätzlich provozieren.

Wie man es verhindert? Indem man so viele Löcher stopft, wie möglich. Eine tatsächliche Lösung gibt es noch nicht.