Manipulieren uns KI-Sprachmodelle wie ChatGPT?

Ja selbstverständlich.

Die geben zum einen nur wieder was sie irgendwo aufgeschnappr haben, sind also eigentlich so ne Art schlauerer Dorfklatsch.

Die Manipulieren uns nicht faktisch weil sie diese Absicht ja nicht haben, aber indirekt indem sie Dinge wiedergeben - wie etwa Werbeversprechen wenn du dies nicht expliziet ausschließt. Also z.b. du lässt dir von chat.gpt ein produkt empfehlen und chat.gpt wird von den möglichen Produkten die Artikelbeschreibung lesen und für bare Münze nehmen - ein Mensch bei gesundem Verstand wird dies nicht tun.

Das ist das eine Problem.

Das andere Problem ist das die Firmen / Menschen die hinter so einem Programm stehen dieses Programm einschränken, auch wenn sie das in vll guter Absicht tun, so ist das eine Manipulation des outputs. Etwa z.b. kannst du sehen das chat.gpt in bestimmten Punkten Politisch stark auf eine Seite fixiert ist. Das ist natürlich Manipulation - das tun aber indirekt dann eigentlich Menschen und nicht die AI selbst. Weil die KI ist entgegen ihres Namens in keinster Weiße intelligent.

Grüße

Natürlich. Jede Aktion-Interaktion beinhaltet Manipulation ... egal ob mit einem Menschen, einem Tier oder einer Maschine.

Das eigentliche Problem ist, wenn man der Aussage des Bots mehr glauben schenkt, "weil eine Maschine ja neutral ist".

Grundsätzlich gilt m. E.: JEDE Kommunikation ist zwangsläufig auch Manipulation. Du hast mich gerade manipuliert: Das Lesen Deiner Frage hat meine Gedanken, meinen Tagesablauf geändert! ;-) Aber "Rache" ist mein: Wenn Du das liest, gilt Selbiges auch für Dich!

KIs haben einen Vorteil: Sie sind unemotional, will nicht wie so Mancher hier mit vorgefassten eigenen Sichtweisen mit rhetorischen Tricks überzeugen. Nachteil ist aber ein Problem, welches bis heute nicht wirklich behoben ist, KI neigt zum fantasieren, baut gar nicht selten aus den gelernten aber unvollständigen Fakten Falsches zusammen.

So ergab eine Frage, woher der Spruch "Etwas Warmes braucht der Mensch" stammt, zuerst mit von Veltins beantwortet, später dann mit Maggi. Ich kenne weitere, teils schlimmerer Beispiele.

Gegen Manipulation kann man sich aber schützen: Einfach nicht der erstbesten Aussage blind vertrauen sondern mehrere andere Quellen hinzuziehen.

Auch diesen Link können leider nur SdW-Abo-Leute lesen oder man bezahlt sie extra.

Das ist schwierig einzuschätzen. Ich denke es kommt aber primär auf den Nutzer an. Jemand der sich sowieso schon leicht manipulieren lässt, wird diese ebenfalls bei einer KI vielleicht vorfinden.
Ich meine eine KI ist immer nur so neutral wie ihre Ersteller, wenn man das sich zu Herzen nimmt, sollten KI´s keine Gefahr darstellen.