Kann Künstliche Intelligenz Menschen manipulieren?

JA ... klar kann sie das - und tut sie auch, durch jede ihrer Antworten, Aktionen und Maßnahmen.

Die Frage sollte eher sein: Kann eine KI eine bewusste und zielgerichtete Manipulation eines Menschen aus- und durchführen?

Das wäre wiederum vermutlich nur bei einer Super-KI möglich - eine, welche sich ihrer selbst bewusst und somit in der Lage ist, eigene, nicht einprogrammierte Ziele zu verfolgen.

Ja - Künstliche Intelligenzen sind gefährlich - und werden zukünftig immer gefährlicher.

Da KI aktuell kein echtes Bewusstsein besitzt, dürfte sie selbst auch keine Intention besitzen ihre Nutzer zu manipulieren.

Die Betreiber/Entwickler einer KI könnten eine KI jedoch dahingehend programmieren, das deren Antworten manipulative Wirkung auf Nutzergruppen haben.

Da normale Nutzer nicht zwischen der KI, als Prozess/Algorithmus , verwendeten Traininsdaten und den Betreibern differenzieren, sehen sie das Gesamtsystem als KI.

In diesem Sinne:

Na, ja. Sie könnte unwahre Tatsachen so im Internet verbreiten und zwar so, dass es möglich viele Menschen glauben.

Sie kann entscheiden, dass du keinen Kredit bekommst, obwohl Einkommen und Zahlubgsmoral OK sind. Aber du wohnst eben in einem Stadtteil mit vielen Schuldnern. Blöd, oder?

Fühlst du dich dann manipuliert?

Jein.

Kommt darauf an.

Schönes abent