Wie gefährlich kann KI in Kombination mit Deepfake in den falschen Händen sein?

Ich hab vorhin ein Song gehört der komplett von einer KI gemacht wurde. Also Text, flow und so von dem macher und die KI nur die Stimme vom echten Künstler drauf gemacht. Und man merkt es 0. Es wirkt wie ein echter Song von ihm. Aber wenn das geht, kann man auch jede Person alles sagen lassen was mann will, dass noch in Kombination mit deepfake (die auch immer krasser werden) ist krank gefährlich. Man könnte zum Beispiel Biden einfach sagen lassen "wir starten den dritten Weltkrieg gegen Russland und China" und es würde sich wie ein Lauffeuer verbreiten. Und wenn dann nicht schnell genug ein dementi veröffentlicht wird, oder zum Beispiel Putin einen nervösen Moment hat und auf den Knopf drückt (bzw er und der andere den Schlüssel umdrehen, weil er nicht alleine irgendwas losschicken kann). Dann ist einfach Ende.

Aber es muss nicht mal das sein, stell dir vor der ex Partner macht sowas und lässt dich keine Ahnung was sagen oder so und postet das überall, dann ist die Privatperson einfach dauerhaft geschädigt weil die meisten das glauben oder denken dass ist echt. Vorallem bei Frauen kann das schlimm sein wenn man das Gesicht auf irgendwelche random nackten Frauen packt. Und dann wird man überall damit konfrontiert von irgendwelchen Idioten. Also KI/AI kann zwar geil und lustig sein aber es kann auch sau gefährlich sein.

Jetzt die Frage:

Wie warscheinlich ist es das sowas in Zukunft wirklich passiert? Bei Privatpersonen warscheinlich leider öfter, aber ist es etwas worüber man sich wirklich Gedanken machen muss?

künstliche Intelligenz, Deepfake

Meistgelesene Fragen zum Thema Deepfake