Deepfake – die neusten Beiträge

Ich kam über eine Antwort in einer anderen Frage drauf, da ging es darum, dass Fakenews viel zu schnell unhinterfragt geteilt werden. Zugleich werden Deepfakes ja immer besser und sehen mittlerweile teils ziemlich echt aus. Was mir da ein wenig Sorgen macht: Wenn jemand mit einem Deepfake versucht, einer anderen Person böswillig etwas Schlimmes in den Mund zu legen, ist das überspitzt gesagt schlimmstenfalls schon durchs halbe Internet geteilt worden, ehe jemand stutzig wird und sagt: Moment, da stimmt doch was nicht!

Was denkt ihr über das Thema?

Wenn man auf Plattformen wie Tiktok, Instagram oder YouTube (Shorts) unterwegs ist, stößt man immer häufiger auf KI-generierte Videos, etwa solche, die mit Sora erstellt wurden.

Schaut man sich die Kommentare an, fällt auf, dass viele Nutzer die Inhalte für echt halten – besonders dann, wenn es keine eindeutigen Hinweise darauf gibt, dass sie von einer KI generiert wurden. Oft sind die Meinungen gespalten: Einige zweifeln, andere sind überzeugt, dass es sich um echte Aufnahmen handelt.

Ich persönlich finde diese Entwicklung sowohl erschreckend als auch gefährlich. Sie eröffnet zahlreiche neue Möglichkeiten – leider auch für Missbrauch, etwa im Bereich Cybermobbing.

Wie steht ihr dazu? Erkennt ihr solche Videos sofort, oder lasst ihr euch manchmal täuschen?

Hallo, ich nutze verschiedene KI-Chatbots wie ChatGPT oder Deepseek. Man liest manchmal im Netz irgendwas über Deepfakes. Was ist das eigentlich? Ich meine, das Wort "Fake" weiß man ja. Manche YouTuber oder auch andere Leute erstellen mit Chatbots wie ChatGPT, DeepSeek oder mit anderen Sachen "Deepfakes".

Oder nutzen diese Leute gar keine KI-Chatbots wie ChatGPT usw. Und was sind z.B. Deepfake-Bilder oder Deepfake-Videos? Heute in den Nachrichten habe ich wieder etwas darüber gelesen und weiß nicht, was das genau ist. Also Bilder oder Videos, die nicht echt sind? Ja, und wie machen die Leute das und womit?

Das hier habe ich zum Beispiel gelesen. Selbst Macron setzt auf "Deepfakes":

https://nachrichten.fr/macron-setzt-auf-deepfakes-kluger-schachzug-oder-riskantes-spiel/

https://entrevue.fr/de/buzz-emmanuel-macron-publie-une-video-surrealiste-montrant-des-deepfakes-de-lui-meme/

Das ist richtig. Deepfake-Anrufe über Plattformen wie Skype oder Zoom sind technisch einfacher umzusetzen, weil sie oft am PC erfolgen, wo leistungsstarke Software einfacher eingebunden werden kann. WhatsApp hingegen ist eine geschlossene Plattform, bei der Deepfake-Videogespräche deutlich komplizierter und seltener sind, da:

1. Technische Einschränkungen: WhatsApp läuft primär auf Mobilgeräten, und Deepfake-Software ist für solche Geräte nicht so weit verbreitet oder leistungsfähig.

2. Echtzeit-Verarbeitung: Deepfake-Videos in Echtzeit zu generieren, erfordert enorme Rechenleistung und eine sehr schnelle Internetverbindung. Das ist auf einem mobilen Gerät über WhatsApp wesentlich schwieriger als auf einem PC.

3. WhatsApp-Sicherheit: WhatsApp bietet Ende-zu-Ende-Verschlüsselung, was es technisch herausfordernder macht, solche Manipulationen live einzuschleusen.

Zusammengefasst: Deepfake-Videogespräche über WhatsApp sind sehr unwahrscheinlich, weil der technische Aufwand und die Anforderungen an die Hardware viel höher sind als bei anderen Plattformen.

Ich würde mich freuen wenn mir jemand weiterhelfen wird . Da ja auch KIs mal daneben liegen können .

Glaubt ihr, dass der folgende Ausschnitt des Gesprächs in irgendeinem Paralleluniversum tatsächlich stattgefunden hat?

https://www.youtube.com/watch?v=QmUzOgL5cTQ

Moin Zusammen!

Ich bin tatsächlich nicht nur selber interessiert sondern muss dazu meine Facharbeit schreiben — also alles zum Thema KI und co.

so nun …

das Problem:

KI kann nicht nur Text, sondern auch Bild und Ton.

Jetzt haben sich sehr „schlaue“ Menschen überlegt — lass uns all dies kombinieren und Pornographische Inhalte Produzieren! Ömm ….. ok?

Naja, Alles schön und gut, bis dann Reale Frauen, Kinder, Männer, … (auch aus dem Alltag, also freunde, bekannte, fremde, …) — ohne deren Willen als Bildmaterial benutzt worden, um diese auf ein Videoformat …. Ihr weist worauf ich hinauswill oder?

Soso … Südkorea hat nun diese Formate verboten und geht so weit, eine Warnung durch verschiedenste Medien auszusprechen

(man solle jegliche Bilder von sich und oder anderen erkenntlichen Personen aus den Medien entfernen, um dieses Problem bestmöglich aus dem Weg zu gehen)

Auf jeden Fall — jetzt kommen wir zur Frage :

ist eurer Meinung nach ein Verbot von „Deepfakes“ …

1. … berechtigt?
2. … wirksam?
3. … auch in Deutschland umzusetzen?

Gegebenenfalls inwiefern?

Freue mich schon auf eure Meinungen zu dem Thema :=)

Hallo,

ich bin auf der Suche nach einem Tool, mit dem man sicher Deepfakes erkennen kann. Es geht mir insbesondere im verschiedene Videos.

Hat da jemand einen Tipp, welches Tool am besten hilft?

Vielen Dank!

Ich weiß nicht, ob gutefrage das Wort für p*rnos zensiert oder nicht, deswegen habe ich mal so umschrieben.

Anfangs war ich total neugierig, aber je mehr Sachen ich gesehen habe, desto unangenehmer wurde es, z.B K-Pop Idols in Pornos zu sehen. Bin auch über Taylor Swift gestoßen. Klar, das sind alles bekannte Leute, aber irgendwie fühlt sich das nicht richtig an. Meins ist es jedenfalls nicht. Ich weiß nicht, ob das auch strafbar ist.

Hallo ich habe angst vor deepfake wenn ich mein Gesicht als Profilbild verwende wie kann ich mich davor schützen

HeyHo,

Wie viele eben mitbekommen haben ist ja gerade EM, und ich war traurig als Österreich durch die Türkei ausgeschieden ist. Daher habe ich mich heute umso mehr gefreut dass die Niederlande die Türkei besiegt hat.

So kommen wir zum Punkt.

Eine Person hat kommentiert das die Türkei trotzdem gut gespielt hat und ich habe darauf geantwortet sinngemäß: Naja gut gespielt. Sie haben sich halt beim 1-0 vor ihr eigenes Tor gestellt.

Die Person hat wieder geantwortet Deine Meinung interessiert mich nicht und ich meinte dann: Ja muss sie auch nicht. Aber es gibt Meinungsfreiheit.

Daraufhin hat mir die Person gedroht das sie ein Bild von mir auf meinem Profil gescreenshotet hat und daraus ein pornografisches AI Video machen wird und es auf XHamster hochladen wird und es jedem schickt. Weil man auf öffentliche Inhalte im Internet (mein Foto) frei Zugriff hat

Ich habe dann relativ selbstsicher geantwortet: Das ist illegal. Aber tu was du nicht lassen kannst. Du hast deine Meinung und ich meine und da ist nichts falsch dran.

Dann hat die Frau mit den Lyrics von dem Song der bei meinem Foto dabei war geantwortet.

Und ich meinte sie soll mir privat schreiben ich will das klären. Jedenfalls können wir uns privat ned schreiben weil sie folgt mir ned und ich ihr ned (Hab mein Konto jetzt auf Privat gestellt).

Jedenfalls nach 20min sind alle Kommentare noch da bis auf den wo sie mir mit dem Deepfake droht und der mit den Lyrics.

Dann hat mir eine andere Person geantworte das ich "ihn" (warum auch inmer ihn, wenn es eine Frau war) direkt melden soll aber die Person hat genau nur 1 Follower und das ist zufälligerweise genau der selbe einzige Follower den diese Frau die mich bedroht hat auch hat.

Was soll ich tun?

Einfach keine Sorgen machen weil eh nichts passieren wird oder abwarten? Oder was?

Es gibt bestimmt einige Leute die Deepfake Pornos machen mit dem Gesicht von ihrem crush. Dann haben sie einen Porno von ihrem crush, toll. Aber wieso würde man sowas wollen? Man schaut dann wie jemand anderes mit ihr schläft, das macht doch gar keinen sinn. Warum sollte man sowas tun?

Ich schaue gerne Videos einer Youtuber-Gruppe und ein Mitglied davon ist die meiste Zeit einfach nur nervtötend und toxisch (absolut untertrieben), was den Vibe der Videos komplett zerstört. Es gibt ja verschiedene Tools, mit denen man den Gesang oder die Vocals aus Songs entfernen kann.

Gibt es eine Möglichkeit, EINZELNE Stimmen (am Besten in Echtzeit - mein Rechner ist sehr leistungsstark) aus Videos wegzumaskieren? Vielleicht durch KI? Um ihr die Stimme anzutrainieren, gäbe es mehr als genug Samples.

Ähnlich verhält es sich bei Anime. Ich schaue echt gerne Anime, aber wenn dann ein Charakter mit dieser typisch schrillen Akkuschrauber-Stimme ankommt, habe ich echt zu kämpfen. Diese würde ich gerne ein oder zwei Oktaven runtersetzen. Auch hierbei wäre das Antrainieren der Stimmen kein Problem.

Wie hoch muss CPU(Prozessor) sein welche Grafikkarte ist besser für diese Programme wo oben steht wieviel Arbeitsspeicher maximum ist ausreichend bei Notebook für diese Programme?

Mein Notebook Eigenschaften

Model : Sony Vaio VGN-AR41L

Prozessor: Intel Core 2 Duo T7100 2 x 1.8 GHz (Intel Core 2 Duo)

Grafikkarte: NVIDIA GeForce 8400M GT - 128 MB VRAM.

Betriebssystem: Windows 10 64Bit

Arbeitsspeicher: 4GB DDR2

Festplatte: 595GB HDD

Danke für die schnelle Antworten voraus

Ich habe das Bild vorhin auf Twitter gesehen, aber ich glaube nicht so Recht, dass das die Beiden sind, oser?

Ich möchte eine Präsentation in der Schule über deepfakes halten doch bin mir noch unsicher wie ich meine Gliederung aufstellen soll, sodass es nicht zu schwer oder zu langweilig seien wird. Welche Fragen sollte ich also in meiner Präsentation beantworten?

Ich hab vorhin ein Song gehört der komplett von einer KI gemacht wurde. Also Text, flow und so von dem macher und die KI nur die Stimme vom echten Künstler drauf gemacht. Und man merkt es 0. Es wirkt wie ein echter Song von ihm. Aber wenn das geht, kann man auch jede Person alles sagen lassen was mann will, dass noch in Kombination mit deepfake (die auch immer krasser werden) ist krank gefährlich. Man könnte zum Beispiel Biden einfach sagen lassen "wir starten den dritten Weltkrieg gegen Russland und China" und es würde sich wie ein Lauffeuer verbreiten. Und wenn dann nicht schnell genug ein dementi veröffentlicht wird, oder zum Beispiel Putin einen nervösen Moment hat und auf den Knopf drückt (bzw er und der andere den Schlüssel umdrehen, weil er nicht alleine irgendwas losschicken kann). Dann ist einfach Ende.

Aber es muss nicht mal das sein, stell dir vor der ex Partner macht sowas und lässt dich keine Ahnung was sagen oder so und postet das überall, dann ist die Privatperson einfach dauerhaft geschädigt weil die meisten das glauben oder denken dass ist echt. Vorallem bei Frauen kann das schlimm sein wenn man das Gesicht auf irgendwelche random nackten Frauen packt. Und dann wird man überall damit konfrontiert von irgendwelchen Idioten. Also KI/AI kann zwar geil und lustig sein aber es kann auch sau gefährlich sein.

Jetzt die Frage:

Wie warscheinlich ist es das sowas in Zukunft wirklich passiert? Bei Privatpersonen warscheinlich leider öfter, aber ist es etwas worüber man sich wirklich Gedanken machen muss?

Überall sieht man wie Künstliche Intelligenz erstaunliche Bilder und Videos generieren kann.

Mit welcher Software oder Webseite kann man hochauflösende Bilder und Videos generieren? Was ist da am geeignetsten?

Hallo,

wir wollen als Geburtstagsüberraschung für jemanden ein "Deepfake-Video" erstellen.

Allerdings soll nicht ein eigenes Gesicht auf ein anderes drauf projiziert werden, sondern ein bekanntes Gesicht (Robert DeNiro) genutzt werden Ob dieses auf ein anderes projiziert wird oder im Original benutzt wird ist nicht wichtig.
Das muss auch nicht total echt aussehen. Es geht mehr um den Spassfaktor...

Ich weiß nicht, ob es für sowas Endbenutzer-Software gibt oder ob das unter professionelle Spezialeffekte fällt. Weiß da jemand mehr bzw. ob sowas mit Endnutzer-Software (oder Online-Dienst) möglich ist ?

Wie kann ich ein von KI. erstelltes Bild mit einer Person die es gibt generieren lassen? Also zum Beispiel dass Falco in einem Zug sitzt (oder wo auch immer) obwohl es dieses bild gar nicht gibt, also einen moment machen der nie so gewesen ist. Gibt es eine App oder eine Website dafür?

Gibt es eine einfache Methode oder sogar ein eigenes Tool oder Website um Text zu faken / photoshoppen.
Muss nur den Namen ändern aber es ist kein perfektes Foto (Schrift verpixelt weil klein auf dem Foto).
Bitte keine Antworten die hinterfragen wofür ich es brauche, sondern hilfreich sein :)

PS: Kenne mich relativ gut mit Photoshop aus also müsst es nicht wie einem Baby erklären :)

Ich muss gestehen ich fand das CGI grauenvoll! Hat den gesamten Film versaut. Wer bitte kann so unrealistische jung machende cgi gut finden? Wahrscheinlich Honks die auch noch Jurassic Park Teil 15 gut finden. So hätte das CGI eigentlich aussehen müssen (am Heimcomputer erstellt):

https://www.youtube.com/watch?v=dHSTWepkp_M

Kann es sein das meine CPU kein avx unterstützt und was kann man dagegen tun?

Benutze deepfacelab

Bin kein Experte bräuchte klare Anweisungen. Und antworten was für Nachteile es hat wenn ich vielleicht ein Befehl am PC eingeben muss.

Es kommt ja gar keiner zu schaden.

Vielleicht kennt ihr diese weirden animierten Bilder, als ich mal nachgeguckt hab wie man sowas erstellt bin ich auf einen Deepfake Bot auf Telegram gestoßen. Das einzige was man machen muss ist ein Bild und ein Video dem Bot schicken und der schickt einem dann nach einer langen Wartezeit das fertig animierte Video (Mp4 Datei). Meine frage ist ob und wie wahrscheinlich es ist, dass man sich irgend eine Art von Schadsoftware auf's Smatphone dadurch holt und wie man das am besten erkennen kann.

Ist es für jemanden möglich ein Deep Fake so heftig zu machen das es realistisch blinzeln ist Haare mit Details in die Fälschung über Fliesen und die rund Umgebung mit gefaket ist so dass es wirklich nicht zu erkennen ist. / wer sowas schafft muss das doch dann professionell schaffen oder ?

Hey ist es schlimm, wenn mein PC die CPU Auslastung für beisp. 2 Stunden durch gehend auf 100 ist? Ein Programm benötigt 88-99, hab sonst nichts mehr am laufen, nicht einmal Explorer.exe. brauche es für ein Programm. Welche Folgen kann dies haben?