Kann man mit KI einen echt-zeit Faktencheck durchführen, so das man diese Beispielsweise neben dem Radio legen kann, während sie Falschaussagen erkennt?
Das wäre irgendwie voll praktisch
Ich meinte eher wie man das machen kann, und ob das schon möglich ist. Nicht ob das überhaupt möglich ist.
11 Antworten
In gewissen Rahmen kann KI das, allerdings weißt Du nicht, wo dieser Rahmen endet - Du hast also keine Garantie, was das ganze wenig hilfreich macht.
KI kann nur das "wissen", womit sie trainiert wurde, aber auch in diesem Umfang kommt es vor, dass KI sich Details ausdenkt. Je ausführlicher und häufiger das Thema dokumentiert (und damit trainiert) wurde, desto unwahrscheinlicher ist dieses Risiko, aber es ist niemals 0.
Alternativ kannst Du die KI auch Online-Recherchen durchführen lassen, damit bekommst Du aktuellere Informationen, allerdings kann es auch hier Falschinformationen geben, da die Suchmaschine einen Bias wiederspiegelt und die KI nicht zuverlässig erkennen kann, ob eine der Quellen falsch ist.
Wenn es dir darum geht, die grobe Glaubwürdigkeit von umfassend dokumentierten Informationen geht (z.B. halbwegs komplexen wissenschaftlichen Details), dann KI durchaus hilfreich sein, aber nur unter dieser Einschränkung. Du solltest nicht alles Wort für Wort glauben, aber bisher habe ich keine schwerwiegenden Fehler festgestellt, solange das Thema nicht zu aktuell ist.
Wenn Du aber aktuelle politische Aussagen überprüfen lassen willst, ist KI nahezu nutzlos. Und wenn es auch um Meinungen geht, wird es sehr unsicher, ob die KI die Aussage als Meinung erkennt oder nicht, das ist für die korrekte Reaktion aber kritisch.
Technisch machbar ist es schon, aber es bringt ein paar Probleme mit. Spracherkennung und entsprechende Verarbeitung ist schon jetzt möglich und funktioniert auch sehr gut, allerdings ist die Spracherkennung insbesondere bei schwieriger oder schneller Sprache häufig nicht zuverlässig genug, um zuverlässig dem Radiosender zuhören und entsprechend reagieren zu können.
Zwei Herausforderungen gibt es:
- Latenz - KI, insbesondere die Reasoning-Modelle, brauchen Zeit für ihre Antwort, sodass es schnell zu einem Versatz kommt, was bei einem laufenden Radiosender schnell zum Problem wird. Du könntest ein Modell ohne Reasoning verwenden (die halluzinieren tendentiell auch weniger), allerdings verlierst Du dann auch die Vorteile.
- Stream - KI braucht eine klar begrenzte Eingabe, die sie verarbeiten kann. Aktuelle LLMs können keinen kontinuierlichen Eingabestream verabreiten, Du musst die Radio-Aufnahme also ein gezielt aufgeteilten, möglichst klein, die das LLM dann einzeln verarbeiten kann, ansonsten würdest Du erst irgendwann später feststellen, dass die Aufnahme zu groß ist und Du keine Antwort bekommst. Du müsstest die Sprache also grundlegend analysieren können, ohne dass das LLM dabei hilft, was insbesondere bei schneller, komplexer und potentiell überlappender Sprache mit Hintergrundgeräuschen (z.B. Musik) - wie bei Radio- oder Fernsehsendern üblich - sehr schwer ist.
Du könntest aber von dir einzeln mitgeschnittene Aufnahmen hinterher in die KI füttern und beurteilen lassen, das ist schon heute problemlos möglich - mit den oben genannten Einschränkungen.
Kann man mit KI einen echt-zeit Faktencheck durchführen
Dazu müsste die KI die Fakten kennen. Eine KI kann aber nur das erkennen, womit sie trainiert wurde. Vereinfacht: wenn 10.000 der Trainingsdatensätze sagen, der deutsche Bundeskanzler heiße Donald Duck und 100 Trainingsdaten sagen, er heiße Robert Habeck - wird die KI niemals auf Friedrich Merz kommen.
Eine KI ist Software, die besonders gut darin ist, Muster zu erkennen. Mehr ist das nicht.
Alex
Nein. Ob nun Echtzeit oder nicht, einen glaubwürdigen Faktencheck kann man mit einer KI - ich nehme mal an damit meinst Du Chatbots wie ChatGPT - nicht durchführen.
Im besten Falle kannst Du nach den Quellen fragen, die für den "Check" benutzt wurden, musst dort aber dann noch manuell prüfen, ob die KI das auch korrekt übernommen hat.
Falls Du von KI allgemein redest, also ob man z.B. eine eigene KI dafür entwickeln könnte, das ist an sich möglich.
Das Problem, bzw. die Schwierigkeit bei bestünde aber darin eine umfangreiche Datenbank mit echten (und ggf. auch mit falschen) Fakten zu haben, mit der die KI arbeiten kann.
Eine KI das selbstständig lernen zu lassen, wird nicht gehen. Selbst wir Menschen haben ja nichteinmal klare Anhaltspunkte, um simpel zwischen Fakenews und Wahrheit zu unterscheiden.
Das ist WIP (Work in Progress), also etwas an dem gearbeitet wird.
Eine Idee ist ein System zu entwickeln, daß dann bei Talkshows als 'Schiedrichter' die aussagen bewertet und Informationen für den Zuschauer daheim einblendet, inklusive der Quellen.
Allerdings ist die Echtzeit-Anforderung natürlich eine zimeliche Hürde.
Aktuell ist keine KI in der Lage, dies zu leisten. Es wäre jedoch äußerst praktisch, wenn sie es könnte - eine enorme Zeitersparnis für alle, die sich Informationen mühsam selbst beschaffen müssen. Natürlich nur unter der Voraussetzung, dass alle von der KI gelieferten Informationen korrekt und verlässlich sind.