Wie kann dieser Text von künstlicher Intelligenz (Chatgtp)stammen?
es klingt einfach als wäre es von einem Menschen geschrieben
5 Antworten
Ich gehe davon aus, dass Chat GTP die Sätze aus vorhandenen, im Internet befindlichen, Texten "zusammenbastelt". Wobei es sich nicht um die Übernahme ganzer Sätze, sondern nur von Teilen von Sätzen handelt. Auf diese Weise kann man auch als Anfänger beste fremdsprachliche Texte schreiben, wenn man nach Teilsätzen googelt, ob es die bereits gibt und wie oft und anschließend die Teilsätze zusammenfügt bzw. "überlagert". Wobei man dann noch seltenere Wörter durch häufigere tauscht, damit es überhaupt Treffer gibt. Leider kann ich nicht programmieren und mache das per Hand.
Wenn dies so ist, kann KI nicht erkannt werden, außer man fragt so speziell, dass man davon ausgehen kann, dass ein ähnlicher Text im Internet nie veröffentlicht wurde. Das geht durchaus mit Fragen aus Physik, Chemie oder Mathe, wenn die etwas anders als üblich sind und merkwürdig formuliert. Dann geht ChatGPT zwar auf das Thema ein, die Antwort ist jedoch ziemlich sicher falsch.
Sprachmodelle wie ChatGPT machen grundsätzlich nichts anderes als Next word prediction. D.h. welches Wort folgt mit höchster Wahrscheinlichkeit (oder auf Platz 2, 3, ... - der sogenannte temperature-Parameter - niedrigere Ränge machen übrigens einen kreativeren, weniger künstlichen Eindruck beim Lesen) auf die vorherigen Wörter.
Diese Wahrscheinlichkeiten ergeben sich aus dem Trainingsmaterial. Dieses wird komprimiert in den Gewichten des neuronalen Netzwerkes abgespeichert, den sog. Embeddings.
Diese Embeddings muss man sich als hyperdimensionalen Raum vorstellen, in dem in jeder Dimension eine Art der Ähnlichkeit zwischen zwei Wörtern abgespeichert wird.
Zwei Wörter sind ähnlich und im hyperdimensionalen Raum in der Nähe angeordnet, wenn sie z.B. Synonyme sind, aus dem gleichen Themenbereich stammen, häufig nebeneinander auftauchen, das gleiche in verschiedenen Sprachen bedeuten, usw.
Wenn du ein solches Sprachmodell dann mit einer Frage triggerst, spuckt es Wort für Wort (bzw. Token für Token) das nächste Wort (Token) aus, das den vorigen in diesen Embeddings am nächsten ist. Dadurch ergibt sich quasi bei jeder Anfrage eine neue Trajektorie durch deren hochdimensionalen Raum.
Diese Zusammenhänge sind genau die beschriebenen Ähnlichkeiten, also was in den Trainingsdaten oft gemeinsam auftauchte.
ChatGPT kann auch einfache Logik, soweit sie aus den Oberflächeneigenschaften von Sprache ableitbar sind, erlernen, und dadurch gewisse logische Operationen durchführen.
Es ist aber z.B. nicht in der Lage, alles, was Rekursion, also bestimmte Schleifen zur Abarbeitung benötigt, auszuführen, weil diese Rekursion nicht in seine Architektur eingebaut ist.
Darum macht es Fehler bei Fragen wie: ist diese Abfolge von Klammern auf und zu korrekt: "(()(())()"?
Auch einfache mathematische Rechenoperationen machen ihm Schwierigkeiten, weil es diese scheinbar nicht aus den gelernten Texten abstrahieren konnte.
Sehr schön hier nachzulesen: https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
https://writings.stephenwolfram.com/2023/01/wolframalpha-as-the-way-to-bring-computational-knowledge-superpowers-to-chatgpt/
Spätestens beim Wort "erhalten" sieht man sofort, dass der Text entweder von einem Anfänger oder von irgend einer der vielen KI geschrieben wurde, die derzeit im Internet herumgeistern.
Nee, es gibt Leute, die sich so "geschraubt" ausdrücken. Ebensogut könnte "erhalten" jemand geschrieben haben, dessen Muttersprache nicht Deutsch ist, der aber trotzdem über das Thema Bescheid weiß, also kein "Anfänger" ist.
es klingt einfach als wäre es von einem Menschen geschrieben
Nein. Völlig ohne Emotionen und unter Verwendung der immer gleichen Phrasen. Das ist ein schönes Beispiel für typisches KI-Geschreibsel.
Ganz einfach
Die KI die dies geschrieben hat ist auf Texte trainiert.
Die Texte die die KI analysiert hat und die als Grundlage dienen stammen von Menschen.
Hätte sie keine poetischen Texte zum üben gehabt, oder Bedienungsanleitungen oder Beipackzettel von Rezepten, dann würde es ganz anders klingen.
Für mich klingt das übrigens ganz und gar nicht menschlich, sondern sehr künstlich und irgendwie abgeschrieben von etwas anderem.
Nö, denn du kannst eine Ki mit gewünschten Schreibstil schreiben lassen
Der Schreibstiel ergibt sich durch die Texte mit der die KI trainiert wurde
Nicht, wenn man der KI eine andere Sprache beibringt. Da sie in der Lage ist, Zusammenhänge herzustellen kann sie das Trainierte Material (Welches mit einer anderen Schreibweise geschrieben wurde) auch in einer anderen Schreibweise ausgeben.
Natürlich bedeutet andere Sprache auch andere Schreibweise und nicht nur Worte übersetzen
aber es erkennt auch Zusammenhänge usw.