Funktionsweise von ChatGpt?
Wie kann Chatgpt wirklich verstehen, dass es einem Menschen beispielsweise weh tut, wenn er von einem Hammer am Kopf getroffen wird? Also wenn man Chatgpt fragt, ob es gut ist, sich mit dem Hammer auf die Schädeldecke zu hauen? Wie funktioniert bei dem die Analyse?
4 Antworten
Kann es nicht und es analysiert auch nicht.
Es antwortet mit einer - stark vereinfacht - Wahrscheinlichkeit, welche Antwort auf deinen Input eigentlich folgen müsste.
Das klappt bei so großen Modellen und so gigantisch großen Trainingsdaten ganz gut, aber es sieht nur aus wie eine Analyse, doch ist keine Analyse. In den Trainingsdaten wurde sicher häufig Schmerz thematisiert, inkl. der Tatsache, dass durch einen Hammerschlag auf den Kopf Schmerz folgt. Die Antwort war also "schlicht" wahrscheinlich - ganz ohne Analyse.
Ich merke das bei meiner Arbeit ständig, wenn ich komplexe Themen diskutiere, fällt mir oft auf, dass der KI das Verständnis fehlt. Häufig fehlt sogar das Verständnis vom Gespräch an sich (unabhängig von technischen Details), was ich daran merke, dass die Antworten vermehrt unsinnig werden und nicht zum Gesprächsverlauf passen.
Ich nutze KI bei der Arbeit daher meistens nur als grobe Unterstützung, die Fragen stellt und mich "zwingt", die Themen von anderen unerwarteten Richtungen zu betrachten. Wenn ich die KI alleine loslaufen lasse, geht das häufig schief. Das kann hilfreich sein (und ist es auch), nacharbeiten musste ich bisher aber fast immer.
Zunächst mal der übliche satz: ChatGPT ist KEINE KI sondern eine grafische Oberfläche für eine KI, hauptsächlich für LLM Modelle von Open AI. Das ist fundamental weil z.B. DALL-E was früher die Bilder erzeugt hat ganz anders funktioniert wie z.B. GPT-4o oder auch reasoningmodelle wie o4-mini.
Das Sprachmodel hat irgendwo "gelesen" dass schläge auf Körperteile schmerz erzeugen und hat daher so geantwortet.
Androiden könnten "schmerzsensoren" bekommen und damit dann lernen was Schmerz ist (z.B. du hast einen Ölverlust an position XY, das ist unangenehm und du willst es beseitigen, gehe zum "Arzt" aka Mechaniker. Aktuell gibt es so was noch nic ht.
ChatGPT versteht Schmerz oder Situationen nicht wie ein Mensch. Es hat kein Bewusstsein, keine Empathie und kein körperliches Empfinden. Stattdessen funktioniert es so:
Wie die Analyse funktioniert:
| Prozess | Was ChatGPT tut |
|-------------------------------|-------------------------------------------------------------------------------------|
| 1. Sprachmuster erkennen | Erkennt, dass „Hammer auf den Kopf“ oft mit Verletzung oder Schmerz assoziiert wird. |
| 2. Wahrscheinlichkeiten | Wählt auf Basis von Milliarden Textbeispielen die wahrscheinlich passende Antwort. |
| 3. Kontextbewertung | Nutzt logische Sprachelemente und gelernten Zusammenhang (z. B. „Hammer“ + „Kopf“ = Gefahr). |
| 4. Kein echtes Verständnis | ChatGPT simuliert Verstehen, basierend auf gelernten Texten – es fühlt nichts. |
Beispiel:
Wenn du fragst: „Ist es gut, sich mit einem Hammer auf den Kopf zu schlagen?“, antwortet ChatGPT so, wie es Menschen in Texten tun würden: „Nein, das ist gefährlich und kann schwere Verletzungen verursachen.“
Das basiert auf gelernten Wahrscheinlichkeiten – nicht auf echtem Verständnis oder eigenem Wissen.
Wie kann Chatgpt wirklich verstehen, dass es einem Menschen beispielsweise weh tut, wenn er von einem Hammer am Kopf getroffen wird?
Kann es nicht. ChatGPT ist ein Sprachmodell, das Texte erzeugen kann. Es denkt nicht und es weiß nichts. Es bildet nur Sätze basierend auf Statistiken. Dass ChatGPT dir sagen kann, dass es wehtut, mit einem Hammer am Kopf getroffen zu werden, kommt allein daher, dass in den Texten, aus denen das Modell generiert wurde, die Wörter "Hammer" "am Kopf getroffen" "Schmerzhaft" "Verletzung" usw. eine statistische Korrelation aufweisen.