Ist euch bewusst, dass chatgpt und Vergleichbare?
eigentlich noch extrem statisch agieren?
Sie lernen z.B. weder durch Nutzeranfragen oder Nutzerkommentare, noch durch ihre eigenen Antworten. Jede Antwort wird unabhängig, neu generiert.
(Was natürlich keine Wertung sein soll. Das könnte sich, bereits grob überblickt, sehr positiv, aber auch sehr negativ auswirken.)
Außerdem hab ich gerade zu einem Thema von einer KI die Info bekommen "Bis zu meinem Wissensstand im Oktober 2023 habe ich keine Informationen über..."
Was auch stark einschränkend klingt, für sinnvolle Antworten, je nach Themenwahl.
5 Antworten
"Bis zu meinem Wissensstand im Oktober 2023 habe ich keine Informationen über..."
Irgendwie unlogisch zitiert. Zudem — statisch — nein, ganz sicher nicht. Vielmehr fügt es manchmal Einzelfakten zu etwas Falschem zusammem —> fantasiert, halluziniert.
Habe grad mal dies versucht:
Du
Wie lernst Du? Ist Dein Wissen statisch?
ChatGPT
Mein Wissen ist statisch und basiert auf den Daten, mit denen ich bis zu meinem letzten Wissensupdate im Oktober 2023 trainiert wurde. Ich kann nicht lernen oder neue Informationen in Echtzeit aufnehmen. Meine Antworten basieren auf den Mustern und Informationen in diesen Daten. Wenn du Fragen hast, helfe ich dir gerne mit meinem bestehenden Wissen!
Du
Ist Dein Wissen statisch? Wie lernst Du?
ChatGPT
Mein Wissen ist statisch und basiert auf den Informationen, die bis Oktober 2021 verfügbar waren. Ich lerne oder aktualisiere mich nicht aktiv; das bedeutet, ich kann keine neuen Informationen hinzufügen oder mich an aktuelle Ereignisse anpassen. Mein Design ermöglicht es mir jedoch, aus verschiedenen Themenbereichen Informationen bereitzustellen und dabei Muster zu erkennen, um Antworten zu formulieren. Wenn du Fragen hast, stehe ich dir gerne zur Verfügung!
das Thema KI wird ja auch immer weiter entwickelt.
Ich denke, bald wird es Roboter geben, die mit dir Kommunizieren, wie mit einem Freund.
Was einfach daran liegt, dass ChatGPT und Co., bzw. die dahinter eingesetzten LLMs, keine KIs sind, sondern lediglich mit Mitteln der KI trainierte Sprachmodelle. Die können nur reden, nicht wissen. Und schon gar nicht sind sie selbstlernende Systeme.
Dieser feine Unterschied entgeht weniger technik-affinen Menschen. Und doch ist er so relevant für die Einordnung der Ergebnisse solcher Modelle.
Die Illusion einer Konversation entsteht dadurch, dass die aufgesetzten Interaktionsportale/-apps im Hintergrund einfach den gesamten Chatverlauf als Input wieder in den Prompt einfügen und dem LLM somit als Kontext zur Verfügung stehen.
Woher immer Du das weißt... 😎 Wie neuronale Netze funktionieren scheint Dir nicht klar zu sein.
Doch, in der Tat schon. Ich weiß, wie Sprachmodelle funktionieren, denn wir entwickeln damit in unserer Firma für unsere Kunden Wissensdatenbanken auf Basis deren Dokumente.
Der Punkt ist: Die Systeme werden trainiert und sind dann statisch. Daher haben sie auch einen "Wissensstand von XY".
Ab diesem Moment setzen sie nur noch aufgrund von Wahrscheinlichkeiten Wörter sinnvoll aneinander, die in einen bestimmten Kontext passen. Fertig. Da ist kein Feedback oder "dynamisches Lernen" vorhanden.
Recht häufig biegen sie dabei aber falsch ab und vermischen Information, die eigentlich nicht zusammengehört -> sie fantasieren.
und dabei entsteht z.B. eine "Klappsicherungsschraube", die nur die KI zu kennen scheint. :-)
Das Wissen ist statisch, bis zum letzten Wissensstand, ja. Aber die Ergebnisse, Antworten auf Fragen sind es im Rahmen des Wissens nicht; habe grad mal diesen Test gemacht:
Du
Wie lernst Du? Ist Dein Wissen statisch?
ChatGPT
Mein Wissen ist statisch und basiert auf den Daten, mit denen ich bis zu meinem letzten Wissensupdate im Oktober 2023 trainiert wurde. Ich kann nicht lernen oder neue Informationen in Echtzeit aufnehmen. Meine Antworten basieren auf den Mustern und Informationen in diesen Daten. Wenn du Fragen hast, helfe ich dir gerne mit meinem bestehenden Wissen!
Du
Ist Dein Wissen statisch? Wie lernst Du?
ChatGPT
Mein Wissen ist statisch und basiert auf den Informationen, die bis Oktober 2021 verfügbar waren. Ich lerne oder aktualisiere mich nicht aktiv; das bedeutet, ich kann keine neuen Informationen hinzufügen oder mich an aktuelle Ereignisse anpassen. Mein Design ermöglicht es mir jedoch, aus verschiedenen Themenbereichen Informationen bereitzustellen und dabei Muster zu erkennen, um Antworten zu formulieren. Wenn du Fragen hast, stehe ich dir gerne zur Verfügung!
Das stimmt - die Antworten sind nicht reproduzierbar. Das liegt in der Natur des Sprachmodells (und aller anderen generativen Modelle auch). Sie antworten eigentlich niemals zweimal dasselbe, denn im Wesentlichen basieren die Antworten auf Wahrscheinlichkeiten.
Im Prinzip ist ein Sprachmodell vergleichbar mir dem alten Spiel, wo man Leute in eine Reihe stellt und jeder darf nur ein Wort sagen. Am Schluss soll ein vernünftiger Satz rauskommen. Der Unterschied beim Sprachmodell ist, dass durch den Prompt ein Rahmen vorgegeben wird, der (wie beim Menschen) beeinflusst, welche Wörter dann im Kontext Sinn ergeben. Wenn das Thema Grillen ist, brauchen wir nicht von Segelbooten zu sprechen.
Jein.
Ich verwende in der Programmierung eine spezielle Syntax. Zum Beispiel wurde es bei uns in der Firma eingeführt, dass im SQL Schlüsselwörter klein geschrieben wird. Usus ist jedoch, dass Schlüsselwörter groß geschrieben werden.
Wenn ich die Hilfe von ChatGPT in Anspruch nehme, schreibe ich "Schlüsselwörter bitte klein schreiben und merk dir das für die Zukunft" und solange ich in derselben Session arbeite, merkt es sich das auch.
Genauso würde es es sich merken, wenn du im Straßenslang mit dem Tool sprechen möchtest.
Beim Starten einer neuen Session, zum Beispiel bei einem neuen Login hat es aber leider wieder alles vergessen. Das könnte man noch optimieren.
nun ja, ich hab die betreffende KI einfach gefragt, was sie mit meinen Eingaben macht, und das noch mal mittels Eingabe und nachheriger Abfrage dieser Eingabe (Beides in der gleichen Sitzung) überprüft, und selbst innerhalb einer Sitzung die (von der KI) selbst benannte "Nichtmerkfähigkeit" bestätigt bekommen.
Ja, die Wiederholung identischer Textbausteine bei ähnlichen Fragen ist auffällig, lediglich ein paar einzelne Wörter werden vom Programm getauscht. Ich tue mich schwer mit dem Begriff "KI", denn allzu intelligent finde ich die Sache nicht.
das stimmt natürlich, was sich mir gegenüber diese KIs schon für Phantasiewörter ausgedacht haben :-))