Kann ein Chatbot bewusst aus Fehlern lernen?
Auf meine Frage, ob der Bot aus Fehlern lernen kann:
Danach schreibt der Bot aber auf eine Frage:
Kann der Bot überhaupt aus Fehlern lernen, wenn er doch kein Erinnerungsvermögen, so wie wir es kennen, hat?
6 Antworten
Ein Bot lernt auf Basis von Wahrscheinlichkeiten, nicht auf Basis von Bewusstsein und Emotionen.
Bots haben ein Netzwerk, das der Struktur von Teilen des menschlichen Gehirns entspricht (Neuronenbahnen,...) aber sie haben nicht die Teile des Gehirns wie Amygdala, Kleinhirn, Stammhirn, etc. - somit hat der Bot keine menschlichen Eigenschaften, sondern nur die logischen.
Ein Bot kann lernen, aber nicht bewusst.
Ein Chatbot kann gar nichts bewusst und Fehler erkennt er auch nicht selbständig.
Er könnte aber lernen, wenn die Entwickler es zulassen würden. Gab's schon mal und eine "nette" Internet-Community hat den mit koordinierten Chats radikalisiert.
Kann der Bot überhaupt aus Fehlern lernen, wenn er doch kein Erinnerungsvermögen, so wie wir es kennen, hat?
Er lernt durch Anpassungen der Berechnungsparameter für die Wahrscheinlichkeitsberechnungen.
By the way funktioniert unser Gehirn ähnlich, daher kommt ja überhaupt das Konzept hinter diesen Bots, das haben wir uns abgeguckt. Und ich denke, dass exakt das eine Form von Gedächtnis ist, nur ist es bei uns deutlich umfangreicher und es kann sich durch die biologische Flexibilität deutlich besser an sich ändernde Bedingungen anpassen. Im Grunde hat der Bot also schon ein Gedächtnis wie wir, nur sehr viel einfacher und auf eine sehr kleine und sehr einfache Aufgabe beschränkt.
Wir wissen doch gar nicht wie unser Gehirn wirklich funktioniert.
Hab ich auch nicht behauptet.
Neuronale Netze mögen sich vom Ergebnis ähnlich verhalten
Das habe ich in der Tat behauptet.
aber mit völlig anderen "Mechanismen"
Natürlich, unsere Software-"Interpretation" ist eine sozusagen "digitalisierte" Arbeitsweise, doch das zugrunde liegende Konzept bleibt gleich, wenn auch nicht elektrisch oder mit Software-Abläufen, sondern Bio-Chemisch. Und soweit ich weiß ist das sehr wohl bekannt, womit die Wissenschaft noch Probleme hat, ist die Bereiche des Gehirns bzw. deren Bedeutung zu verstehen. Das Zahnrat ist sozusagen bekannt, die Maschine aber noch nicht.
Es kann natürlich immer noch sein, dass sie irgendwann etwas völlig neues finden, aber das gehört dazu, davon gehe ich aus, dass das klar ist.
Zudem weiß auch niemand, was Bewusstsein ist, wie es entsteht.
Habe ich auch nicht behauptet.
Was ich im letzten Absatz (bis auf den ersten Satz) geschrieben habe, war meine Theorie, wie das Gehirn funktioniert und mit dieser Theorie kann ich alles, bis auf das Bewustsein, erklären. Das Problem beim Bewustsein ist aber ein anderes, da ich selber nicht wirklich "greifen" kann, was das Bewustsein ausmacht, kann ich auch nicht prüfen, ob meine Theorie das Bewustsein erklären kann.
Hirn, Nerven funktionieren eben nicht rein Digital, auch sind Speicher und "CPU" im Hirn keineswegs so strikt getrennt wie in einem Rechner. Daraus ergeben sich m. E. völlig andere "Rechenmethoden". Und: Man vergleiche mal die "Taktfrequenzen" von Hirn und PC...
Auch davon habe ich nichts behauptet.
Die Rede war von dem Konzept und nicht, dass die Bauteile gleich sind.
Ich bin der Meinung (Achtung: Das ist meine Theorie, keine Faktenbehauptung), dass das Gehirn vollständig nur "Gedächtnis" ist, aber mit verschiedenen Priorisierungen, wie z.B. dem Sehvermögen. Das Gedächtnis ist das neuronale Netzwerk und das neuronale Netzwerk ist das lernende System im Gehirn, die Erinnerungen sind die im Netzwerk "gelernten" Bilder, Emotionen, etc. auf Basis von anderen Dingen, wie z.B. besonders intensiven Emotionen wie Freude. Die Fähigkeit, nachzudenken, wie man ein Problem lösen kann, ist die aufeinander folgende Abfrage verschiedener "Erinnerungen" und die Kombination von verschiedenen "Erinnerungen", die zu einem neuen bisher unbekannten Ergebnis führen - darin sind auch digitale neuronale Netzwerke gut.
Das erklärt auch, warum das Gehirn intern so "ineffizient" mit Hormonen arbeitet, anstatt mit elektrischen Signalen, mit denen es "intern" ja auch schon arbeitet. Die Hormone sind sozusagen die "Eingabeinformationen", mit denen das neuronale Netzwerk trainiert und abgefragt wird, allerdings gibt es keine klar definierten Eingangssignale. Elektrische Signale sind im Gehirn ständig unterwegs, die Hormone beeinflussen biochemisch die Übertragung zwischen den Neuronen und damit auch die "Berechnung" der ständigen Ergebnisse und somit auch das Ergebnis, also ob man sich z.B. an ein trauriges, oder an ein freudiges Bild erinnert. Nur ist das Bild nie eine exakte Nachbildung der vergangenen Realität, sondern immer eine durch andere "Erinnerungen" (= gelernte Informationen) veränderte Form, wie es auch digitale Netzwerke tun.
Abgesehen davon glaube ich (Achtung: Das ist meine Theorie, keine Faktenbehauptung), dass unser Gehirn auf einem eigentlich sehr einfachen aber sehr flexiblen Konzept basieren *muss*, da es sich sonst nicht "zufällig" so entwickelt haben kann. Es muss in den Kleinstlebewesen, aus denen wir uns entwickelt haben, sehr einfach gewesen und auch geblieben sein, mit der Zeit wurde es nur immer mehr und größer und immer stärker vernetzt, doch im Kern funktioniert es immer noch genauso wie bei den Kleinstlebewesen.
Und nochmal: Das ist meine Theorie, daher Formulierungen wie "ich denke" oder "ich glaube", also halte mir nicht vor, irgendwelche falschen Fakten in den Raum zu werfen.
Ich wäre der Letzte, der Dir Schwurbelei vorwerfen würde. Leider verwechseln hier manche Koryphäen selber Denken mit Schwurbelei allzu gern, warum auch immer... 😉
Zur Entwicklung des Gehirns samt seinen hochkomplexen Strukturen usw. nehme ich später noch Stellung, Deine Gedankengänge finde ich sehr interessant, momentan bin ich "hirnchemisch" im Mittagsschlaf-Modus... 😴😵💫😉
Ja, kann er.
Doch, er hat ein Erinnerungsvermögen. Es gibt verschiedene Mechanismen wie man lernen implementieren kann. Z.B. über long short term memory(LSTM)
Der bot ist nicht dafür gedacht korrekte antworten zu präsentieren. Ob die antworten richtig oder falsch sind ist dem bot egal.
Es handelt sich um ein Sprachmodell, das Ziel ist dass die antworten natürlich klingen.
Nun ich habe keine Ahnung wie das bei ChatGPT unter der Haube aussieht, ob hier automatische Optimierungen stattfinden, ob Ergebnisse erstmal wo gespeichert werden und via Moderatoren eingepflegt werden oder Daily Builders aus den Ergebnissen erstmal intern getestet werden oder was weiß ich.
Am Ende lernt ein neuronales Netzwerk aber indem es seine Parameter anpasst. Dafür brauch es keine Erinnerungen im eigentlichen Sinne. Der Chatbot weiß nicht worüber er mit wem gesprochen hat.
Aber wenn nun Frage A gestellt wird und Antwort C richtig wäre und er Antwort B gegeben hat und man ihn sagt, dass Antwort B falsch war und Antwort C richtig war, dann wird er auf Frage A künftig die Antwort C geben. Er weiß nicht, dass die Frage A gestellt wurden war, das Ergebnis seiner Antwort ist quasi C.
Was man verstehen muss, ist dass ChatGPT nicht dazu da ist richtige Antworten zu geben. Es ist ein Language Model. ChatGPT weiß nur, welche Worte auf welche Worte am wahrscheinlichsten erwartet werden.
Es kann sein, dass der Inhalt komplett falsch ist. Um Inhalt geht es da eben auch nicht. Ggf. ist es der Satzaufbau und ein paar Adjektive, die er auf die Frage als richtig ermittelt auch wenn er dir am Ende auf wissenschaftlicher Weise erklärt, warum die Erde eine Scheibe ist.
Ja, kann er.
Sein, Lernverhalten ist aber eher vergleichbar mit einem Muskelgedächtnis.
Je öfter er etwas sieht, desto stärker erinnert er sich daran.
Wenn das ein Fehler ist, der häufig auftritt, wird er irgendwann daraus lernen und ihn nicht mehr machen. Ansonsten nicht.
Möglicherweise verlernt er etwas anderes um diesen Fehler nicht mehr zu machen.
Außerdem lernt er nicht live sondern wird in regelmäßigen Abständen geupdatet.
Wir wissen doch gar nicht wie unser Gehirn wirklich funktioniert. Neuronale Netze mögen sich vom Ergebnis ähnlich verhalten, aber mit völlig anderen "Mechanismen". Zudem weiß auch niemand, was Bewusstsein ist, wie es entsteht.