Stimmt es, dass Danke sagen bei Chat GPT Ressourcenverschwendung ist?
5 Antworten
KI-Server brauchen unglaublich viel Wasser, um gekühlt zu werden, wodurch viel Grundwasser verbaucht wird. Also ja, es ist Ressourcenverschwendung unnötige Sachen (z.B. "danke") zu schreiben, da eine KI keine echten Emotionen hat und es somit nichts bewirkt.
https://www.tagesschau.de/wissen/klima/ki-energieverbrauch-100.html
https://arxiv.org/html/2304.03271v5
zum Teil für Kühlung, zum Teil für die Lieferkette und Herstellung der Server.
Lufkühlung würde bei KI-Servern nicht reichen, da diese enorm heiß werden. Außerdem muss das Wasser für die Wasserkühlung auch ausgetauscht werden.
Ein Chat mit 10-50 Fragen (dazu zählt auch danke sagen) verbraucht bis zu 500ml Wasser (Tagesschau Link oben da stehts nochmal)
Informier dich mal lieber, bevor du irgendetwas behauptest.
Das soll Altman gesagt haben. Allerdings wird auch die KI durch solche Anfragen trainiert. Die Wahrscheinlichkeit, dass die KI dann auch freundlich reagiert steigert sich so.
"Generell" gesehen schon.
Jede Frage/Antwort von ChatGPT benötigt Ressourcen - als Verschwendung kann man es allerdings nicht ansehen - denn es ist ein Tool, welches man nutzt und ggf. auch zahlt.
Kommt drauf an.
Es gab letztens einen Artikel in dem es um Wörter wie bitte oder danke als Teil der Anfrage ging. Theoretisch braucht jedes unnötige Wort natürlich zusätzliche Ressourcen, aber es kann teilweise trotzdem die Antworten beeinflussen und gehört einfach zu natürlicher Sprache, für die KIs ja trainiert werden. Wo man da die Grenze zieht zwischen möglichst kurz und möglichst viele relevante Informationen in eine Anfrage zu stecken ist nicht klar, aber ein Bitte oder Danke sollte man in der Regel problemlos weglassen können. Im Vergleich dazu, gar keine unnötigen Anfragen zu stellen ist das praktisch nicht relevant.
Das sollte man nicht zu ernst nehmen, und war in dem Kontext auch wirklich keinen Artikel wert.
So wie in deinem Beispiel, als eigenständige Anfrage, ist es natürlich komplett unnötig, und verschwendet wie jede andere unnötige Anfrage Ressourcen. Dieses Ressourcen Problem betrifft aber jeden Einsatz von solchen großen KIs auf Servern, eine klare Grenze kann man natürlich nicht ziehen.
Hier geht es nicht um "bitte" oder "danke" als Teil der Anfrage, sondern danach, wenn man die Antwort bereits erhalten hat.
Hmm darauf hätte ich vielleicht eingehen sollen, nachdem ich die Hintergründe der Frage angesprochen habe.
Warum bin ich da nicht drauf gekommen. Hätte ja super gepasst.
Die generativen KI-Modelle zerlegen die Eingabe in einzelne Tokens und bauen diese in einen n-Dimensionalen Vektor ein - nennt sich "word-embeddings" https://en.wikipedia.org/wiki/Word_embedding . Das ganze erlaubt es Beziehungen zwischen den Wörtern herzustellen bzw. für diese ein Ähnlichkeitsmaß herzustellen (z.B. König / Königin) und dadurch ist es Möglich einen Kontext zu erfassen.
Das passiert jedoch für jeden einzelnen Token einer Anfrage, und das einbetten ist - wie so ziemlich alles an Large Language Models - sehr energieintensiv.
Gleichzeitig hat ein "Danke" Token i.d.R. keinen nennenswerten Einfluss auf das vorherzusagende Wort - auf den gesamten Kontext, daher ist es einfach nur unnötige Rechenleistung die dafür verwendet wird.
Also ja - das ganze braucht ohne wenn und aber extra Energie - dass es im Gesamtkontext aber so viel ist würde ich mal sehr stark in Frage stellen... Nicht zuletzt weil man mittlerweile ja ganze Dokumente in die Modelle reinladen kann und die Kontextfenster mittlerweile gut und gerne 100k Tokens sind - ich glaube nicht dass ein einziges Wort da so viel Unterschied macht...
The fuck, was?
Wasser? Wassergekühlte Server ist eher was, was leute zuhause am PC machen. Rechenzentren sind meistens Luftgekühlt.
Noch dazu ist Wasserkühlung in einem Kreislauf, es wird nicht die ganze Zeit neues Wasser gepumpt..? Was laberst du.
Danke etc. zu schreiben braucht einfach Leistung und Strom, das hat nix mit Wasser zu tun