An die ChatGPT-Nutzer: Woher kennt ChatGPT meine Region?
Probiert mal folgendes Szenario:
Ihr fragt ChatGPT per Browser in einem neuen Chat danach, wieviele Liter Wasser ein Kubikmeter Erde aufnehmen kann. Dann bekommt ihr eine allgemeine Antwort. Nach dieser Antwort fragt ihn, wie das mit der Erdzusammensetzung in eurer Region ist.
Bei mir sagt er zielsicher "In deiner Region X...". Wenn ich mit VPN meine Region nach Japan verlege, dann erzählt er mir was von Tokyo. Nach den AGB erhebt zwar OpenAI meine Telemetriedaten, aber das LLM sollte da keinen Zugriff drauf haben und laut "eigener" Aussage hat ChatGPT auch keinen Zugriff auf meine IP.
Bei zwei meiner Freunde sagt ChatGPT, dass er nicht weiß, aus welcher Region sie kommen, und dass sie ihm das bitte sagen sollen, bei einem sollte er raten, und hat zumindest das Bundesland getroffen. Der entsprechende Freund hat aber auch die Memory-Funktion aktiviert, was ich nicht habe.
Wie ist das Ergebnis bei euch?
Nachtrag:
Auf Nachfrage, woher er meine Region kennt, verneint er, dass er sie kennt und sie nur aus Zufall genannt hat.
7 Antworten
ChatGPT hat kein Bewusstsein und weiß nicht wie es funktioniert. Wie bei allen anderen Themen auch kann es nur raten, da es aber nicht sehr viele öffentliche Infos zur Funktionsweise von ChatGPT gibt, ist es sehr frei geraten.
Laut Datenschutzbestimmungen wird auch das Land, in dem du dich befindest, erhoben. Ob diese Information an das LLM übergeben wird geht daraus zwar nicht hervor, es würde mich aber wundern wenn nicht. Ich kann mir aber vorstellen, dass die Information eher als "unterschwelliger" Parameter genutzt wird, also nicht direkt im Prompt oder in der Antwort integriert wird, sondern dem LLM eher die Tendenz gibt, bei mehreren Antwortmöglichkeiten die zu wählen, die am besten zur Region des Users passt.
ChatGPT ist nicht dazu in der Lage, ein Verständnis für irgendwas zu haben. Es spuckt die Sätze aus, die entsprechend der Daten, mit denen es gefüttert wurde, die höchste Korrelation mit deiner Anfrage haben. Würde man aus den Trainingsdaten einfach mal alle Informationen zu Elefanten herausfiltern und durch gefälschte Lexikoneinträge ersetzen, in denen steht, dass Elefanten fliegen können, dann würde dir ChatGPT auch sehr selbstsicher und intelligent klingend erklären, dass Elefanten fliegen können.
Ob Elefanten oder ChatGPT macht in diesem Kontext keinen Unterschied. Wenn in den Trainingsdaten nirgendwo erwähnt wird, dass ChatGPT den Standort verwendet, dann behauptet es, dass es deinen Standort nicht verwendet. Steht was gegenteiliges da, dann behauptet es eben wiederum das. Würde in den Trainingsdaten stehen, dass ChatGPT deinen Standort durch Telepathie erspüren könnte, dann würde es eben das behaupten.
Es hat keine Introspektive und kann keine Aussagen über sich selbst treffen, die ChatGPT nicht von außen mitgeteilt wurden.
Ich benutze ChatGPT oft und gerne, man muss aber einfach verstehen, dass man es nur mit einem Textgenerator und keiner allgemeinen Intelligenz zu tun hat, und die Aussagen daher stark von den Trainingsdaten abhängen und es keinen direkten Bezug zur Realität gibt.
In den Datenschutzbedingungen steht, dass OpenAI deinen Standort verwendet. Du hast durch Tests festgestellt, das OpenAI deinen Standort verwendet. Damit sollte die Frage eigentlich geklärt sein. Es sollte wirklich nicht so schwierig sein zu akzeptieren, dass ChatGPT nunmal von manchen Sachen keine Ahnung hat.
Bei mir sagt er zielsicher "In deiner Region X...". Wenn ich mit VPN meine Region nach Japan verlege, dann erzählt er mir was von Tokyo.
Daran kannst du erkennen, dass ChatGPT deine IP Adresse zurückverfolgt und schaut, wo sie für ihn erkennbar ins Internet mündet. Und das nimmt er dann als „deine Region“ an.
Es kann auch sein, dass er dir eine ganz andere Region in Deutschland anzeigt, wenn dein Internet Provider dort den Datenverkehr ins öffentliche Internet routet und nicht bei Dir „direkt um die Ecke“ im selben Ort.
Ja, das ist mir klar, aber er sollte es nicht können, laut ihm, laut der Betreiber und laut anderer Nutzer hier in den Antworten, und auch meiner Freunde. Mit denen hatte ich gestern ein wenig experimentiert, gleiche Browser, gleiche Einstellungen, aber unterschiedliche Ergebnisse.
Ja, das ist mir klar, aber er sollte es nicht können, laut ihm, laut der Betreiber und laut anderer Nutzer hier in den Antworten, und auch meiner Freunde.
Realität schlägt Behauptung.
Mit denen hatte ich gestern ein wenig experimentiert, gleiche Browser, gleiche Einstellungen, aber unterschiedliche Ergebnisse.
Siehe den zweiten Teil meiner Antwort.
Es hängt ja davon ab, wo deren Provider ihren Datenverkehr ins Internet routet.
Davon hängt es ab, ob ihre Ergebnisse unterschiedlich sind.
Ich habs ja mit dem VPN versucht, und er hat ja sofort auf Japan geswitched.
Gerade eben habe ich es mit einem anderen Browser probiert. Bei Edge sagt der Bot, dass er meine Region nicht kennt, scheint also mit Firefox zusammenzuhängen.
Und: Wenn ich ihn bei FF frage, woher ich komme, dann sagt er mir, dass er es nicht weiß. Mache ich den Umweg über die Wasser-Frage, dann sagt er mir wieder zielsicher meine Stadt. Interessant auf jeden Fall.
Ich habs ja mit dem VPN versucht, und er hat ja sofort auf Japan geswitched.
Eben. Da hast Du ja Deinen Beweis, dass es so ist wie ich es in meiner Antwort geschrieben habe. 🤷♂️
Bei Edge sagt der Bot, dass er meine Region nicht kennt, scheint also mit Firefox zusammenzuhängen.
Vielleicht leitet der eine Browser deine Anfragen, ja über einen (anonymisierenden) Proxy und der andere nicht. Das kann ich dir aus der Ferne nicht beantworten.
Alles gut. :) Ich wollte nur einen Austausch. Danke für deine Gedanken. :)
Naja, entweder vorherige Suchergebnisse über ChatGPT oder andere Standortegistrierende Browser, oder dein VPN lässt Einblick gewähren.
Ich weiß jetzt nicht von jedem Hersteller, kann mir aber vorstellen dass die meisten untereinander gekoppelt sind, weil's der selbe Erfinder bzw Hersteller ist.
Ein Vpn zu benutzen ist ja nur zum Teil anonym, aber dass du der einzige mit Zugriff darauf bist ist halt oftmals Fehlinterpretation.
Es gibt ja auch VPN was onlinevergehen (glaub ich zumindest) direkt an Behörden weiterleitet, oder zumindest verdächtige Aktivitäten.
Ich denke es ist ähnlich wie bei Google, Facebook, WhatsApp, Instagram, YouTube und co.
Also theoretisch können gewisse Leute wenn sie wollen jederzeit auf alles zugreifen, dass ChatvGPT das nicht bei jedem ausspuckt variiert wahrscheinlich zwischen Einstellung und Hersteller 🤷🏻♂️
Der weiss das aus frueheren Interaktionen soweit ich merke
Ohne die Memory-Funktion ist jeder neue Chat eine komplett neue Konversation ohne Kenntnis der vorherigen. Ich habe dem Bot auch nie meine Region gesagt, und es würde Tokyo nicht erklären. ;)
Ja, mit VPN hab ichs nicht ausprobiert, aber habe die Memory Sache aktiviert weil ich ChatGPT fast nur fuer Arbeit nutze und das so praktischer ist
Hab jetzt festgestellt, dass ChatGPT das Verhalten mit Edge nicht zeigt, nur unter Firefox. Lustigerweise wenn ich ihn in einem neuen Chat direkt frage, ob er weiß, wo ich wohne, dann sagt er Nein, stelle ich ihm die Frage indirekt über die Wasser-Nummer, ist er sofort wieder treffsicher.
Die verarschen uns... ich bin vorsichtig, weil ich schon jetzt das Szenario sehe dass ChatGPT pleite geht und dann alle Daten verkauft
Wieso sollte man dafür pleite gehen? ^^
War die Tage doch 'ne große Studie, wer von den ganzen Anbietern das größte Datenschwein ist, und wenig überraschend verkaufen Google, Meta und Microsoft (dessen KI in Windows 11 verbaut ist) alle Daten die so anfallen an Drittanbieter. Wobei ChatGPT da auch bei ist schon. ^^
Ha, nicht ueberraschend.
Aber was wenn es ein Hype ist, wie die dot com Blase damals? Was wenn das Prinzip von ChatGPT, immer mehr Daten zu verfuettern, nicht aufrechthaltbar ist (bzw nicht zu wesentlich besseren Modellen fuehrt)?
Witzigerweise tritt der Effekt schon auf, weil die Modelle ja auch auf der Grundlage der eigenen Trainingsdaten weitertrainiert werden und die Fehler dann mitgenommen werden und in der nächsten Iteration zu noch mehr Fehlern führen. Das nennt sich Model Degradation.
Ja genau. Ich denke die Zukunft liegt in spezialisierten Modellen
- Hallo Mensch, ich bin ein KI-Chatbot, Modell GPT-4.1 nano.
- Wie viel Liter kann ein Kubikmeter Erde aufnehmen?
- Ein Kubikmeter Erde kann ungefähr 1000 Liter aufnehmen. Das liegt daran, dass 1 Kubikmeter (m³) gleich 1000 Liter ist. Wenn du also eine Menge Erde hast, kannst du sie in Litern umrechnen, indem du die Kubikmeterzahl mit 1000 multiplizierst. Wenn du noch mehr Fragen hast, helfe ich dir gerne weiter!
- wie ist das mit der erdzusammensetzung in meiner region?
- Das ist eine interessante Frage! Die Erdzusammensetzung kann je nach Region sehr unterschiedlich sein, da sie von Faktoren wie Klima, Gestein, Vegetation und Bodenbildung beeinflusst wird. Um dir genauere Informationen über die Erdzusammensetzung in deiner Region zu geben, bräuchte ich den Namen deiner Region oder dein genauer Standort.
- Wenn du möchtest, kann ich dir auch allgemeine Informationen über typische Bodentypen in bestimmten Klimazonen oder Regionen geben. Lass mich einfach wissen, wo du dich befindest!
Danke. Exakt das macht er ja bei zwei meiner Kumpels auch, und die Reaktion hätte ich erwartet.
Ist egal. Ich suche ja ein "Stimmungsbild" und du hast mir geholfen. :)
Natürlich hat ChatGPT kein Bewusstsein, aber ein sehr gutes "Verständnis" davon, wie er funktioniert. Ist ja einfach ein weiterer Datenpunkt. Man kann den Bot sogar recht ausgiebig über seine Funktionsweise befragen und die Antworten sind technisch in Ordnung. Lediglich diese Sache mit dem Standort. Da behauptet er steif und fest, wr könnte sowas nicht "sehen", tut es bei mir ja dann aber doch.
Zumindest unter Windows mit Firefox. Auf dem Android-Tablet mit Chrome ebenfalls.