Ist ChatGPT eine gute Informationsquelle?

Was da teilweise so rauskommt, da kommen mir die Nackenhaare hoch.

Beispiel: "Wie wechselt man einen Lichtschalter aus?

Die Frage enthält keine Detailinformationen.

Da muss man zwingend nachfragen, um was es genau geht, da die Vorgehensweise stark variiert, wo genau der Lichtschalter ist und unter welchen Bedingungen der betrieben wird (wegen Stromschlag- und Brandgefahr).

Chatgpt hat hier mindestens folgende Annahmen getroffen, ohne darauf hinzuweisen, dass der Bot dies getan hat:

• Es handelt sich um einen irgendwo fest verbauten Lichtschalter, dem eine Sicherung vorgeschaltet ist (der fragliche Schalter hätte auch z.B. an einer Taschenlampe sein können, wo die Vorgehensweise komplett anders ist, weil batteriebetrieben und idr. keine Sicherung vorhanden und man den eigentlich auch gar nicht so einfach wechseln kann)
• Die Anschlüsse am neuen Modell sind genauso angeschlossen, wie am alten, was nicht immer der Fall ist, da es hierfür keine Norm gibt.

(die beiden Bilder geben die Antwort von Chatgpt wieder)

weitere gefährliche Fehler:

• den bereits markierten Fehler, wo behauptet wird, der Spannungsprüfer wäre optional. Nein! Der ist zwingend erforderlich, wenn die Aktion nicht mit Feuerwehr, Krankenhaus oder Friedhof enden soll.
• wenn man Schritt 1 vollzogen hat: Was würde passieren, wenn es die falsche Sicherung war und auf den "optionalen" Spannungsprüfer verzichtet?
• Schritt 4 ist gefährlich falsch!!!! Niemals wird der Schutzleiter auf irgendeine Weise geschaltet und ist deshalb an einem 230V-Unterputzschalter auch nicht angeschlossen! Im besseren Fall kommt es zum Kurzschluss, im schlechteren kann eine kaum vorhersehbare gefährliche Situation entstehen, die man möglicherweise später an anderer Stelle bemerkt und nicht mit dem Schalterwechsel in Zusammenhang bringt.
• Es fehlt die wichtige Sicherheitsprüfung nach dem Wechsel (Funktion testen alleine reicht nicht aus!)
• Worüber gpt kein einziges Wort verliert: Lichtschalter in einer Wohnung sehen zwar gleich aus und funktionieren augenscheinlich ähnlich oder gleich, sind aber nicht funktional alle gleich. Man muss den richtigen Typ und überhaupt ein für den vorliegenden Fall geeignetes Modell auswählen.

Wer dieser Anleitung folgt, begibt sich selbst und andere in Gefahr.

Da ist sogar die Kurzanleitung auf der Verpackung des im Baumarkt gekauften Lichtschalters noch besser.

ChatGPT (und ähnliche Sprachmodell-Dienste) sind vor allem dann nützlich, wenn man die gelieferten Informationen ohnehin selbst überprüfen und beurteilen kann. Etwa, wenn man zu einem bekannten Thema einen Text schreiben muss und sich damit Schreibarbeit ersparen will.

Das ist halt nicht, wie es viele benutzen: sie glauben oder hoffen, das LLM gibt ihnen "die Wahrheit" und merken mangels Vorwissen nicht, wann es Blödsinn verzapft.

Eine gute sekundäre Informationsquelle sollte gut erkennbar auf eine primäre Informationsquelle verweisen. Eine gute tertiäre auf primäre und sekundäre.

ChatGPT nennt keinerlei Quellen denen man bestimmte Teile der Aussagen zuordnen kann.

Daraus folgt schon mal das du keine Ahnung hast ob ChatGPT sich das "ausgedacht" hat oder von einem privaten Blog kopiert hat wo sich das jemand ausgedacht hat oder ob es z.b. von einer guten primären oder sekundären Quelle kommt.

Wenn du manuell für jede info eine seriöse quelle suchen musst ist das alles aber keine gute Quelle.

Nein es kann keine falschen Informationen erkennen und macht gerne mal Fehler

Besser wäre es eine KI zu nutzen die gleichzeitig gegenprüft.

Chat GPT kann niemals eine Informationsquelle sein. denn alles was Chat GPT kann ist aus den Informationen die es hat, relevantes heraus zu filtern und zu versuchen das aufzubereiten.

Seriöse Informationen müssen so wie so aus mehreren Quellen oder besser gesagt über mehrere Wege verifiziert werden.