Simuliert LLM-basierte KI nicht selten eher Trump als gute Lehrer?

KI hat nicht wirklich was mit Intelligenz zu tun. Es geht um Mustererkennung und da können die Algorithmen einiges leisten. Aber im Grunde ist KI ein Papagei, der nur nachplappert, was er im Netz findet. Und da kann es auch zu Pannen kommen.

KI braucht ja selbst einen Lehrer (fürs Training), insofern steht und fällt die Qualität mit Trainingsdaten und Lehrer.

Das ist wie beim Homeschooling. Hast Du da richtige Lehrer mit Fachwissen, kann das ordentlich werden, macht das Mutti, die die weiterführende Schule abgebrochen hat und liebend gerne aus der Bibel zitiert, stehen die Chancen für ein brauchbares Ergebnis eher schlecht.