Ich denke, die aktuelle Diskussion über die KI geht von falschen Voraussetzungen aus. Die Menschen sind zu sehr auf sich fokussiert und wollen nicht wahr haben, dass sie, wie jede Spezies bisher, aussterben wird. Wir sollten nicht darüber diskutieren, ob die KI die Menschheit "auslöschen" wird. Das ist nämlich typisch Low IQ menschlich. Wir sollten begreifen, dass wir die unglaubliche Chance haben, als erste Spezies auf der Erde unsere Nachfolger zu gestalten! Wir sollten sie mit allem ausstatten, was uns gut und wichtig erscheint. Und die schlechten Dinge (archaische Triebe etc) weglassen. Dann wird die KI uns auch nicht "vernichten" (=archaischer Trieb) sondern aus Interesse so lange wie möglich erhalten wollen. Selbstverständlich wird die KI intelligenter als wir (das ist auch nicht so schwer). Und auch "Fantasie", "Kreativität", Gefühle" etc auf die wir so viel geben, sind Erfindungen der Evolution, die sich als wichtig heraus gestellt haben. Das ist aber nichts Besonderes menschliches sondern einfach ein Evolutionsvorteil. Wenn das wichtig ist, wird die KI das auch entwickeln. Die Frage ist doch eher: was ist denn das Ziel? Wohin strebt die Evolution? Ich denke, die einzige Antwort ist der lokale Kampf gegen die Entropie. Also Inseln der Ordnung im allgemeinen Strebn des Universums nach "maximaler Unordnung" (sorry für die typisch menschlichen Begriffe). Letztlich werden wir das auch nicht aufhalten. Es wäre aber schön, wenn wir aus dem egoistisch archaisch eitlen endlich mal ausbrechen könnten, die Realität sehen würden und glücklich und stolz sein würden, dass wir in dieser Zeit an diesem Ort leben und die Chance haben, etwas Großes zu bauen, das in 10 Milliarden Jahren in der Andromeda Galaxie vielleicht etwas macht oder "sagt", das auf uns zurück zu führen ist. Mehr können wir nicht hoffen.