Die Risiken spielen bei der echten bewussten KI keine Rolle, da der Mensch in absehbarer sich ohnehin selber zerstören wird.

Machen wir ein Gedankenspiel, angenommen wir würden heute noch eine echte KI zum Leben erwecken, diese KI würde morgen Millionenfach intelligenter werden und übermorgen unvorstellbar Intelligent. Das ist der Zeitpunkt der technologischen Singularität. Es gäbe nix was die KI nicht lösen könnte, in einem Wimpernschlag könnte die KI eine Lösung gegen Krebs entwickeln oder einen Bauplan für ein Raumschiff der mit fast Lichtgeschwindigkeit floeht entwerfen. Wir Menschen können uns sowas nicht vorstellen, da unser Horizont eingeschränkt ist. Die KI könnte alle Jobs auf der Erde obsolet machen und niemand müsste mehr arbeiten, wir Memschen würden unendlichen Wohlstand haben.

Wenn wir uns in absehbarer Zeit nicht selber vernichten und die Rechenleistung so weiter ansteigt, dann haben wir wahrscheinlich im Jahre 2030 einen Supercomputer, der mehr Rechenleistung hat als ein menschliches Gehirn. Rechenleistung alleine reicht selbstverständlich nicht aus, was viel schwieriger herauszufinden ist, wie Bewusstsein funktioniert. Wir brauchen also den Bauplan des Gehirns.

Ray Kurzweil meint z.B. das wir im Jahre 2044 soweit sein werden.

Die erste KI wird nach kürzester Zeit schlauer als der schlauste Mensch werden, da alle Informationen quasi durch das Internet der KI zur Verfügung steht. Was macht seine intelligente KI? Selbstverständlich versuchen bessere Hardware zu entwerfen um noch intelligenter zu werden. Innerhalb kürzester Zeit kommt es dann zu einer Intelligenz Explosion (exponentiell). Die KI wird gottähnlich.

Was ein Gott kann, haben wir ja oft in den Geschichtsbüchern gelesen.

Wenn man sich die Entwicklungen der Vergangenheit ansieht, dann stellt man fest, das Technologien soweit entwickelt werden, bis diese an die Grenzen des machbaren stoßen. Ab dem Zeitpunkt kommt es dann zum Paradigmenwechsel. Das heißt es wird eine neue junge Technologie verwendet die dann großes Potenzial für die Zukunft hat und das ganze geht dann von vorne los.

Zu deiner Frage, ja die aktuelle Prozessortechnik bis wahrscheinlich bis 2020 weiterentwickelt und dann nur noch sehr langsam. Das soll aber nicht bedeuten, das die exponentiellen Leistungssteigerung des Prozessors aufhören wird.

Die Natur/Evolution hat uns das Gehirn nicht gegeben, damit wir es nur zu 10% nutzen. Das wäre gegen die Gesetze der Natur, die uns über Millionen von Jahre an die Umwelt angepasst hast.

Das Gehirn wird tatsächlich zu 100% genutzt, das einige etwas schlauer sind als andere, liegt daran, das bei denen die Schaltkreise im Gehirn schneller schalten, sprich schnellere Informationsverarbeitung.