KI-Vorreiter Dario Amodei warnt vor dem Untergang der Menschheit
Warnungen vor den Risiken der KI-Entwicklung gibt es viele, eine besonders ausführliche kommt nun von Dario Amodei: Der Anthropic-Chef befürchtet das Schlimmste.
Dario Amodei (43), Chef der KI-Firma Anthropic, macht sich offenbar große Sorgen über die negativen Folgen, die denkbar sind, sollte künstliche Intelligenz auf die falsche Weise weiterentwickelt werden. In einem etwa 20.000 Zeichen umfassenden Blogeintrag bringt Amodei seine Befürchtungen zum Ausdruck.
Die Menschheit „muss aufwachen“ und sich der potenziell katastrophalen Risiken bewusst werden, die leistungsstarke KI-Systeme in den kommenden Jahren mit sich bringen könnten, schreibt der Anthropic-Chef, dessen Unternehmen selbst zu den Vorreitern dieser Technologie zählt.
Die Gefahren, die Amodei beschreibt, reichen von großflächigen Arbeitsplatzverlusten bis hin zu Bioterrorismus.
„Die Menschheit steht kurz davor, eine fast unvorstellbare Macht zu erlangen, und es ist völlig unklar, ob unsere sozialen, politischen und technologischen Systeme die Reife besitzen, um damit umzugehen“, so Amodei.
In dem Text warnt der KI-Unternehmer, dass die Sicherheitsvorkehrungen im Bereich der künstlichen Intelligenz bislang unzureichend seien.
Starke KI-Systeme seien künftig „viel leistungsfähiger als jeder Nobelpreisträger, Staatsmann oder Technologe“, so Amodei. Das ist seiner Prognose zufolge bereits in „wenigen Jahren“ zu erwarten.
https://www.manager-magazin.de/unternehmen/tech/anthropic-chef-dario-amodei-warnt-vor-risiken-der-kuenstlichen-intelligenz-a-62efafce-373a-4d21-86f4-1ffb22f9011e