Interessante Überlegung, man kann es aber nicht wissen.

Wenn KI mal auf hohem Level ist und bösartige Leute sich den Code nehmen und jede Schutzmassnahme entfernen, könnte es vielleicht funktionieren, dass die KI viel schlechtes macht.

Jedoch wird das (falls es überhaupt passiert) erst nach ca 20 Jahren passieren.

Ergänzung: Damit meine ich hochentwickelte KI's. Nicht KI's wie ChatGPT oder sowas.