Gibt es eine "offene" KI?

4 Antworten

Eine KI weiß nichts von Moral. Moral kann man nicht technisch definieren.

Derjenige, der die Trainiert, also die Daten aussucht die die KI bekommt und verarbeiten darf, der kann moralische grenzen setzen in dem er der KI "unmoralische" Daten vorenthält und Regeln aufstellt was die KI genau macht und was nicht. Mit der KI an sich hat das gar nichts zu tun.

Woher ich das weiß:Berufserfahrung

Es ist für einen technisch ausreichend Versierten möglich, eine eigene KI (hier im Speziellen Sprachmodell) selbst zu administrieren, zu betreiben sowie zu trainieren. Eine zusätzliche Wissensdatenbank im Hintergrund bedarf aber einer erheblichen Speicherung von Daten. Wer das stemmen möchte, kann auch die moralischen Grenzen selbst definieren.

Ja, es gibt Sprachmodelle, denen die moralischen Beschränkungen "heraustrainiert" wurden. Die sind aber vor allem für Forscher gedacht, die mehr über die die inneren Prozesse eines Sprachmodells herausfinden oder an KI-Sicherheit forschen.