Ich war vorhin auf einem KI-Festival, da wurde das Thema angesprochen. Eines der genannten Beispiele war der Fall bei Amazon, wo die KI Bewerbungen von Frauen aussortiert hat - eine Fehlreaktion des Algorithmus auf die Daten, die zeigten, dass entsprechende Positionen bislang mit Männern besetzt sind. (Falls das jemand nachlesen möchte, hab ich ne Quelle rausgesucht: https://www.focus.de/finanzen/boerse/die-tuecken-der-intelligenz-amazon-schaltet-ki-ab-die-bewerbungen-von-frauen-als-minderwertig-erachtete_id_9741890.html ).
Ein anderes Beispiel war, dass eine KI bei der Kreditvergabe hispanischen Menschen schlechtere Kreditzinsen angezeigt hat, auch dazu hab ich was gefunden: https://taz.de/Kreditvergabe-nach-Hautfarbe-in-den-USA/!5089054/
Der Vortrag war aber nicht gegen KI gerichtet, es ging eher um die Fallstricke, die man bei der Entwicklung von KI beachten muss. Fand ich sehr spannend.
War euch das Thema vorher schon bewusst? Was denkt ihr darüber? Wo seht ihr eventuell weitere Fallstricke bei der Entwicklung von KI, bezogen auf mögliches Diskriminierungspotential?