Facebook entschuldigt sich für einen Vorfall, bei dem Amnesty International ein Video von schwarzen Männern als „Primat“ bezeichnete und es als „inakzeptablen Fehler“ bezeichnete, um zu verhindern, dass es erneut passiert. Wie die New York Times berichtete, erhielten Benutzer, die ein von der britischen Boulevardzeitung Daily Mail veröffentlichtes Video vom 27. Juni angesehen hatten, eine automatische Aufforderung, „weiterhin Primatenvideos anzusehen“.
In einer E-Mail an The Verge am Samstag sagte ein Facebook-Sprecher, er habe die Themenempfehlungsfunktion vollständig deaktiviert, als er erkannte, was vor sich ging.
„Das ist eindeutig ein inakzeptabler Fehler“, sagte der Sprecher. Der Sprecher fügte hinzu, dass das Unternehmen untersucht, warum das Verhalten verhindert wurde. „Wie gesagt, obwohl wir unsere KI verbessert haben, wissen wir, dass sie nicht perfekt ist und wir noch einige Fortschritte machen müssen. Wir entschuldigen uns bei allen, die diese beleidigenden Empfehlungen gesehen haben.“
Dieser Vorfall ist das neueste Beispiel für KI-Tools, die geschlechtsspezifische oder rassische Vorurteile zeigen, wobei Gesichtserkennungstools ein besonderes Problem mit der Fehlidentifizierung von farbigen Personen haben. Im Jahr 2015 entschuldigte sich Google, nachdem seine Fotos-App Fotos von Schwarzen als „Gorillas“ bezeichnet hatte. Im vergangenen Jahr gab Facebook an, zu untersuchen, ob seine KI-trainierten Algorithmen, einschließlich derjenigen auf Instagram, das Facebook besitzt, rassistisch sind.
Im April warnte die US-amerikanische Federal Trade Commission, dass Instrumente der künstlichen Intelligenz, die „störende“ rassistische und geschlechtsspezifische Vorurteile anzeigen, gegen Verbraucherschutzgesetze verstoßen könnten, wenn sie für Verbraucherentscheidungen wie Kredite, Wohnungssuche oder Beschäftigung verwendet werden. „Halten Sie sich zur Rechenschaft – oder seien Sie bereit, die FTC dies für Sie tun zu lassen“, schrieb die FTC-Anwältin Elisa Gilson in einem Beitrag auf der Website der Agentur.
