In un algoritmo di raccomandazione automatico di Facebook delle persone di colore presenti in un video sono state scambiate per delle scimmie. Dopo il video, riguardante un fatto di cronaca pubblicato sul Daily Mail, gli utenti Facebook hanno potuto visualizzare la domanda “Vuoi vedere altri video sui primati?” come parte delle raccomandazioni automatiche della piattaforma.
Cosa è successo con l’algoritmo di Facebook?
Un algoritmo di raccomandazione del social Facebook ha scambiato delle persone di colore per delle scimmie. Sotto un video tabloid del Regno Unito, nel quale le figure principali erano persone di colore, l’algoritmo ha automaticamente chiesto se gli utenti desiderassero visualizzare altri “video di primati”. A rivelarlo è stato il New York Times. Secondo la testata americana, il video in questione, intitolato “Uomo bianco chiama i poliziotti contro uomini di colore al porto turistico”, aveva lo scopo di supportare un articolo del Daily Mail in merito. Di seguito al filmato, gli utenti Facebook hanno potuto visualizzare la domanda “Vuoi vedere altri video sui primati?” con l’opzione “Sì/Rifiuta”, come parte della raccomandazione per gli utenti. A divulgare questo fatto è stato anche l’ex designer di Facebook, Darci Groves.
Le parole della piattaforma social
“Questo è chiaramente un errore inaccettabile. Ci scusiamo con chiunque abbia visto queste raccomandazioni offensive”, ha fatto sapere un portavoce di Facebook. L’azienda californiana ha disattivato l’algoritmo di raccomandazione non appena ha notato quanto stava accadendo “al fine di indagare sulle causa del problema”. “Come abbiamo detto, anche se abbiamo migliorato i nostri sistemi di intelligenza artificiale, sappiamo che non sono perfetti e abbiamo dei progressi da fare”, ha detto la società della nota piattaforma di social networking.
Leggi anche: GoDaddy interrompe il sito web di Texas Right to Life
