Un “fallo masivo de clasificación” hizo que Facebook mostrara a los usuarios desnudos, violencia y desinformación rusa

Un “fallo masivo de clasificación” del feed de noticias de Facebook hizo que la mitad de las visualizaciones estuvieran expuestas a “riesgos de integridad” en los últimos seis meses.

Un nuevo informe de The Vergebasado en documentos internos de Facebook, sugiere que desde octubre de 2021 comenzó a aparecer una gran cantidad de información errónea en las noticias. En lugar de suprimir las cuentas que compartían repetidamente información errónea, en su lugar les daba un impulso: hasta un 30% a nivel global, se afirma.

Según el informe, los ingenieros no pudieron encontrar la causa del problema y la desinformación se mantuvo en el sitio hasta el 11 de marzo, a pesar de ser un caso de alta prioridad.

Durante este tiempo, Facebook tampoco habría moderado adecuadamente la desnudez, la violencia y los medios de comunicación rusos. Todo ello a pesar de que la compañía “prohíbe a los medios de comunicación estatales rusos publicar anuncios o monetizar en nuestra plataforma en cualquier parte del mundo”, declaró a finales de febrero el jefe de política de seguridad de la empresa, Nathaniel Gleicher. En respuesta, Rusia señaló a Meta, la empresa matriz de Facebook e Instagram, como una organización “extremista”.

Un portavoz de la compañía dijo que “detectó incoherencias en el downranking en cinco ocasiones distintas, que se correlacionaron con pequeños aumentos temporales de las métricas internas”. Al parecer, el problema se introdujo por primera vez dos años antes de que tuviera un impacto notable en el sitio.

“Hemos rastreado la causa raíz a un error de software y hemos aplicado las correcciones necesarias”, dijo el portavoz, pero el gran “no ha tenido ningún impacto significativo a largo plazo en nuestras métricas”.

Las publicaciones de Facebook que no infringen las “Normas de la Comunidad”, y por tanto evitan ser prohibidas por completo, pero que siguen considerándose de baja calidad, se ocultan en el feed.

Las categorías de publicaciones que desencadenarán esas degradaciones se detallan en un documento que la empresa publicó en septiembre del año pasado, conocido como Directrices de distribución de contenidos.

Entre ellas se encuentran las publicaciones que contienen spam, que tienen información falsa y que ponen a la gente en riesgo personal.

“Seguiremos actualizando las Normas de Distribución de Contenidos para proporcionar a la gente información sobre cómo definimos y tratamos los contenidos problemáticos o de baja calidad que no violan nuestras Normas Comunitarias”, dijo Facebook.