Mike Schroepfer, director de tecnología de Facebook, menciona que en el último trimestre de 2020, la detección proactiva de contenido de incitación al odio, intimidación y acoso en Facebook es mejor que nunca.
Este progreso tecnológico se ha venido produciendo durante los últimos 3 años. A fines de 2017, el porcentaje de eliminación de discursos de odio en Facebook era solo del 24 %. A fines de 2019, había aumentado al 80,5%. En el tercer trimestre de 2020 alcanzó el 94% y en el último trimestre el sistema de detección automática ya detectaba el 97% de las publicaciones con discurso de odio.
La tasa de penetración del discurso de odio se redujo del 0,10-0,11 % al 0,07-0,08 %. Esto significa que por cada 10.000 vistas de contenido, solo habrá 7-8 discursos de odio. El contenido violento se redujo del 0,07 % al 0,05 % y la desnudez de adultos se redujo del 0,05 % al 0,06 % al 0,03 % al 0,04 %.
La importancia de la Inteligencia Artificial
Facebook utiliza inteligencia artificial para detectar el discurso de odio de los usuarios. Pero todavía hay muchos que hacen todo lo posible para evitar ser detectados. Ahora, Facebook puede detectar más completamente el contenido que viola las políticas de la plataforma.
Mike Schroepfer dio un ejemplo: "Esta es una gran noticia" puede significar cosas totalmente diferentes cuando se deja debajo de las publicaciones que anuncian el nacimiento de un niño. Pero cuando aparece debajo de una publicación donde ha fallecido un ser querido, el significado es todo lo contrario. Por lo tanto, es necesario considerar si el comentario viola las políticas de la plataforma.
Facebook continúa mejorando la tecnología de inteligencia artificial, para comprender el lenguaje más profundamente y para combinar y analizar las imágenes, el texto y otros detalles de las publicaciones, y luego construir un sistema que sea bueno para analizar y comentar y pueda aprender continuamente con nuevos materiales.
Facebook guarda enlaces compartidos en Messenger e Instagram
Esta mejora trajo la capacidad de Facebook para detectar textos de intimidación y acoso. La tasa de descubrimiento aumentó del 16 % en el primer trimestre de 2020 al 49 % en el cuarto trimestre. Eso significa que los usuarios se enteraron antes de denunciar. ¡El sistema primero detecta y elimina activamente estos contenidos!
Además, las herramientas de inteligencia artificial de Facebook también admiten más idiomas, lo que le permite detectar contenido que viola políticas como el español y el árabe, por ejemplo. La cantidad de contenido de odio eliminado alcanzó los 26,9 millones, frente a los 22,1 millones del trimestre anterior.
Instagram también lucha contra este tipo de discursos
El Informe de implementación de estándares comunitarios de Facebook también incluye Instagram. Debido a los avances tecnológicos, en el cuarto trimestre de 5 se eliminó un total de 2020 millones de contenidos de intimidación y acoso, casi uno más que los 2,6 millones del trimestre anterior. Al mismo tiempo, se eliminaron más de 300.000 discursos de odio organizados. En general, la detección del discurso de odio alcanzó los 6,6 millones, más que los 6,5 millones anteriores.
Mike Schroepfer dijo que a pesar de estos avances, aún queda mucho trabajo por hacer, ya que las mismas palabras pueden interpretarse con diferentes significados según la ubicación de la publicación y los lectores. Esperan que la inteligencia artificial pueda detectar mejor las expresiones verbales en todos los idiomas, culturas y regiones, y entrenar máquinas para distinguir diferencias sutiles en el significado del idioma.
