Esta semana, Facebook reveló que eliminó 8,7 millones de contenido que viola las reglas contra la explotación infantil de la red social, y todo gracias a la nueva tecnología. La inteligencia artificial y la tecnología de aprendizaje automático, que la compañía implementó el año pasado, fueron responsables de eliminar el 99% de tales publicaciones, dijo Antigone Davis, directora global de seguridad de Facebook, en una publicación de blog.
La nueva tecnología verifica las publicaciones sobre desnudez infantil e incluso otro contenido con el que tiene la tarea. Si es necesario, las fotos y los informes se envían al Centro Nacional para Niños Desaparecidos y Explotados.
La red social de Mark Zuckerberg ya ha estado explotando la tecnología de comparación de fotos para poder comparar fotos recién subidas con imágenes familiares de explotación infantil y pornografía de venganza. Las nuevas herramientas ahora ayudan a evitar que se difunda contenido no identificado a través de la plataforma.
En cualquier caso, la tecnología aún no es perfecta, y muchos padres se quejan de que se eliminaron las fotos de sus hijos, a pesar de que no se consideraron explícitamente inapropiadas.
A través de la publicación, Davis dijo que para "evitar incluso la posibilidad de abuso, hemos tomado medidas sobre contenido no sexual, así como fotos aparentemente benignas de niños en el baño" y que ese "enfoque integral" es una de las razones. para la eliminación de tanto contenido.
Como podemos ver, el uso de la IA también puede ser muy útil para los trabajadores. Como recordatorio, una ex moderadora de contenido de Facebook demandó recientemente a la compañía alegando que ver miles de imágenes violentas le provocó el desarrollo de un trastorno de estrés postraumático.
Otros empleados responsables de la operación también comentan los efectos psicológicos del trabajo y también mencionan que Facebook no ofrece ningún tipo de capacitación, apoyo o compensación económica.
