Los sitios de redes sociales corren el riesgo de permitir que el contenido terrorista prolifere en sus plataformas luego de los recortes de empleos en la industria, lo que socava años de trabajo en la lucha contra el terrorismo, advirtió una organización respaldada por la ONU.

Algunos actores terroristas han aumentado sus operaciones en Twitter luego de que el personal encargado de monitorear este contenido fuera despedido, según un informe de Tech Against Terrorism, una iniciativa que ayuda a las empresas a vigilar el contenido en línea.

La advertencia llega solo dos meses después de que Twitter redujera su plantilla de 7.500 empleados a casi la mitad tras la adquisición de la red social por 44.000 millones de dólares por parte de Elon Musk. Como parte de la reestructuración, se realizaron importantes recortes en los equipos de seguridad y confianza de Twitter, cuyo objetivo es proteger a los usuarios del contenido ilegal y dañino.

“Si nos encontramos con contenido peligroso, ni siquiera estamos seguros de a quién contactar porque han sido despedidos”, dijo Adam Hadley, director de Tech Against Terrorism, que publicó en línea su revisión anual de actividades terroristas y extremistas violentas el jueves por la noche. .

Twitter no respondió a una solicitud de comentarios.

Tech Against Terrorism es una asociación público-privada lanzada en 2017. Sus socios incluyen Meta, Google, Microsoft y Twitter, así como los gobiernos del Reino Unido, España y Suiza.

La agencia trabaja con cientos de plataformas más pequeñas, incluidas Pinterest y Etsy, y el año pasado revisó más de 19,000 sitios web o publicaciones con contenido terrorista de más de 70 empresas de tecnología.

Hadley también expresó su preocupación de que los recortes de empleos en el sector tecnológico en general podrían afectar la moderación del contenido terrorista, ya que muy pocas personas tienen la experiencia o el conocimiento relevante para monitorear este contenido.

Tanto Snapchat como Meta, propietaria de Instagram, Facebook y WhatsApp, han recortado personal en los últimos meses después de desacelerar el crecimiento de los ingresos y disminuir el gasto en publicidad, sus principales fuentes de ingresos.

“Las plataformas tienen que adaptar constantemente los filtros y los términos de búsqueda, y los terroristas siempre encuentran formas de eludir estas reglas. Nuestra preocupación es que esto requiere mucha experiencia, y muchos de los expertos con los que estamos acostumbrados a trabajar en grandes plataformas se han ido”, agregó Hadley.

Meta dijo que la seguridad y la protección seguían siendo las principales prioridades y que tenía más de 40.000 personas dedicadas a este trabajo. Snap, propietaria de Snapchat, dijo que su equipo de confianza y seguridad fue uno de los menos afectados por la reorganización y que nadie considerado un especialista en esta área se iría.

El informe también destacó el aumento de pequeños sitios web creados por actores en línea para alojar y compartir contenido terrorista. Los sitios ampliamente disponibles a menudo se dejan en línea durante largos períodos, ya que los actores “explotan la falta de consenso global” sobre las eliminaciones, así como las diferentes jurisdicciones legales y la aplicación de la ley con recursos insuficientes.

“Casi nada está pasando con estos grandes sitios web dirigidos por terroristas [and] Debido a que muchos de estos sitios permanecen en línea y son tan fáciles de encontrar, es difícil discutirlo públicamente”, dijo Hadley.

La organización está trabajando en una herramienta gratuita con el brazo de investigación y desarrollo de Google, Jigsaw, para ayudar con el proceso de moderación para propietarios de sitios web más pequeños. En diciembre, Meta lanzó un software de código abierto que otras plataformas pueden usar para hacer coincidir contenido de terror con imágenes o videos existentes en la base de datos y resaltarlos para una revisión humana urgente.

El informe Tech Against Terrorism también citó una prevalencia cada vez mayor del contenido de IS y al-Qaeda en grandes plataformas tecnológicas en idiomas distintos del inglés y el árabe, que, según dijo, las empresas tienen menos capacidad para moderar. Los malos actores también están utilizando las funciones del mercado en las plataformas de redes sociales para vender material terrorista, agregó.

Leer más: Trabajar en las redes sociales reduce el riesgo de que aumente el contenido terrorista en línea, advierte un informe