Empresa matriz de Facebook Meta’La plataforma especial de revisión de contenido de pistas para personas y empresas VIP potencialmente causa daño al público y parece existir para satisfacer las preocupaciones comerciales de Meta, en lugar de proteger un discurso seguro y justo, encontró un informe de la Junta de Supervisión.

Las recomendaciones de la junta llegan en un momento en que la red rival Gorjeo está lidiando con sus propios problemas de moderación de contenido, a raíz de la adquisición de la plataforma de redes sociales por parte de Elon Musk. Y muestra que existe preocupación sobre cómo los VIP en Facebook fueron tratados de manera diferente, en términos de cómo se moderaron sus publicaciones, que los usuarios regulares.

En 2020, Meta, entonces conocida como Facebook, estableció una Junta de Supervisión bajo la dirección del director ejecutivo Mark Zuckerberg. Influyó en la prohibición del expresidente Donald Trump, tras la insurrección del 6 de enero.

The Wall Street Journal informó por primera vez sobre la existencia del programa especial de revisión VIP llamado “verificación cruzada” o XCheck, en septiembre de 2021, como parte de la exposición más amplia del Journal sobre las acusaciones de la denunciante Frances Haugen.

En un informe de 57 páginas, la Junta criticó lo que vio como un programa que promovía un sistema desequilibrado que ofrecía “a ciertos usuarios mayor protección que a otros”. El programa retrasó la eliminación de contenido que potencialmente violaba las reglas Meta y ni siquiera pudo establecer qué tan efectivo era el programa de seguimiento especial, en comparación con los procesos estándar de moderación de contenido.

El informe encontró que el contenido potencialmente ofensivo podría permanecer en el sitio durante horas, posiblemente incluso días, si el usuario formaba parte del programa VIP especial.

Meta le dijo a la Junta de Supervisión que “tiene un sistema que bloquea algunas acciones de cumplimiento fuera del sistema de verificación cruzada”.

Ese sistema, llamado internamente “arreglos técnicos”, son excepciones automáticas para una lista preseleccionada de violaciones de la política de contenido para un determinado grupo de usuarios. Meta procesa “alrededor de mil arreglos técnicos al día”.

Para la mayoría de los usuarios, la moderación de contenido en Facebook e Instagram fue históricamente fácil. El contenido potencialmente problemático se marca, ya sea a través de procesos automatizados o cuando un ser humano informa contenido cuestionable, y luego un contratista externo o un algoritmo automatizado toma una decisión sobre la naturaleza del contenido.

Pero para unos pocos privilegiados, el programa de verificación cruzada desencadenó un proceso diferente y más humano.

Para esas “entidades autorizadas”, el primer paso fue una revisión por parte de un equipo dedicado de empleados y contratistas de Meta que tenían un grado de “experiencia regional y de idioma” sobre el contenido que estaban moderando. Sin embargo, esta no fue una oportunidad que el público en general disfrutó.

En Afganistán y Siria, por ejemplo, el tiempo promedio de revisión del contenido denunciado fue de 17 días, en parte porque Meta a veces ha tenido problemas para contratar expertos en idiomas a nivel mundial.

Luego, el contenido fue revisado por un panel de ejecutivos “superiores” de Meta, que incluía líderes de equipos legales y de comunicaciones.

En el nivel final, “los más altos ejecutivos de Meta” podrían estar involucrados si la empresa enfrentara un riesgo legal, de seguridad o regulatorio significativo.

Ese nivel superior también podría activarse si hubiera un grado de urgencia, con posibles “consecuencias comerciales”. No estaba claro quién tomó la decisión de acelerar un proceso de revisión de contenido al liderazgo global.

Meta revisó el proceso de revisión de contenido para el público en general en 2022 después del informe inicial de la Revista,

Ahora, después de la detección y revisión inicial, el contenido se clasifica mediante un proceso “automatizado” para decidir si necesita o no una revisión adicional.

Si necesita un examen más detallado, los empleados o contratistas de Meta participarán en un examen más detallado y potencialmente ascenderán al nivel más alto disponible para el público en general, el “Equipo de respuesta temprana”, quien tomará una decisión final sobre el cumplimiento de las acciones.

En el informe, la Junta de Supervisión de Meta proporcionó más de dos docenas de recomendaciones para soluciones al programa de verificación cruzada. La primera recomendación fue dividir el sistema de revisión de contenido de Meta en dos flujos: uno para cumplir con las “responsabilidades de derechos humanos” de Meta y otro para proteger a los usuarios que Meta considera una “prioridad empresarial”.

Otras recomendaciones involucraron proteger a los equipos de políticas públicas y relaciones gubernamentales de la moderación de contenido, establecer un conjunto claro de criterios públicos para la inclusión en listas de verificación cruzadas o sucesoras, y expandir el proceso de apelaciones a casi todo el contenido.

Un representante de Meta señaló a CNBC una declaración en el sitio de prensa de Meta.

“Construimos el sistema de verificación cruzada para evitar una posible aplicación excesiva (cuando tomamos medidas sobre el contenido o las cuentas que en realidad no infringen nuestras políticas) y para verificar los casos en los que podría haber un mayor riesgo de error o donde el impacto la posibilidad de un error es especialmente grave”, se lee en el comunicado.

“Para abordar completamente la cantidad de recomendaciones, hemos acordado con la junta revisar y responder dentro de los 90 días”.