Arvit: 19:15
Shajarit: 9:00
Minja: 18:15
Por Philissa Cramer
Las herramientas automatizadas de moderación de contenido implementadas en medio de “un aumento de contenido violento y gráfico” en Facebook e Instagram después del 7 de octubre fueron demasiado lejos al eliminar publicaciones que los usuarios de las redes sociales deberían haber podido ver, dijo un panel de supervisión independiente en su La empresa matriz, Meta, se pronunció el martes.
El hallazgo se produjo en una revisión de dos casos en los que moderadores humanos habían restaurado contenido que la moderación por computadora había eliminado. Uno era sobre un vídeo de Facebook que parecía mostrar a un terrorista de Hamás secuestrando a una mujer el 7 de octubre. El otro era un vídeo de Instagram que parecía mostrar las consecuencias de un ataque cerca del hospital Al-Shifa en Gaza. Los casos fueron los primeros asumidos por la Junta de Supervisión del Meta bajo un nuevo proceso acelerado destinado a permitir respuestas más rápidas a cuestiones urgentes.
En ambos casos, las publicaciones fueron eliminadas porque Meta había bajado el listón en cuanto a cuándo sus programas informáticos marcarían automáticamente el contenido relacionado con Israel y Gaza como violatorio de las políticas de la empresa sobre contenido violento y gráfico, incitación al odio, violencia e incitación, e intimidación y acoso. .
"Esto significó que Meta utilizó sus herramientas automatizadas de manera más agresiva para eliminar contenido que pudiera violar sus políticas", dijo la junta en su decisión. "Si bien esto redujo la probabilidad de que Meta no eliminara contenido infractor que de otro modo podría evadir la detección o donde la capacidad de revisión humana era limitada, también aumentó la probabilidad de que Meta eliminara por error contenido no infractor relacionado con el conflicto".
Hasta la semana pasada, escribió la junta, la compañía aún no había elevado los “umbrales de confianza” a los niveles anteriores al 1 de octubre. 7 niveles, lo que significa que el riesgo de eliminación de contenido inapropiado sigue siendo mayor que antes del ataque.
La junta de supervisión está instando a Meta, como lo ha hecho en múltiples casos anteriores, a perfeccionar sus sistemas para protegerse contra algoritmos que eliminen incorrectamente publicaciones destinadas a educar o contrarrestar el extremismo. La eliminación accidental de contenido educativo e informativo ha afectado a la empresa durante años, aumentando, por ejemplo, cuando Meta prohibió la negación del Holocausto en 2020.
"Estas decisiones fueron muy difíciles de tomar y requirieron discusiones largas y complejas dentro de la Junta de Supervisión", dijo Michael McConnell, presidente de la junta, en un comunicado. “La junta se centró en proteger el derecho a la libertad de expresión de las personas de todas las partes sobre estos horribles acontecimientos, garantizando al mismo tiempo que ninguno de los testimonios incitara a la violencia o al odio. Estos testimonios son importantes no sólo para los oradores, sino también para los usuarios de todo el mundo que buscan información oportuna y diversa sobre acontecimientos innovadores, algunos de los cuales podrían ser pruebas importantes de posibles violaciones graves de los derechos humanos internacionales y del derecho humanitario”.
Meta no es la única empresa de redes sociales que enfrenta un escrutinio por su manejo de contenido relacionado con la guerra entre Israel y Hamas. TikTok ha generado críticas por la prevalencia del contenido pro palestino en la popular plataforma de videos. Y el martes, la plataforma anteriormente conocida como Twitter, utilizando nuevos poderes regulatorios otorgados el año pasado y luego de una investigación inicial sobre el aumento de “contenido terrorista y violento y discurso de odio” después del 7 de octubre.
Fuente: Jewish Telegraph Agency.
