Meta criticada por insuficientes salvaguardas frente a contenido manipulado por IA

Meta anunció la eliminación de videos generados con inteligencia artificial contra dos mujeres, incluida una política británica, luego de que su Consejo de Supervisión calificara como “insuficientes” las salvaguardas de la compañía frente al contenido manipulado. El órgano, financiado por Meta pero con carácter cuasi independiente, señaló que los casos contravenían las normas internas sobre incitación al odio, desinformación y acoso.

Los casos señalados

• Primer video: mostraba a una concejala del Partido Laborista en Escocia realizando comentarios incendiarios contra refugiados. La falta de sincronización labial evidenció la manipulación.
• Segundo video: buscaba desacreditar a una activista musulmana, presentándola consumiendo alimentos ultraprocesados mientras daba consejos dietéticos y realizaba ejercicios absurdos.
  

Críticas del Consejo

La copresidenta del Consejo, Pamela San Martin, advirtió que las normas de Meta son “sistemática y fundamentalmente insuficientes” para enfrentar el flujo constante de deepfakes en plataformas como Facebook e Instagram. Además, subrayó que las mujeres que se pronuncian sobre temas sociales son blanco desproporcionado de acoso y desinformación.

Recomendaciones

El Consejo instó a Meta a adoptar medidas más estrictas, entre ellas:

• Etiquetado claro de contenidos engañosos.
• Sanciones severas para reincidentes.
• Eliminación inmediata de deepfakes destinados a acosar personas.

Contexto adicional

La semana pasada, el Consejo recomendó que Meta no sustituyera su servicio profesional de verificación de datos por las Notas de la Comunidad, un sistema participativo inspirado en la plataforma X de Elon Musk. Meta ya comenzó a probar este modelo en 16 países hispanohablantes de Latinoamérica, lo que ha generado debate sobre la efectividad de sus mecanismos de control.