Meta No Logra Frenar las Estafas con Deepfakes de IA
La Junta de Supervisión ha emitido un informe crítico sobre el manejo de Meta de las estafas con deepfakes de celebridades, afirmando que la compañía no está aplicando adecuadamente sus propias políticas. Las conclusiones de la junta provienen de un caso que involucra un anuncio fraudulento de un casino en línea que presenta un video manipulado con IA del jugador de fútbol retirado Ronaldo Nazário. A pesar de numerosos informes, el anuncio, visto más de 600.000 veces, permaneció en la plataforma durante un período considerable antes de ser eliminado.
Aplicación Insuficiente
La investigación de la Junta de Supervisión reveló que los procesos de moderación de contenido de Meta son insuficientes para abordar el problema generalizado de estafas de celebridades generadas por IA. El informe destaca que los revisores carecen de la autoridad y la capacitación para identificar y eliminar eficazmente dicho contenido, lo que lleva a una cantidad significativa de estafas que pasan desapercibidas. La junta critica específicamente el enfoque de Meta, observando inconsistencias en la aplicación y una tendencia a priorizar solo los casos escalados.
Respuesta de Meta y Preocupaciones Continuas
Meta, en respuesta, disputó varios puntos planteados por la junta, destacando sus esfuerzos continuos para combatir las estafas, incluida la implementación de tecnología de reconocimiento facial. Sin embargo, las preocupaciones de la Junta de Supervisión se extienden más allá de este caso individual. Los informes de estafas similares con figuras como Elon Musk y Jamie Lee Curtis, junto con preocupaciones más amplias de la industria, sugieren un problema sistémico. Los informes externos indican que las plataformas de Meta representan una proporción significativa de las estafas reportadas en varias plataformas financieras. Esto genera serias preocupaciones sobre la efectividad de las estrategias actuales de Meta y su voluntad de combatir agresivamente las actividades fraudulentas.
La recomendación de la Junta de Supervisión insta a Meta a mejorar sus pautas internas, capacitar a los revisores de contenido y brindar capacitación sobre la identificación de contenido manipulado con IA. La situación subraya un desafío más amplio que enfrentan las plataformas de redes sociales a medida que la tecnología de deepfake de IA se vuelve cada vez más accesible y sofisticada.
1 Imagen del Estafas Deepfakes:
Fuente: Engadget