Reino Unido Busca Prohibir Apps Deepfakes de Desnudos Para Proteger Niños
Un informe reciente destaca la alarmante prevalencia de aplicaciones deepfake impulsadas por IA que generan imágenes de desnudos o sexuales, lo que impacta particularmente a los jóvenes. El Comisionado para la Infancia del Reino Unido está abogando por una prohibición integral de estas aplicaciones de "nudificación" debido a sus efectos perjudiciales en el bienestar y la seguridad de los niños.
El Impacto en los Jóvenes
La proliferación de estas aplicaciones supuestamente ha llevado a una tendencia preocupante: las jóvenes dudan cada vez más en publicar fotos en línea, temiendo el potencial de que sus imágenes sean manipuladas y explotadas. Esto destaca el profundo impacto psicológico de tal tecnología en los jóvenes.
Dame Rachel de Souza, la Comisionada para la Infancia, enfatizó el temor que infunde en los niños la mera existencia de estas aplicaciones. La facilidad con la que alguien puede crear una imagen desnuda usando un teléfono inteligente plantea preocupaciones importantes sobre el posible abuso y la manipulación.
Llamamientos a la Acción Gubernamental
De Souza está instando al gobierno a implementar una prohibición total de las aplicaciones que utilizan inteligencia artificial para generar deepfakes sexualmente explícitos. Además, aboga por establecer responsabilidades legales para los desarrolladores de aplicaciones GenAI para identificar y mitigar de manera proactiva los riesgos que sus productos representan para los niños.
Estas responsabilidades incluirían la implementación de sistemas eficaces para eliminar el material de abuso sexual infantil (CSAM) de Internet y el reconocimiento del abuso sexual de deepfake como una forma de violencia contra las mujeres y las niñas.
Si bien el Reino Unido ya ha tomado medidas para criminalizar la producción y el intercambio de deepfakes sexualmente explícitos y el intercambio de imágenes íntimas no consentidas, el enfoque del Comisionado para la Infancia es el daño específico infligido a los jóvenes.
El informe subraya la correlación entre el abuso de deepfake y los graves problemas de salud mental, incluida la ideación suicida y el TEPT. Esto destaca la necesidad urgente de medidas específicas para proteger a los jóvenes vulnerables de las devastadoras consecuencias de esta tecnología.
1 Imagen del Apps Deepfake:
Fuente: Engadget