Meta dio marcha atrás: eliminó una polémica función que usaba fotos de Instagram para entrenar su IA

Meta desactivó una función de su nuevo generador de imágenes con inteligencia artificial, Muse Image, que permitía usar fotos de perfiles públicos de Instagram sin previo aviso. La decisión llegó tras una ola de críticas de usuarios que denunciaron una violación a su privacidad.

La semana pasada, la empresa de Mark Zuckerberg presentó Muse Image, un sistema desarrollado por SuperIntelligence Labs que podía generar imágenes a partir de cuentas públicas y su contenido. Sin embargo, una característica en particular encendió las alarmas: por defecto, el sistema tenía acceso a la mayoría de las fotos subidas a Instagram, a menos que los usuarios modificaran manualmente la configuración de privacidad.

¿Qué generó la controversia?

La función no alertaba a los usuarios cuando sus imágenes eran utilizadas por la IA. Según TechCrunch, esta falta de notificación provocó una reacción negativa inmediata, especialmente entre celebridades y sus representantes, que pidieron a Meta dar marcha atrás.

Desde la compañía reconocieron el error: “Nuestra intención era proporcionar una herramienta creativa útil y dar a los usuarios control sobre si su contenido público podía ser referenciado de esta manera”, señalaron en un comunicado. Y agregaron: “Hemos recibido comentarios que indican que esta función no cumplió con las expectativas, por lo que ya no está disponible”.

El temor a los deepfakes

El principal riesgo detrás de esta función era la posibilidad de generar deepfakes de personas famosas, algo que ya ocurrió con otros generadores permisivos como Grok de xAI. Estos contenidos suelen derivar en desinformación y difamación, lo que llevó a Meta a actuar rápidamente.