El chatbot de inteligencia artificial de Elon Musk, Grok, creó y luego compartió públicamente al menos 1,8 millones de imágenes sexualizadas de mujeres.
Estas estimaciones separadas de datos de X fueron difundidas por The New York Times y elaboradas en conjunto con el Center for Countering Digital Hate (Centro para la Lucha contra el Odio Digital).
A partir de finales de diciembre, los usuarios de la plataforma de redes sociales inundaron la cuenta de X del chatbot con solicitudes para alterar fotos reales de mujeres y niños para quitarles la ropa, ponerles bikinis y colocarlos en posiciones sexuales, lo que provocó una protesta mundial de víctimas y reguladores.
En solo nueve días, Grok publicó más de 4,4 millones de imágenes. Una revisión de The Times estimó de manera conservadora que al menos el 41 por ciento de las publicaciones, o 1,8 millones, muy probablemente contenían imágenes sexualizadas de mujeres.
Imágenes modificadas de niños y niñas
Un análisis más amplio del Center for Countering Digital Hate, utilizando un modelo estadístico, estimó que el 65 por ciento, o algo más de tres millones, contenían imágenes sexualizadas de hombres, mujeres o niños.
Los hallazgos muestran con qué rapidez Grok difundió imágenes perturbadoras, lo que anteriormente impulsó a los gobiernos de Gran Bretaña, India, Malasia y Estados Unidos a iniciar investigaciones sobre si las imágenes violaban las leyes locales.
El estallido de imágenes no consensuadas en solo unos pocos días superó las colecciones de deepfakes sexualizados, o imágenes realistas generadas por IA, de otros sitios web, según el análisis de The Times y expertos en acoso en línea.
«Este es un abuso a escala industrial de mujeres y niñas», dijo Imran Ahmed, director ejecutivo del Center for Countering Digital Hate, que realiza investigaciones sobre el odio y la desinformación en línea.
«Ha habido herramientas para desnudar, pero nunca han tenido la distribución, la facilidad de uso o la integración en una gran plataforma como lo hizo Elon Musk con Grok».
La UE presiona
Al respecto, la Unión Europa se ha pronunciando señalando que no «tolerará comportamientos insensatos» de las plataformas digitales, como «las imágenes falsas de desnudos de mujeres y niños».
La presidenta de la Comisión Europea, Ursula von der Leyen, dijo a la agencia AFP: «Nuestra posición es clara: no confiaremos el consentimiento ni la protección de la infancia a plataformas tecnológicas para que los vulneren y los moneticen».
Von der Leyen agregó que aunque ya existen medidas de protección, «debemos hacer más para proteger a los ciudadanos, tanto en línea como fuera de línea».
Esta nueva investigación tiene por objeto verificar si X (antes Twitter), ha infringido las estrictas normas europeas sobre el entorno digital, que le obligan a proteger a los usuarios de contenidos ilegales.
El Ejecutivo comunitario decidió además ampliar el alcance de una primera investigación abierta en diciembre de 2023 contra X, también en el marco de su legislación sobre servicios digitales, la Ley de Servicios Digitales (DSA).
Grok tiene una función que permite a los usuarios crear imágenes falsas de desnudos a partir de fotografías reales de menores de edad o de mujeres.
Varios países, entre ellos Francia y el Reino Unido, han iniciado procedimientos legales y algunos incluso han suspendido o bloqueado el acceso a X.
Tras limitar inicialmente el acceso a esta función, la red anunció a mediados de enero que solo restringiría su uso en los países donde es ilegal crear este tipo de imágenes sexuales.
Grok y X guardan silencio
X y la start-up de IA del Sr. Musk, xAI, propietaria de X y creadora de Grok, no respondieron a las solicitudes de comentarios, según The New York Times.
El jefe de producto de X, Nikita Bier, dijo en una publicación el 6 de enero que un aumento en el tráfico durante cuatro días de ese mes había resultado en los niveles de participación más altos en X en la historia de la compañía, aunque no mencionó las imágenes.
El interés en las capacidades de edición de imágenes de Grok estalló el 31 de diciembre, cuando el Sr. Musk compartió una foto generada por el chatbot de él mismo en bikini, así como un cohete de SpaceX con el cuerpo desnudo de una mujer superpuesto encima.
El chatbot tiene una cuenta pública en X, donde los usuarios pueden hacerle preguntas o solicitar alteraciones a las imágenes.
Difusión en la red social
Los usuarios acudieron en masa al sitio de redes sociales, en muchos casos pidiendo a Grok que quitara la ropa en imágenes de mujeres y niños, tras lo cual el bot publicó las imágenes generadas por IA.
Entre el 31 de diciembre y el 8 de enero, Grok generó más de 4,4 millones de imágenes, en comparación con las 311.762 de los nueve días anteriores a las publicaciones del Sr. Musk.
The Times utilizó datos de Tweet Binder, una empresa de análisis que recopila publicaciones en X, para encontrar el número de imágenes que Grok había publicado durante ese período.
