Escolares de Chorrillos y TikToker boliviana, víctimas del uso delictivo de la Inteligencia Artificial
Escolares de Chorrillos y TikToker boliviana, víctimas del uso delictivo de la Inteligencia Artificial

Escolares de un colegio en el distrito limeño de Chorrillos y la tiktoker boliviana Albertina Sacaca son víctimas del uso delictivo y hasta machista de la Inteligencia Artificial (IA) y la tecnología.

Las imágenes de estas mujeres han sido manipuladas con esta tecnología y con otras herramientas para crear contenido explícito viralizable que se difundieron en las redes sociales.

@antoniomancoperu

Escolares peruanas y la TikToker boliviana, Albertina Sacaca, son víctimas del uso delictivo de la #InteligenciaArtificial con montajes de fotos. #IA #Midjourney DALL-E #StableDiffusion #albertinasacacacallahu #albertinacasaca1 #Chorrillos #escolares

♬ New Age, a sad piano solo 10 minutes(1003982) – 8.864

Lo más grave es que en el caso de las escolares peruanas, los responsables de montajes usando la IA, llegaron a pedir dinero por este material adulterado mientras el colegio donde estudiaban las menores se lavó las manos.

Las autoridades del colegio privado Saint George llegaron a decir en un comunicado que los hechos se produjeron por las redes sociales y fuera del ámbito del centro educativo, pese a que una madre dice que las imágenes estaban en la PC del colegio.

En el caso de Albertina Sacaca pedían likes por más material explícito, cuando ella ya aclaró que no es su imagen, ni su voz la que se difundió desde el último sábado en TikTok. Ella revela además en un video que no es la primera vez que la atacan.

La IA puede facilitar el engaño por su realismo

El problema es que a diferencia de un simple montaje, la IA permiten crear imágenes falsas que parecen reales, pero también clonar voces que la delincuencia ya está usando en el Perú.

Todas las herramientas son gratuitas o tienen un costo mínimo. En enlinea.pe hemos usado generadores de imágenes como Midjourney, DALL-E y Stable Diffusion para contenido sano, por ejemplo para crear fotos de Elon Musk y Donald Trump en Machu Picchu, cuando nunca estuvieron en dicho atractivo turístico.

Pero hoy ya existen apps para adultos y otras que engañarían a los usuarios, según una investigación de The Washington Post.

Si la IA engaña a jóvenes o adultos, imaginen como la pedofilia puede captar y dañar a nuestros niños. Es obvio que el Perú no tiene normas específicas que regulen el uso de la IA con fines delictivos y menos sanciones a quienes afectan a los niños.

En el Congreso del Perú sólo hay 4 proyectos de ley sobre IA, pero ninguno se refiere al mal uso de esta y menos propone sanciones.

Si esto ya está pasando en Perú y Bolivia, seguro también en tu país, la idea es no normalizar el delito y menos decir que es una simple falta.

Periodista con 21 años de experiencia en los ámbitos político, legislativo, investigación, judicial, policial y multimedia. Perfil digital, 'multitasking', conocimiento de analítica en redes sociales...