Las redes sociales se convirtieron en un terreno fértil para nuevas formas de violencia digital. Entre ellas, la "sextorsión". Esta práctica se expande gracias a la creación de imágenes falsas mediante inteligencia artificial (IA) que son utilizadas para acosos, amenazas y manipulación emocional.
En países como los Estados Unidos, la situación escaló a niveles alarmantes. El caso de un adolescente de Kentucky, que se quitó la vida tras recibir amenazas de difusión de imágenes falsas de su cuerpo, recorrió el mundo y evidenció los daños irreparables que puede causar el uso irresponsable de la tecnología. En la Argentina, el fenómeno quedó a la vista luego de que un chico de 19 años de la provincia de Córdoba fuera imputado por usar inteligencia artificial (IA) para crear deepfakes sexuales, es decir, montajes falsos con fotos de sus compañeras del colegio, y por subirlos a sitios porno. La mayoría de las 16 víctimas eran menores de edad y muchas aún arrastran consecuencias psicológicas graves por estos hechos. El caso fue elevado a un juicio oral sin precedentes.
La problemática afecta con especial intensidad a los jóvenes, que se encuentran en una etapa de vulnerabilidad emocional y están sometidos a una exposición constante en las redes sociales. El FBI, la agencia federal de investigación estadounidense, advirtió que los casos de "sextorsión" digital en chicos y chicas de entre 12 y 17 años están creciendo de forma “espantosa”.
A esta realidad se suma la falta de regulación en el uso de la IA para la creación de contenidos íntimos falsos. Las herramientas que generan deepfakes, es decir, los contenidos engañosos creados a partir de herramientas de inteligencia artificial, son cada vez más accesibles y permiten que cualquiera, con pocos conocimientos técnicos, produzca imágenes o videos pornográficos falsos en minutos.
Un riesgo que llega a la Argentina
Como revela la investigación de Córdoba, la Argentina no está ajena a esta tendencia. En octubre de 2024, en San Martín, Buenos Aires, un estudiante fue denunciado por vender fotos manipuladas de sus compañeras, generadas con IA. El caso involucró a 22 víctimas y expuso la falta de protocolos en las instituciones educativas para actuar ante estas situaciones.
Estos hechos confirman que el fenómeno no se limita a celebridades o figuras públicas. Cualquier usuario puede ser víctima de chantaje o exposición indebida, especialmente si sus fotos circulan en las redes sociales.
Según una publicación de Página/12, los denominados “nudificadores” son plataformas en línea que, con sólo una foto, generan imágenes falsas de desnudos. Se estima que este tipo de sitios podrían generar más de U$S 36 millones anuales, un negocio que crece al margen de la legalidad.
Falta de leyes y regulación
La ausencia de regulaciones específicas que protejan a las personas de esta clase de violencia digital es uno de los puntos más preocupantes. Mientras que países europeos como Dinamarca analizan leyes que garanticen el derecho al control de la voz, rostro y cuerpo en entornos digitales, en América Latina la discusión avanza lentamente.
Fernando Schapachnik, investigador del Conicet, sostiene que la tecnología para detectar imágenes manipuladas existe y debería aplicarse para frenar la propagación de este tipo de contenidos. “Si Facebook logró censurar fotos de madres amamantando por considerarlas desnudos, la misma capacidad técnica podría emplearse para identificar deepfakes”, comentó en declaraciones a Página/12.
El problema es que las plataformas digitales muchas veces priorizan la viralidad y el negocio publicitario antes que la seguridad de sus usuarios. Esta falta de controles permite que los agresores actúen con impunidad.
La mayor responsabilidad, por ahora, recae en los propios usuarios, que deben aprender a proteger su identidad digital y evitar compartir material que pueda ser manipulado.
Jóvenes en la mira
Los adolescentes y jóvenes son el blanco principal de estas extorsiones. El anonimato de Internet y el poder de la IA potencian los daños psicológicos en quienes, por miedo o vergüenza, sienten que no tienen a quién acudir.
El caso de Kentucky no es el único. En varios países se reportan suicidios vinculados a chantajes digitales. Las víctimas suelen ser menores de edad que, al no dimensionar que las imágenes son falsas, entran en pánico ante la amenaza de exposición.
Organizaciones de protección de derechos digitales insisten en que el diálogo entre familias, escuelas y jóvenes es clave para prevenir estas situaciones. Informar sobre los riesgos, fortalecer la autoestima y denunciar a tiempo son pasos fundamentales para frenar el impacto de esta nueva forma de violencia.
El problema no es la IA en sí, sino el uso malintencionado de la tecnología. Sin leyes claras y sistemas de control más efectivos, la "sextorsión" seguirá creciendo y dejando víctimas invisibles.