¿Un Futuro Seguro o una Pesadilla Orwelliana?

04 Agosto 2024

Por Alejandro Urueña y María S. Taboada

Magíster en Inteligencia Artificial./ Lingüista y Mg. en Psicología Social. Profesora Titular de Lingüística General I y Política y Planificación Lingüísticas de la Fac. de Filosofía y Letras de la UNT.

La reciente Resolución 710/2024 del Ministerio de Seguridad de Argentina ha generado tanto entusiasmo como dudas. En el marco de un accionar que se plantea como objetivo la lucha contra el delito, ha creado la Unidad de Inteligencia Artificial Aplicada a la Seguridad (UIAAS). Pero, ¿qué implica realmente esta medida?

En la Resolución, la innovación está a la orden del día. La inteligencia artificial puede transformar la eficiencia y efectividad de nuestras fuerzas de seguridad. Con herramientas como el reconocimiento facial, el análisis de datos masivos y drones patrullando nuestras ciudades, la respuesta ante delitos podría ser más rápida y precisa. Además, la capacidad de predecir y prevenir hechos delictivos antes de que ocurran suena a una película de ciencia ficción hecha realidad. Imaginemos un futuro donde las amenazas se neutralizan antes de que se conviertan en problemas reales.

La ciberseguridad también se ve fortalecida con esta medida. La patrulla de la “Dark-Web” y la identificación temprana de amenazas cibernéticas son vitales en un mundo donde cada vez más aspectos de nuestra vida cotidiana están digitalizados. La automatización de tareas peligrosas mediante robots podría salvar muchas vidas.

Sin embargo, la realidad no es un cuento de hadas como “Alicia en el País de las Maravillas”. Más bien se asemeja, en 2024, el mundo diseñado por George Orwell en “1984”. ¿Será casualidad la coincidencia del dígito final cuatro décadas después? La implementación de tecnologías avanzadas de vigilancia despierta inquietudes y - más aún- severas preocupaciones sobre la privacidad y los derechos civiles (Urueña y Taboada, 2024) . Es crucial preguntarnos hasta dónde estamos dispuestos a ceder nuestra privacidad en aras de la seguridad. La supervisión constante en redes sociales y en otros entornos digitales podría llevar a hacer realidad una distopía similar a la descripta por no pocos novelistas como el citado, si no se establece una regulación adecuada y transparente.

Delegar la seguridad en la confianza en los algoritmos, que pueden contener -y de hecho se ha comprobado que tienen- sesgos ideológicos discriminatorios en relación a ciertos sectores y comunidades étnicas y sociales (O” Neill, 2016) , puede acarrear un problema antes que la solución esperada. Sin una regulación adecuada, estas herramientas podrían exacerbar cuestiones de objetividad, que más allá de dilemas filosóficos, terminan de hecho poniendo en juego la vida y la libertad de las personas.

Otro punto crítico es la falta de transparencia en el control de las herramientas tecnológicas y la ausencia de rendición de cuentas. La resolución no especifica claramente cómo se supervisarán las actividades de la (UIAAS). En un estado democrático, es fundamental que tales iniciativas operen bajo un marco de supervisión que garantice el respeto a los derechos humanos.

Finalmente, la dependencia excesiva en la tecnología también tiene sus riesgos. ¿Qué pasa si estos sistemas fallan o son hackeados por los llamados cánceres de la IA? La seguridad nacional podría verse comprometida si no se gestionan adecuadamente estos riesgos.

En conclusión, mientras que la Resolución 710/2024 promete grandes avances en la lucha contra el delito, también plantea importantes desafíos y riesgos que deben ser abordados con seriedad. La clave estará en encontrar el equilibrio entre la innovación tecnológica y el respeto a nuestros derechos fundamentales.

Comentarios