La impostura de “Hipnocracia”: la IA, ¿autora intelectual, material o arma de cognicidio?

Por Alejandro Urueña: Founder & CEO Clever Hans Diseño de Arquitectura y Soluciones en Inteligencia Artificial. Abogado. Magister en Inteligencia Artificial.

Por María S. Taboada:  Lingüista y Mg. en Psicología Social. Profesora de Lingüística General I y Política y Planificación Lingüísticas de la Fac. de Filosofía y Letras de la UNT.

En 1996, el renombrado físico Alan Sokal generó un escándalo de proporciones en el campo científico de las ciencias sociales tras el objetivo de hacer visible lo que él consideraba un modelo epistemológico y discursivo carente de rigurosidad científica: el llamado postmodernismo, representado en la revista Social Text. Sostenía que en esa revista se difundían artículos “plagados de sin sentidos” cuya condición de publicación estaba fundada en la reproducción de un estilo discursivo oscuro y críptico y la adhesión a “los prejuicios ideológicos” de los editores. Para desenmascarar a quienes criticaba envió un artículo a la mencionada revista, que constituía una deliberada impostura científica desde el título mismo: “La transgresión de fronteras: hacia una hermenéutica transformativa de la gravedad cuántica”. Proponía que la gravedad existía porque la sociedad creía y actuaba como si existiera. La revista lo publicó. Y ese mismo día, Sokal en otro medio reveló su impostura advirtiendo que el texto era un collage de jerga posmodernista, de citas fuera de contexto y sin sentido. La reputación del autor del engaño generó un amplio debate sobre las epistemologías postmodernas y significó más de un dolor de cabeza para sus representantes.

Casi treinta años después, en diversos sitios editoriales, se ha puesto a la venta y se promociona el libro “Hipnocracia. Trump, Musk y la nueva arquitectura de la realidad”. Gracias a la web e internet, la difusión alcanza las redes sociales y se multiplica.

El supuesto autor del libro es Jianwei Xun y ha salido a la luz recientemente con el sello editorial Rosameron. La reseña del sitio google books lo define como: “Un libro crucial para comprender cómo el control se ejerce actualmente no reprimiendo la verdad sino multiplicando las narrativas, haciendo que cualquier punto fijo se vuelva imposible.” “Hipnocracia no se limita al análisis: también propone estrategias de resistencia invisible y prácticas de autonomía perceptiva que van más allá de la simple verificación de datos o la desconexión digital.” Finalmente concluye que el texto constituye un “un mapa esencial para comprender cómo opera el poder en la era de la percepción manipulada.”

Precisamente el libro es uno de los mejores exponentes de percepción manipulada. Y de multiplicación de narrativas. El mencionado autor no existe. A diferencia de Sokal que actuó a cara descubierta, el libro es la resultante de una arquitectura discursiva con IA generada por el que figura como traductor del texto: Andrea Colamedici. Los autores (¿o coautores? ¿o qué?) son Claude de Anthropic y ChatGPT de OpenAi. Según Colamedici, él no se propuso engañar a los lectores, sino alertar - con un propósito académico- de los riesgos y peligros de usar la IA. Precisamente de lo que se puede acusar a su accionar. Sostiene que las ideas y reflexiones que se proponen son de su creación: ideas propias desplegadas con el apoyo colaborativo (o algo más) de los LLMs. 

La pregunta es entonces por qué el libro sale a la venta y se difunde sin evidencia, por parte del creador de la impostura, de su condición de tal. Colamedici argumenta que pretende revelar las presuntas imposturas que pueden realizarse con la IA pero él no declara su engaño y pone a la venta el texto. De mínima, podría tratarse de una estafa. ¿Cuál es entonces el propósito académico? ¿O se trata de una operación de mercado para embaucar o utilizar al mundo académico en provecho propio? Entre las intenciones de Sokal y las de Colamedici media un abismo.

“Hipnocracia” pone en evidencia cómo la IA puede ser empleada para diluir las barreras entre realidad y virtualidad, para transgredir las fronteras – parafraseando a Sokal- en una dimensión que en su momento ni el físico hubiera imaginado.

La multiplicación de agentes y procesadores discursivos pone en jaque categorizaciones históricas como las de creador, autor, plagio, creación, discursividad y hasta la de lenguaje humano y obliga a replantearlas en el contexto actual de las potencialidades de la IA. Hemos señalado más de una vez que la IA no piensa como los humanos. (De paso, habría que redefinir con precisión qué es pensar). Recoge millones de datos de la web los correlaciona y realiza abstracciones. ¿Quiénes son los autores de esos datos recolectados?¿Cuántos autores humanos, pensadores y creadores, se esconden detrás de la arquitectura discursiva planeada y ejecutada por Colamedici? ¿Y cuántas tramas de colonización y extractivismo de creaciones, concepciones, epistemologías del mundo quedan ocultas tras los velos de estas cortinas superpuestas?

La impostura de Colamedici es una evidencia flagrante de la necesidad de regulación del uso de la IA en todas sus dimensiones y posibilidades. Es también una señal de alerta, ya no de desafíos futuros, sino de acciones educativas inmediatas que tenemos que poner en marcha para evitar que las capacidades cognitivas de los homos sapiens sean fagocitadas por nuevos espejitos de colores. Una suerte de cognofagia (más que de hipnocracia) que sutilmente – y sin violencia aparente- termine desagotando las infinitas posibilidades del cerebro humano transformándolo en una herramienta de reproducción y sumisión de los que dicen y hacen otros. Porque detrás de la IA hay quienes, de carne, hueso y cerebro, deciden y ejecutan. La metáfora del poderío de las máquinas hasta el presente sigue siendo una ficción: si la IA pensara como los humanos no escribiría un texto en su contra. Hay responsables por detrás. Y una vez más, y gracias a las capacidades humanas, han sido sorprendidos in fraganti.