¿Qué papel jugamos en un mundo que puede ser gobernado por agentes de IA?

Por Alejandro Urueña - Ética e Inteligencia Artificial (IA) - Founder & CEO Clever Hans Diseño de Arquitectura y Soluciones en Inteligencia Artificial. Magister en Inteligencia Artificial.

Y María S. Taboada - Lingüista y Mg. en Psicología Social. Prof. de Lingüística General I y Política y Planificación Lingüísticas de la Fac. de Filosofía y Letras de la UNT.

Una vida con “ayudantes inteligentes”

Para entender qué es un agente de IA y el cambio radical que supone, conjetura que ya no solo usas herramientas digitales, sino que cuentas con un equipo de especialistas invisibles y ultrarrápidos trabajando exclusivamente para ti. Piensa en un agente no como una app pasiva, sino como tu propio “jefe de operaciones” personal para una tarea específica, o incluso un consorcio de ellos colaborando. cognoscitivamente, es como si pudieras externalizar partes de tu propio proceso de toma de decisiones y ejecución: le das un objetivo complejo (”organízame el viaje más eficiente y económico a Tokio para la conferencia X, considerando mis preferencias de asiento y comida”) y este equipo no solo busca información, sino que interpreta, negocia entre sí (si son varios agentes), toma decisiones y ejecuta las acciones necesarias (reserva vuelos, hotel, agenda reuniones), aprendiendo y adaptándose en el proceso “un ejemplo trivial”. La analogía impactante reside en esta delegación de autonomía y cognición: ya no eres solo el artesano que maneja la herramienta, sino el director que establece la visión y confía en una “inteligencia” autónoma para materializarla. Esto nos lleva directamente a la pregunta crucial: si estos “jefes de operaciones” digitales pueden gestionar cada vez más aspectos de nuestra vida coordinadamente, ¿cuál será nuestro rol? ¿Seremos meros definidores de objetivos iniciales en un mundo dirigido por la eficiencia algorítmica de estos agentes, o conservaremos un papel más activo y crítico en la supervisión y dirección de un mundo cada vez más “agente-céntrico”?
En su último evento, Google Cloud Next acaba de lanzar una apuesta gigante para gestar ayudantes artificiales que pueden actuar coordinadamente en buena parte de las tareas de la vida cotidiana. En lugar de apelar a diversas apps o a otros (tan humanos como nosotros) estos multiayudantes actuarían colaborativamente para resolverlas.

Así, se ofertan varios modelos: ADK (Kit de Desarrollo de Agentes) Es una suerte de caja de herramientas avanzada para ayudar a los programadores, más simple y más fácil, -asegura la empresa- y concebida con una perspectiva pragmática: resolver tareas útiles.

Sus ventajas, según Google

Libertad de elección: se la puede usar con cualquier inteligencia artificial, y no solo con la de Google. Versátil: los agentes pueden operar en la computadora, la nube de Google o cualquier lugar. Multimodal: los agentes procesan vídeo y audio en vivo. Se les puede mostrar algo con una cámara o hablarle directamente, y parecen entender al instante.

Hablan entre sí

Se trata de ayudantes que cooperan entre sí con un “lenguaje común “para que los agentes de distintas empresas “con el apoyo y las contribuciones de más de 50 socios tecnológicos” (Announcing the Agent2Agent Protocol (A2A) - Google Developers Blog) se comuniquen fácilmente.
Al presente algunas empresas se han articulado al proyecto: SAP integrará A2A en su software ERP y PayPal reducirá confirmaciones financieras de minutos a segundos. Sin embargo, faltan gigantes importantes como Microsoft y Apple . Sin ellos, la eficacia de esta comunicación podría ser limitada.

Mercado para ayudantes (Agentspace)

Es como una App Store, pero para agentes de inteligencia artificial, destinada a coordinar trabajos. Los desarrolladores pueden publicar sus agentes especializados, como “reserva vuelos económicos” o “consejo médico especializado”. Otros agentes o usuarios pueden buscar en Agentspace y obtener ayuda directamente. Es un ecosistema nuevo donde los agentes intercambian habilidades. Podría cambiar la forma en que usamos la tecnología.

Google no habla de un futuro lejano: múltiples sectores ya experimentan con sus agentes inteligentes. Las novedades en Agentspace hacen más sencillo que los usuarios puedan explorar, diseñar y utilizar asistentes inteligentes. Además, Google está impulsando el crecimiento del AI Agent Marketplace, una sección exclusiva dentro del Google Cloud Marketplace donde los clientes pueden recorrer y adquirir con facilidad distintos asistentes de inteligencia artificial desarrollados por empresas asociadas Cloud Marketplace .
¿Todo es perfecto como lo presenta el discurso de Google? Sabemos que los gigantes tecnológicos tienen el discurso (multimodal) como recurso para intentar convencernos de sus relatos mesiánicos sobre las tecnologías que lanzan al mercado. Porque de eso se trata, del mercado, disfrazado de accionar filantrópico.

Por detrás del “mundo maravilloso” de los “ayudantes colaborativos”, hay limitaciones y desafíos pendientes. ADK funciona principalmente con Python, limitando a las empresas que usan otros lenguajes. Existen alternativas sólidas, en la competencia, como LangChain. El éxito de A2A depende de que muchas empresas adopten estos estándares.

¿Será esta vez diferente?

Tener agentes no humanos, digitados por empresas voraces del mercado de datos planetarios, que “nos ven y nos oyen” plantea preguntas serias sobre la protección de datos.
En cada salto tecnológico de la IA no hay que olvidar los dilemas y las encrucijadas que se vislumbran: ¿libertad de pensamiento-acción-sentimiento o delegación y sumisión? ¿herramienta o colonización?¿potenciación de nuestros derechos o sutiles avasallamientos?

En un mundo donde las grandes tecnológicas y sus “sistemas omniscientes administran cada vez más el curso de las cosas, comienzan a hablar en nuestro nombre y a producir símbolos”, debemos preguntarnos: ¿seremos espectadores pasivos de sistemas producidos, deliberadamente con lógicas impenetrables, por dueños con nombre y apellido? ¿estamos dispuestos a renunciar a nuestras capacidades únicas como especie para que fantasmáticos “seres” hagan por nosotros? ¿por nosotros o sobre nosotros y para otros? ¿agentes al servicio “de” o humanos servidos en bandeja?

Hace millones de años los homos habilis, nuestros antecesores, crearon tecnologías que les permitieron liberarse de la determinación del medio ambiente y de los genes y producir su existencia. El desafío es continuar y profundizar ese proceso con la IA creada por los sapiens del presente pero -y una vez más a lo largo de milenios- con clara consciencia de que se trata de tecnología. Ni invertirlo ni asimilarnos a la IA. De lo contrario, estaremos rematando nuestra humanidad.

Como reflexión final y a modo de recomendación, es fundamental ampliar nuestra mirada más allá de las iniciativas de Google. La proliferación de agentes de IA coordinados no es un fenómeno aislado; competidores como  n8n, Manus, OpenAI, Microsoft  están impulsando tendencias similares. Comprender este panorama competitivo refuerza la urgencia de las preguntas planteadas. Asimismo, debemos esforzarnos por visualizar el impacto concreto de estos sistemas en la vida cotidiana del usuario común: ¿cómo será delegar la planificación de un viaje complejo o la gestión de nuestras comunicaciones a una red de agentes autónomos? Hacer tangibles estos escenarios nos ayudará a evaluar mejor las promesas y los peligros.

Finalmente, se recomienda profundizar activamente en las dimensiones críticas que apenas se esbozan. El potencial impacto en el mercado laboral, con la automatización de tareas cognitivas coordinadas, exige un debate social y económico proactivo sobre la redefinición de roles y la posible necesidad de redes de seguridad. Del mismo modo, la discusión sobre privacidad y control debe ir acompañada de un llamado explícito a desarrollar marcos éticos y regulatorios robustos, antes de que estos sistemas de agentes interconectados se integren de forma irreversible en nuestras vidas. Mantener una vigilancia crítica, fomentar la transparencia y participar activamente en la configuración de estas tecnologías es crucial si aspiramos a que la IA potencie nuestra humanidad en lugar de suplantarla o subyugarla.