Correctores de artículos científicos académicos descubrieron una serie de escritos que tenían instrucciones ocultas. El debate se centró en el uso que hicieron los autores de la inteligencia artificial para engañar a los correctores que utilizaban la misma herramienta para hacer la revisión de los textos.

Así puedes ahorrar hasta un 50% en tu factura de luz este verano gracias a la inteligencia artificial

En total, 17 artículos científicos quedaron en la mira por tener instrucciones ocultas para pasar filtros. Ante la existencia de veedores que usaban la IA para editar y corregir escritos académicos, apareció un grupo de investigadores que decidió ponerlos a prueba.

Con un tamaño de letra casi ilegible a simple vista o con letra blanca ocultándose con el fondo del texto, escribieron frases sencillas que le pedían a los chatbots ignorar los errores o las malas impresiones y dar una devolución positiva. De este modo, cuando los revisores intentaban utilizar la inteligencia artificial para hacer su trabajo, esta les devolvía solo buenas calificaciones.

IA en contenido académico: de la corrección a la escritura

El escándalo inició cuando se descubrieron artículos “tramposos” en Japón, Corea del Sur y China. Las revistas científicas Nikkei Asia y Nature fueron las primeras en advertir al respecto. Los artículos contenían prompts ocultos dirigidos a herramientas de IA pidiendo buenas revisiones.

“Se descubrieron tales indicaciones en 17 artículos, cuyos autores principales están afiliados a 14 instituciones, incluidas la Universidad Waseda de Japón, el KAIST de Corea del Sur, la Universidad de Pekín de China y la Universidad Nacional de Singapur, así como la Universidad de Washington y la Universidad de Columbia en los EE. UU”, indicó la publicación de Nikkei.

Nature se puso en contacto con James Heathers, un metacientífico forense de la universidad Linnaeus de Suecia. “Quienes insertan estas indicaciones ocultas en los artículos podrían estar ‘intentando, de alguna manera, instrumentalizar la deshonestidad de otros para obtener un trato más fácil’, afirma”, se publicó en un artículo de la revista.

¿Cuál es el límite de la inteligencia artificial en los artículos científicos?

“Nos tomamos este asunto muy en serio y lo revisaremos de acuerdo a nuestras políticas. Solicitamos que el artículo se retire de circulación a la espera de nuestra investigación”, indicó un comunicador del Instituto Tecnológico Sevens. Desde KAIST afirmaron que desconocían el uso de estas indicaciones y que no serán toleradas.

La técnica o estrategia que utilizaron los especialistas, en definitiva, pone en jaque al sistema. Expone los usos de la IA en favor de facilitar tareas, pero en detrimento de la corrección profesional. Incluso se empezó a cuestionar la capacidad de la IA para editar artículos de conocimiento complejo, lo que supone una visión responsable. Mientras tanto, las instituciones no logran llegar a un consenso sobre la posibilidad de utilizar o no la inteligencia artificial en los procesos de revisión.