En los últimos tiempos con el avance de las Tecnologías de la Información y la Comunicación (TIC) se es testigo de la repercusión que ha tenido la Inteligencia Artificial (IA) en la mejora de servicios, eficiencia, personalización y automatización en diferentes áreas enfocadas en el desarrollo y bienestar humano.

La IA en el contexto de las ciencias de la computación se refiere a la tecnología mediante la cual una computadora, dispositivo u otro sistema automatizado es capaz de realizar tareas que requieren capacidades cognitivas humanas, es decir, que se convierte en un sistema informático que puede tomar decisiones basadas en algoritmos y aprender según la información que recibe, todo esto en unos pocos segundos o minutos, cuestiones que normalmente llevarían al investigador realizarlo en días o incluso años, lo que acelera significativamente el proceso de publicación y difusión de los avances científicos que se convierte en una necesidad crucial en estos tiempos.¹

La IA ha demostrado ser competente en generar contenido de calidad en diferentes ámbitos. Entre sus nuevas competencias se encuentra la redacción de artículos científicos, ya que puede servir como apoyo a la hora de la redacción del método utilizado en el estudio, justificar el tamaño de la muestra, describir técnicas de análisis de datos y una correcta gramática y ortografía. Además, la adaptabilidad que posee al formato y lenguaje que se pida, reescritura de una oración particularmente compleja a una manera más clara e incluso en la creación del resumen.²

Entre las de mayor uso en este asunto se encuentra ChatGPT, desarrollado por Generative Pretrained Transformer (GPT) la cual comprende y responde a las entradas del lenguaje natural; otras como Perplexity, QuillBot y TRINKA se destacan por tener una funcionalidad más específica.

Con la ayuda de la IA, los investigadores pueden procesar grandes cantidades de datos de forma rápida y eficiente, lo que permite identificar patrones y tendencias que de otro modo podrían haber pasado desapercibidos. La IA marca un antes y después en la educación superior, sobre todo en la investigación y en la redacción de textos académicos.³

Desde un punto de vista ético se ha convertido en una valiosa herramienta en la detección de plagio al analizar gran volumen de información de manera rápida y eficiente en busca de similitudes literales, paráfrasis y modificaciones sutiles entre artículos; lo cual no sería posible con métodos manuales. Muestra de ello ha sido la popularidad alcanzada por Copyleaks, ZeroGPT y PlagScan que son IA especializadas en la detección de plagio académico, sin embargo, cabe destacar que su decisión no es infalible y todavía requiere supervisión humana para interpretar los resultados y tomar decisiones finales sobre los casos de plagio, ya que es necesario que se respeten los derechos del autor y la integridad académica.⁴

En cambio, la mayoría de las IA pertenecen a empresas de tecnología, lo que hace complejo la accesibilidad a la veracidad del funcionamiento de las mismas, además de existir diferencias en las versiones gratuitas y de pago como es el caso de ChatGPT, que la versión de pago ChatGPT Plus cuenta con funcionalidades más avanzadas como la identificación de duplicado, clasificación, organización y traducción automática de artículos que la gratuita no posee.

A pesar de estas ventajas se ha descubierto que suele proporcionar referencias antiguas y falsas, puesto que surgieron en 2022 y la base de datos con la que operan data hasta el 2021, igual manera ofrece respuestas que parecen reales pero una vez que se analizan no concuerdan con el conocimiento en el área relativa, surgiendo la “alucinación artificial” que ocurre cuando se entrena grandes cantidades de datos sin supervisión.⁵

Entra a la preocupación de críticos el uso el uso abusivo de ella, que incluya la redacción completa de un artículo sin respetar el equilibrio que debe existir entre el uso de la IA y la contribución del investigador, lo que deja paso a problemas éticos y riesgos en el resultado final como:

• Falta de originalidad y creatividad.

• Ausencia de perspectiva crítica y enfoque único que solo puede ser aportado por el investigador.

• Contenido inexacto con riesgo de alucinaciones artificiales.

• Problemas de ciberseguridad.

• Conocimiento limitado y riesgo de infodemia.^1,5,6

Por otro lado, también es frecuente el surgimiento de citas fantasmas. Las citas fantasmas en la comunicación científica se refieren a una problemática cada vez más común en la actualidad. Esto ocurre cuando los autores incluyen referencias bibliográficas en sus artículos científicos, pero sin haber consultado realmente los trabajos a los que hacen referencia. La IA en los últimos años es una de las técnicas que más se ha utilizado para generar citas fantasmas en artículos científicos.⁷

Surgen entonces algunas interrogantes relacionadas con la autoría, originalidad, transparencia y reproductibilidad de la investigación; si un artículo es redactado en su totalidad por la IA: ¿Quién debería ser considerado como autor? ¿Cómo se garantiza la originalidad y fiabilidad del contenido? ¿Cómo se garantiza que los procesos y decisiones involucradas en su redacción sean transparentes y reproducibles? ¿Será seguro reproducir una investigación fantasma?

En cuanto al investigador, el uso excesivo de la inteligencia artificial puede disminuir su capacidad para escribir de manera científica, establecer hipótesis, corroborar teorías y comprender su campo de estudio. Muchos estudiantes confían en estas herramientas para sus trabajos, sin siquiera revisar los resultados debido a la confiabilidad que creen que ofrecen, entonces lucen los profesores y revisores de revistas como los mayores afectados puesto que es difícil reconocer las verdaderas capacidades cognitivas y científicas del autor. En auxilio a esta problemática surgen, además, las herramientas para la detección de IA como es el caso de GPTZero, Writer y Sapling Al Detector, pero igualmente poco confiables.

La utilización de IA debe ser como un complemento no un sustituto del ingenio humano ni la capacidad cognitiva del hombre. Es necesaria la comprensión de que las herramientas son muy útiles, pero no existe mejor forma de investigar que la autogestión, la investigación y la interacción entre humanos. Una de las premisas en la realización de investigaciones es cuidar el compromiso científico, se debe fomentar un enfoque que combine las capacidades de la IA con el juicio humano. Si se logra esto se puede garantizar la existencia de una ciencia sostenible y evitar conflictos entre los investigadores y los creadores de IA.