En este artículo se analizan cuestiones éticas relacionadas con el uso y la divulgación de herramientas de inteligencia artificial (IA), como ChatGPT y otros sistemas basados en grandes modelos lingüísticos (LLM), para escribir o editar manuscritos académicos.

Algunas revistas, como Science, han prohibido el uso de LLM por los problemas éticos que plantean en relación con la autoría responsable. Aquí se argumenta que ésta no es una respuesta razonable a los enigmas morales creados por el uso de los LLM, ya que las prohibiciones son inaplicables y fomentarían el uso no revelado de los LLM. Además, los LLM pueden ser útiles para redactar, revisar y editar textos, y promueven la equidad en la ciencia. Otros han argumentado que los LLM deberían mencionarse en los agradecimientos, ya que no cumplen todos los criterios de autoría.

En el artículo se sostiene que nombrar a los LLM como autores o mencionarlos en los agradecimientos son formas inapropiadas de reconocimiento porque los LLM no tienen libre albedrío y, por lo tanto, no pueden ser considerados moral o legalmente responsables de lo que hacen. Las herramientas en general, y el software en particular, suelen citarse dentro del texto, y luego se mencionan en las referencias.

Se proporcionan sugerencias para mejorar el Estilo APA para referenciar ChatGPT con el fin de indicar específicamente el colaborador que utilizó los LLM (porque las interacciones se almacenan en cuentas de usuario personales), la versión y el modelo utilizados (porque la misma versión podría utilizar diferentes modelos de lenguaje y generar respuestas disímiles, por ejemplo, ChatGPT Mayo 12 Versión GPT3.5 o GPT4), y el tiempo de uso (porque los LLM evolucionan rápidamente y generan respuestas disímiles a lo largo del tiempo).

Se recomienda que los investigadores que utilicen LLMs:

(1) revelen su uso en la introducción o en la sección de métodos para describir de forma transparente detalles tales como las indicaciones utilizadas y señalar qué partes del texto se ven afectadas,

(2) utilicen citas y referencias en el texto (para reconocer sus aplicaciones utilizadas y mejorar la localización y la indexación), y

(3) registren y presenten sus interacciones relevantes con LLMs como material suplementario o apéndices.

Hosseini, Mohammad, David B Resnik, y Kristi Holmes. «The Ethics of Disclosing the Use of Artificial Intelligence Tools in Writing Scholarly Manuscripts». Research Ethics, 15 de junio de 2023, 17470161231180448. https://doi.org/10.1177/17470161231180449.

Tomado de Universo Abierto