Carpenter, Todd A. «@TAC_NISO Questions ChatGPT on Scholarly Communications». The Scholarly Kitchen, 11 de enero de 2023.
ChatGPT es un chatbot de código abierto que utiliza el modelo de lenguaje GPT-3 para generar respuestas a las entradas del usuario. Puede utilizarse para crear chatbots de atención al cliente, marketing u otras aplicaciones. Pero también sirve para generar textos por inteligencia artificial (IA) a partir de datos estructurados. El autor Tood A. Carpenter pregunta al propio chatbots sobre estas cuestiones: ¿Cuál es la mejor pregunta para probar un chatbot de IA? ¿Es ético que un autor utilice IA en la elaboración de un artículo académico? Durante la revisión por pares, si se descubre que un autor ha utilizado ChatGPT en la elaboración del artículo, ¿debe rechazarse el artículo? ¿Debería el texto basado en IA ser susceptible de derechos de autor? y otras más.
A medida que se acercaba el final de 2022, una gran parte de la atención popular se centró en el último chatbot de inteligencia artificial, ChatGPT, que fue lanzado en noviembre de 2022 por OpenAPI. (Como apunte, la empresa ha tenido una trayectoria y una financiación muy interesantes, que han dado lugar a una serie de importantes avances en IA). El aprendizaje automático, el procesamiento del lenguaje natural y la creación textual han avanzado mucho en la última década. Cuando la primera autogeneración de contenidos a partir de datos estructurados se hizo comercialmente viable hace aproximadamente una década, era razonablemente fácil discernir los contenidos generados por máquinas. Esto ya no es así. Los distribuidores y evaluadores de contenidos, ya sea para la revisión por pares, para la acreditación académica o simplemente para el consumo de contenidos, deben ser conscientes de la capacidad de estas herramientas y no desdeñarlas.
Dada la variedad de preguntas en las comunicaciones académicas en torno a la aplicación de la IA, sería interesante ver cuál sería la respuesta del ChatGPT a algunas de ellas, junto con otras preguntas literarias/tecnológicas, y compartirlas. Puedes revisar por ti mismo si crees que las respuestas son buenas o no y, si no conocieras la fuente de las respuestas, si podrías decir que se derivan de una máquina. A continuación se reproducen las preguntas y las respuestas. Las respuestas no han sido editadas de ninguna manera a partir de lo que fue emitido por el ChatGPT. Parece que hemos ido mucho más allá del «Turing Test” para evaluar la inteligencia de una máquina. Puede que notes que hay algo de fórmula en algunas de las respuestas, pero sólo es perceptible después de revisar varias de ellas. Aunque es importante reflejar que la máquina no «sabe» si las respuestas son correctas o no, sólo que son respuestas estáticamente válidas a las preguntas planteadas.
TAC: ¿Cuál es la mejor pregunta para probar un chatbot de IA?
Respuesta de ChatGPT:
No hay una «mejor» pregunta para probar un chatbot de IA, ya que los diferentes chatbots pueden tener diferentes capacidades y estar diseñados para manejar diferentes tipos de tareas o interacciones. Sin embargo, aquí tienes algunas ideas de preguntas que podrían utilizarse para probar las capacidades de un chatbot de IA:
«¿Puedes proporcionar información sobre un tema específico o responder a una pregunta de conocimiento general?».
«¿Puedes mantener una conversación y responder adecuadamente a preguntas o comentarios de seguimiento?».
«¿Puedes entender y responder a entradas de lenguaje natural, aunque incluyan jerga, coloquialismos o erratas?».
«¿Puedes realizar una tarea o acción concreta, como hacer una reserva o buscar información en Internet?».
«¿Puedes reconocer y responder a diferentes intenciones o emociones del usuario?».
En última instancia, las mejores preguntas para probar un chatbot de IA dependerán de las capacidades y objetivos específicos del chatbot.
TAC: ¿Es ético que un autor utilice IA en la elaboración de un artículo académico?
Respuesta del ChatGPT:
La cuestión de si es ético que un autor utilice la IA en el desarrollo de un artículo académico depende del contexto específico y de las expectativas de la comunidad investigadora en la que se publicará el artículo.
No hay ningún problema ético inherente al uso de la IA en la investigación o la escritura, siempre y cuando la IA se utilice de forma adecuada y ética. Por ejemplo, la IA puede utilizarse para analizar grandes cantidades de datos o para generar texto, lo que puede ser útil para identificar tendencias o patrones que podrían no ser evidentes para una persona.
Sin embargo, es importante que los investigadores sean transparentes sobre el papel de la IA en su trabajo y se aseguren de que el uso de la IA es coherente con las normas y expectativas de la comunidad investigadora. Por ejemplo, si se utiliza un programa de IA para generar texto, los autores deben indicarlo claramente en el artículo y atribuir el mérito correspondiente al programa de IA.
Además, los investigadores deben ser conscientes de las posibles limitaciones de la IA y considerar los riesgos y beneficios de utilizarla en su trabajo. Por ejemplo, la IA puede no ser capaz de captar plenamente la complejidad del pensamiento o el lenguaje humanos, y puede ser necesario complementar los resultados generados por la IA con análisis o interpretaciones adicionales realizados por investigadores humanos.
En general, es importante que los investigadores utilicen la IA de forma ética y transparente, y que tengan en cuenta las posibles implicaciones de su uso en su trabajo.
TAC: Durante la revisión por pares, si se descubre que un autor ha utilizado ChatGPT en la elaboración del artículo, ¿debe rechazarse el artículo?
Respuesta de ChatGPT:
El uso de IA, como ChatGPT, en la producción de un artículo académico no significa necesariamente que el artículo deba ser rechazado durante el proceso de revisión por pares. Sin embargo, el uso de la IA debe comunicarse a los revisores y al editor, y los revisores deben considerar hasta qué punto el uso de la IA ha influido en el contenido del artículo.
Si el uso de la IA ha influido significativamente en el contenido del artículo, los revisores pueden tenerlo en cuenta a la hora de evaluarlo. Por ejemplo, si la IA se ha utilizado para generar grandes partes del texto o para analizar datos de una manera que es fundamental para las conclusiones del artículo, los revisores deben examinar el trabajo con más cuidado para asegurarse de que la IA se ha utilizado adecuadamente y que las conclusiones del artículo están respaldadas por los datos.
En última instancia, la decisión de aceptar o rechazar un artículo durante el proceso de revisión por pares debe basarse en la calidad y el rigor de la investigación, y en la medida en que el artículo hace una contribución significativa al campo. Si el uso de la IA no ha influido significativamente en el contenido del artículo, o si el artículo cumple las normas de la comunidad investigadora, es poco probable que el artículo sea rechazado únicamente por el uso de la IA.
TAC: ¿Puede un texto derivado de la IA ser novedoso y creativo?
Respuesta de ChatGPT:
Existe un debate en curso sobre hasta qué punto un texto generado por IA puede considerarse novedoso y creativo. Algunos sostienen que el texto generado por la IA no es más que un reflejo de los datos y algoritmos con los que se ha entrenado y, por tanto, no puede considerarse verdaderamente novedoso o creativo del mismo modo que una obra generada por un ser humano. Otros sostienen que la IA puede utilizarse para producir obras que sean originales y creativas, sobre todo si se da a la IA cierto grado de autonomía en el proceso creativo.
Es importante señalar que el nivel de creatividad y novedad del texto generado por IA puede variar en función del sistema de IA específico y de los parámetros con los que se haya entrenado. Algunos sistemas de IA están diseñados para producir textos muy similares a los escritos por humanos, mientras que otros pueden producir textos más experimentales o inusuales.
En última instancia, que un texto generado por IA se considere novedoso y creativo puede depender de las expectativas y las normas del público o la comunidad de investigación en la que se presenta el texto. Es posible que algunos públicos consideren que un texto generado por IA es creativo y original, mientras que otros no.
TAC: ¿De quién es la responsabilidad de reconocer ante el lector el papel de la IA en la autoría de las obras publicadas, del autor o del editor?
Respuesta del ChatGPT:
En general, es responsabilidad de los autores reconocer el papel de la IA en la autoría de los trabajos publicados. Los autores deben ser transparentes sobre el grado de utilización de la IA en la producción de su obra y deben revelar esta información al editor y a los lectores de la obra. Esto puede hacerse mediante el uso de notas a pie de página, citas u otros métodos de atribución.
Los editores también tienen un papel que desempeñar a la hora de garantizar que el uso de la IA en las obras publicadas se revele y se atribuya adecuadamente. Los editores deben establecer directrices claras para que los autores las sigan cuando utilicen la IA en sus trabajos, y deben revisar los envíos para asegurarse de que el uso de la IA se revela y atribuye correctamente.
En general, es importante que tanto los autores como los editores sean transparentes sobre el papel de la IA en la producción de las obras publicadas, para garantizar que los lectores tengan una comprensión completa de la obra y de la medida en que se ha producido utilizando IA.
TAC: ¿Hasta qué punto es un problema la publicación depredadora?
Respuesta de ChatGPT:
La edición depredadora, también conocida como edición engañosa o ilegítima, es un problema importante en el mundo académico. Las editoriales depredadoras cobran a los autores por publicar sus trabajos sin prestar los servicios editoriales y de publicación que prestan las editoriales legítimas, como la revisión por pares y la corrección. Como resultado, el trabajo publicado puede no cumplir las normas de calidad e integridad que se esperan en la comunidad académica.
La publicación depredadora puede socavar la integridad del registro científico, y también puede engañar a los autores, en particular a los que son nuevos en el proceso de publicación o que pueden no estar familiarizados con las prácticas de los editores legítimos. Es importante que los autores sean conscientes de la existencia de editoriales depredadoras y que actúen con la debida diligencia a la hora de considerar dónde enviar sus trabajos para su publicación.
TAC: ¿Debería el texto basado en IA ser susceptible de derechos de autor?
Respuesta de ChatGPT:
En virtud de la mayoría de las leyes de derechos de autor, las obras originales de autoría, incluidas las obras literarias, son susceptibles de protección por derechos de autor. Esto incluye las obras producidas mediante inteligencia artificial (IA). En general, si una obra es original y ha sido fijada en una forma tangible (como una obra escrita o grabada), puede ser protegida por derechos de autor, independientemente de que haya sido producida por una persona o por IA.
Sin embargo, pueden surgir ciertos problemas legales cuando se trata de obras generadas por IA y derechos de autor. Por ejemplo, si se utiliza un programa de IA para generar una obra, no está claro quién es el «autor» de la misma. Algunos países tienen leyes específicas que abordan esta cuestión, mientras que otros no.
También es posible que una obra producida por IA se considere una «obra derivada», es decir, una obra basada en una o más obras preexistentes. En este caso, los derechos de autor de la obra derivada pertenecerían a la persona o entidad que creó la obra, pero tendría que obtener el permiso del titular de los derechos de autor de la obra preexistente para utilizarla como base de la obra derivada.
En general, la cuestión de si las obras generadas por IA pueden acogerse a la protección de los derechos de autor es un asunto jurídico complejo que puede variar en función de las circunstancias específicas y de la legislación del país en el que se creó la obra. Es importante consultar a un abogado cualificado si tiene dudas sobre los derechos de autor y las obras generadas por IA.
Esta entrada se publicó en Investigación y está etiquetada con Chatbot, Comunicación científica, Inteligencia artificial, Investigación en e
FUENTE: JULIO ALONSO ARÉVALO