Este documento resume las implicaciones del uso de la inteligencia artificial en la investigación científica, discutiendo sus capacidades y limitaciones, así como las preocupaciones éticas. También examina las políticas editoriales sobre el uso de IA y sugiere formas potenciales de aplicarla en la producción y divulgación científica de manera responsable.

1. Implicaciones de la inteligencia artificial
en las actividades de investigación
Imágenes adicionales de Pexels.com
Dr. Juan D. Machin Mastromatteo
Ciudad de México, 20 de octubre de 2023

2. Presentación del ponente
Dr. Juan D. Machin Mastromatteo
Profesor en la Universidad Autónoma de Chihuahua (UACH) y miembro del
Sistema Nacional de Investigadores (Nivel II). Doctor en Ciencias de la
Información y Comunicación (Tallinn University), Maestro en Bibliotecas
Digitales y Aprendizaje (Oslo University College; Tallinn University; y Parma
University) y Licenciado en Bibliotecología (Universidad Central de
Venezuela). Especialista en alfabetización informacional, investigación
acción, bibliometría, acceso abierto y bibliotecas digitales. Tiene más de 120
publicaciones científicas. Ha facilitado más de 40 cursos y ha participado en
más de 100 eventos internacionales como ponente, panelista, organizador o
moderador. Es Editor Asociado de las revistas Information Development
(SAGE) y Revista Estudios de la Información (UACH). Miembro de los comités
editoriales de The Journal of Academic Librarianship (Elsevier) y de IE
Revista de Investigación Educativa (Red de Investigadores Educativos de
Chihuahua). En Information Development publicó, de 2015 a 2020, la
columna Desarrollando América Latina. En 2019 creó el Proyecto Juantífico.
A partir de 2022 es coanfitrión de InfoTecarios podcast. Desde 2023 publica
la sección Escuela de editores en la Revista Estudios de la Información.
Redes: @juantifico | www.youtube.com/juantifico |
www.facebook.com/machinmastromatteo | www.instagram.com/juantifico |
http://judamasmas.com www.patreon.com/juantifico | ORCID: 0000-0003-4884-0474

3. Algunos problemas
de ChatGPT
en la investigación

4. Preprint con Chat GPT-3 como coautor
https://www.medrxiv.org/content/10.1101/2022.12.19.22283643v2
Kung, T., Cheatham, M., Medenilla, A., Sillos, C., De Leon, L., Elepaño, C., Madriaga, M., Aggabao, R., Diaz-
Candido, G., Maningo, J., y Tseng, V. (2023). Performance of ChatGPT on USMLE: Potential for AI-
assisted medical education using large language models. PLOS Digital Health, 2(2), e0000198.
https://doi.org/10.1371/journal.pdig.0000198

5. Información generada por Chat GPT-3.5, el 18 de octubre de 2023.

6. ¿Puede la inteligencia artificial
ser un autor?
International Committee of Medical Journal Editors. (2023). Recommendations for the conduct, reporting, editing, and publication of scholarly work in medical journals.
https://www.icmje.org/icmje-recommendations.pdf
¡Mira mi video relacionado!

7. Tsai, C.., Yeh, Y., Tsai, L., y Chou, E. (2023). The efficacy of transvaginal ultrasound-guided BoNT-A external sphincter injection in
female patients with underactive bladder. Toxins, 15(3), 199. http://doi.org/10.3390/toxins15030199
¡“La trampa sale”!

8. Tang, G., y Eaton, S. (2023). A rapid investigation of artificial intelligence generated content footprints in
scholarly publications [Preprint]. Research Square. https://doi.org/10.21203/rs.3.rs-3253789/v1
¡“La trampa sale”!

9. Si la información es imprecisa,
¿es confiable?
Información generada por Chat GPT-3, el 8 de mayo de 2023.

10. Cuando no sabe algo…
inventa

11. Además de citaciones imprecisas,
realiza citaciones falsas

12. Información generada por Chat GPT-3, el 8 de mayo de 2023.

13. No cita, ¡a menos que se lo pida!

14. Información
generada
por
Chat
GPT-3,
el
8
de
mayo
de
2023.

17. Para investigación, NO usar el
ChatGPT genérico
 Desarrollos de IA que sirven a distintas etapas:
Redacción: PaperPal, Writefull, Grammarly
Envío de artículos: Research Exchange (ReX, de
Wiley, extrae datos del manuscrito)
Herramientas para la evaluación de manuscritos:
Raxter.io, Penelope, RipetaReview, SciScore,
Proofigand ImageTwin
Análisis y búsqueda de citas: Scite.ai, Consensus
Generación de resúmenes: Scholarcy
Chatbots generales especializados “asistentes de
lectura de archivos” (GPT 3 y 4): Cody, ChatPDF,
ChatDOC.

18. Políticas editoriales sobre uso de IA
Políticas citadas:
ArXiv:
https://blog.arxiv.org/2023/01/31/arxiv-announces-new-policy-
on-chatgpt-and-similar-tools
WAME:
https://wame.org/page3.php?id=106
Sage:
https://us.sagepub.com/en-us/nam/chatgpt-and-generative-ai
SpringerNature:
https://www.nature.com/nature-portfolio/editorial-policies/ai
Elsevier:
https://beta.elsevier.com/about/policies-and-
standards/publishing-ethics ;
https://www.elsevier.com/journals/journal-of-
biotechnology/0168-1656/guide-for-authors ;
https://beta.elsevier.com/about/policies-and-standards/the-
use-of-generative-ai-and-ai-assisted-technologies-in-writing-
for-elsevier
Taylor & Francis:
https://authorservices.taylorandfrancis.com/editorial-
policies/defining-authorship-research-paper
Wiley:
https://authorservices.wiley.com/ethics-guidelines/index.html

19. 7 Políticas editoriales sobre el uso de IA
 Reportar el uso de IA generativas, señalar claramente el contenido
generado, propósito y cuál se usó (arXiv, WAME, Sage, Elsevier, SpringerNature, T&F, Wiley)
 Se reafirma la responsabilidad de los autores(WAME, arXiv, SpringerNature, T&F, Wiley)
y que las herramientas NO son autores (WAME, arXiv, Sage, Elsevier, SpringerNature, T&F, Wiley)
ya que no pueden asumir responsabilidad o dar consentimiento.
 Pueden usarse únicamente para mejorar el lenguaje y redacción, no
para interpretar datos o establecer conclusiones científicas. (Elsevier)
 Verificar la exactitud, validez y pertinencia del texto y citas,
corrigiendo errores o inconsistencias (WAME, Sage, Elsevier, T&F, Wiley) además de
resultados incorrectos, incompletos o sesgados. (Elsevier)

20. 7 Políticas editoriales sobre el uso de IA
 Incluir la lista de fuentes usadas para generar contenidos (Sage)
 Conciencia del plagio potencial en el contenido generado (Sage)
 Declarar limitaciones de las herramientas de IA, sesgos, errores y
vacíos de conocimiento. (Sage)
 No puede usarse IA para alterar imágenes. Si se usa para generar o
interpretar imágenes, se debe describir de tal manera que el proceso
pueda reproducirse. (Elsevier)
 No se permite a los editores subir manuscritos a una IA, por
confidencialidad y porque su evaluación puede ser incorrecta,
incompleta o sesgada. Solo debe ser realizada por humanos. (Elsevier)
 Los editores necesitan herramientas para la detección de IA, sin
importar su capacidad de pago y formación sobre su uso. (WAME)

21. ¿Ética?
La postura de COPE
“El uso de herramientas de IA no es inherentemente poco ético y
puede ser útil, por ejemplo, para autores que no escriben en inglés
como su primera lengua, que tienen deficiencias de aprendizaje
(por ejemplo, disgrafia) u otras dificultades al escribir. Al respecto,
la IA puede ser una útil tecnología auxiliar o adaptable. El factor
clave es la responsabilidad y claridad sobre su uso. La necesidad de
su detección surge cuando su uso no es declarado”.
COPE. (2023). Artificial intelligence (AI) and fake papers. https://publicationethics.org/resources/forum-discussions/artificial-intelligence-fake-paper

22. ¿Para qué podríamos usar la IA?
 Trabajar con los documentos que yo seleccione
 Lluvias de ideas y sugerencias de puntos de partida temáticos
 Encontrar fuentes ya no a partir de palabras clave, sino de preguntas
 Ayudar en la preparación de resúmenes y títulos
 Pedirle que me sugiera revistas donde publicar
 Apoyo para generar contenidos de divulgación científica
 Procesamiento y trabajo con información masiva
 Detectar textos generados por IA
 Mejorar redacción y traducciones

23. Encontrar
fuentes
publicadas en
función de una
pregunta
https://consensus.app

24. Encontrar
fuentes
publicadas en
función de una
pregunta
https://consensus.app

25. Encontrar
fuentes
publicadas en
función de una
pregunta
https://scite.ai

26. Trabajar con los
documentos
que yo
seleccione
https://getcody.ai
https://www.chatpdf.com
https://chatdoc.com
Cortesía Mg. Josmel Pacheco-Mendoza, @josmel1

27. Escribe un nuevo
resumen más
completo
https://chatdoc.com

28. Preguntas para
confirmar que su
resumen y el
documento estén
completos
https://chatdoc.com

29. Analiza varios
documentos en
función de una
pregunta
https://chatdoc.com

30. Analiza varios
documentos en
función de una
pregunta
https://chatdoc.com

31. Detectar textos
generados por IA
https://copyleaks.com/ai-content-detector

32. Detectar textos
generados por IA
https://gptzero.me

33. Traductor https://www.deepl.com/translator

34. Diccionario bilingüe,
traducción de
términos según
contexto
https://www.linguee.es

35. Recomendar una revista
donde publicar
https://chat.openai.com
…

36. Resumen de una
ponencia
https://chat.openai.com
Mi resumen final: La ponencia comenta el papel de la inteligencia artificial en la investigación científica, discutiendo sus
capacidades, como la generación de textos, pero también se plantean preocupaciones sobre su precisión y confiabilidad.
Además, se examinan las reacciones que ha ocasionado en las políticas editoriales, algunas preocupaciones relacionadas
con la ética e integridad de la investigación, así como sus posibles usos en la producción científica.
…

37. …
Mejorar
redacción
https://www.grammarly.com

38. Mejorar
redacción
https://www.grammarly.com
…

39. Mejorar
redacción
https://www.grammarly.com

40. Próximamente
(actualmente en alfa y beta)

41. Preguntamos al
respecto de estos
temas a chat GPT-3

42. Información generada por Chat GPT-3, el 8 de mayo de 2023.

44. En conclusión, sobre el uso de IA
para la investigación
 Sus respuestas pueden tener errores, imprecisiones o no ser exhaustivas
 No repara en cuestiones éticas o de integridad
 No interpreta ni categoriza ideas como haríamos, vital para construir y juzgar
argumentos (tampoco puede adivinar lo que queremos).
 No se ajusta a estándares editoriales, es casi imposible que cite bien, cuando
la correcta atribución de las ideas es vital en el discurso científico.
 No conocemos los alcances y limitaciones de la base de conocimiento de GPT
 Es un riesgo de plagio, originalidad e integridad
 Si se usa de manera exclusiva, ¿cómo desarrollar el pensamiento crítico, la
creatividad y habilidades de redacción?
 Es temprano para definir su papel, pero vale la pena experimentar

45. Latecnologíadebepotenciarnuestrashabilidades,disminuyendonuestraslimitacioneshumanas,nonuestracapacidad

46. ¡Gracias por su atención!
Dr. Juan D. Machin-Mastromatteo #Juantífico
Si te gustó esta ponencia, visita mi canal y suscríbete
youtube.com/juantifico
Videos sobre información, investigación, publicación y
divulgación científica, con un toque de tecnología y cultura pop.
Es Juan, es científico, ¡es Juantífico!
También estoy en
@juantifico | facebook.com/machinmastromatteo
es.slideshare.net/judamasmas | tiktok.com/@juantifico
instagram.com/juantifico | juantifico.com
Apóyame en
Patreon | PayPal