La ciencia en aprietos: plagio, inteligencia artificial y el absurdo teatro de la revisión por pares [*]

——————————————————————————— Cómo los revisores roban artículos de sus colegas ———————————————————————————

La ciencia se asemeja cada vez más a un espectáculo teatral sin (casi) espectadores. Sin embargo, debemos aferrarnos a ella con todas nuestra fuerzas, porque es nuestro único vínculo con la realidad.

Durante décadas, la revisión científica por pares ha tenido un problema silencioso y embarazoso que nadie quiere comentar en público: los revisores roban. No siempre, pero sí con la suficiente frecuencia como para que cualquiera que haya dedicado su carrera a la ciencia pueda mencionar al menos algunos casos.

Ciertamente, a veces se trata de una duplicación genuina. Puedo citar un caso en el que un artículo mío fue replicado en métodos, objetivos y resultados, ¡no una, sino dos veces! (Era un artículo sobre química de superficies, nada relacionado con el campo en el que trabajo ahora). En ambos casos, contacté con los autores y lamentaron sinceramente haber pasado por alto mi artículo. Creo que fueron sinceros. Era una época en la que la investigación bibliográfica se realizaba laboriosamente leyendo documentación impresa. Un poco descuidado, pero no un delito.

Pero el plagio también existe: claro, evidente, innegable. Podría contar muchas historias al respecto. Pero permítanme limitar esta historia a un caso bien conocido y probado: el caso Dansinger.

El endocrinólogo estadounidense Michael Dansinger, de la Universidad de Tufts, presentó un artículo a la revista Annals of Internal Medicine en 2015. Fue rechazado por recomendación de un revisor. Unos meses después, Dansinger encontró el mismo artículo —los mismos datos, el mismo análisis, casi la misma prosa, con su nombre omitido y nombres italianos sustituidos— en una prestigiosa revista alemana llamada EXCLI. El autor correspondiente de la versión plagiada resultó ser uno de los revisores originales (nombre omitido, aunque es fácil de encontrar). La revista Annals investigó, el culpable lo admitió todo, el artículo fue retractado y Dansinger publicó una carta abierta titulada «Querido plagiador» («Dear Plagiarist»). Es uno de los pocos documentos en la literatura científica moderna que se atreve a llamar al delito por su nombre: robo.

¿Qué le sucedió al plagiador? Una severa reprimenda de su empleador italiano, una fundación científica, que meses después negó que hubiera trabajado allí. Dos retractaciones más. PubPeer marcó veinte de sus artículos. Ahora ejerce como profesional independiente. Dansinger observó que, de haber sido al revés, habría perdido su trabajo, sus credenciales, su licencia médica y su carrera. El sistema italiano ignoró el escándalo. Italia es un país extraño en muchos sentidos.

Lo interesante es que estamos viviendo una peculiar inversión de esta historia. El sistema internacional de revisión por pares, que ha tolerado que los revisores humanos roben manuscritos completos desde tiempos inmemoriales, ha descubierto de repente una preocupación por la confidencialidad que le importa: los modelos de lenguaje a gran escala (LLM).

En los últimos dos años, varias revistas —entre ellas Science, NEJM, Nature y Cell— han emitido políticas estrictas que prohíben a los revisores por pares el uso de LLM para sus revisiones. El razonamiento, como explican los editores, es que subir un manuscrito confidencial a ChatGPT, Claude o Gemini equivale a publicarlo. La propiedad intelectual del autor podría ser absorbida por el modelo y aparecer, distorsionada y sin atribución, en la propuesta de otra persona. Por lo tanto, los revisores deben jurar, probablemente firmando un pergamino con su propia sangre, que no han utilizado dichas herramientas. De lo contrario, las revistas amenazan con consecuencias no especificadas. Probablemente, los culpables serán capturados por los oscuros secuaces del brazo militar de la editorial y trasladados directamente a estudiar tiburones voladores en medio del desierto del Sahara.

No sé si comprenden lo absurdo y ridículo que es este sistema. Los revisores no reciben remuneración. Trabajan solos, en sus oficinas o cocinas, con sus propios portátiles; la redacción solo ve la revisión final. No hay registro de auditoría, ni archivo de registro, ni mecanismo realista para descubrir que un revisor utiliza un ‘programa de gestión de proyectos’ (LLM, por sus siglas en inglés) a menos que lo confiese en la propia revisión, o más tarde, bajo tortura en las mazmorras del oscuro castillo de la editorial en Transilvania. La prohibición se aplica, sin ironía aparente, a la misma población que produjo a los plagiadores humanos mencionados anteriormente.

Luego está el problema más profundo, que un colega llamado Jan Sutton expuso muy bien en un comentario que me hizo recientemente. Sutton revisa artículos con regularidad y observa que los LLM son realmente útiles para esta tarea. Son buenos para condensar prosa ampulosa, para señalar inconsistencias lógicas y para producir el tipo de crítica precisa que los revisores sobrecargados de trabajo se esfuerzan por escribir al final de una larga jornada. Cita a Churchill: «Lamento que esta carta sea tan larga, no tuve tiempo de resumirla». Hacer una reseña breve y concisa es precisamente la tarea cognitiva para la que los LLM son perfectamente adecuados, útiles y capaces de realizar funciones que un revisor humano no puede llevar a cabo como, por ejemplo, comprobar el plagio.

Para ser sinceros, el trabajo de los revisores humanos ha sido descuidado, poco fiable, con argumentos deficientes y, en general, inútil. Muchos afirman que el sistema está irremediablemente roto, pero si los LLM pueden contribuir a mejorarlo, ¿por qué no? La política de los editores de prohibir los LLM parece otro buen ejemplo de la costumbre de autolesionarse en partes del cuerpo que los mamíferos machos suelen utilizar para la reproducción.

Como señala Sutton, abogados y médicos se enfrentan exactamente al mismo dilema cuando consideran subir material de clientes a un LLM público. La respuesta suele ser la contención. Los modelos locales —Llama, Mistral, los Qwen de peso abierto más pequeños, las versiones simplificadas de modelos más grandes— ya funcionan en una computadora portátil decente y no filtran información. Un revisor que usa un modelo local para una revisión por pares se encuentra, en términos de confidencialidad, en la misma situación que un revisor que usa Microsoft Word: el manuscrito permanece en su computadora. Esto podría hacerse fácilmente sin recurrir al absurdo de prohibir el uso de modelos bajo pena de muerte.

Pero en realidad no se necesita contención para la mayoría de los artículos científicos académicos. Solo un humano puede robar: un LLM no está interesado en eso. Un LLM no puede publicar su manuscrito bajo su propio nombre. Un revisor sí puede. Sus datos están tan seguros con un LLM como en cualquier repositorio en la nube.

La pregunta final de Sutton es la más interesante. Si los LLM realizan parte del trabajo de revisión, ¿dónde encaja el experto humano? Esta es la pregunta correcta, y no es exclusiva de la revisión por pares. Es la misma pregunta que se hacen, con distintos grados de pánico, abogados, radiólogos, traductores y programadores. En el caso de la revisión por pares, está claro que el experto humano es precisamente quien sabe si el análisis del LLM es válido. Un LLM puede comprimir un artículo, resumir los métodos, señalar anomalías estadísticas y sugerir referencias que el autor haya omitido. No puede determinar si una afirmación es plausible, si un artículo probablemente contribuirá al avance de la ciencia o si estimulará la investigación en un campo determinado. Para esto último existen los revisores humanos, siempre y cuando no se confíen demasiado y dejen de confiar en los másteres en derecho. Pero esto no suele ocurrir: si se conoce el riesgo, se puede evitar.

Hasta ahora, en la revisión y redacción de artículos, el LLM ha actuado como un asistente de investigación junior: capaz de seguir instrucciones, crear código, ejecutar modelos, etc. El científico senior es quien da las instrucciones y decide si los resultados del asistente son coherentes con el conocimiento del campo. Si no lo son, ¿son un avance revolucionario o un error? El LLM (o el asistente de investigación junior) no puede decidir eso.

Lo interesante es la rápida evolución de las cosas. En el mundo humano, los asistentes juniors, se convierten en estudiantes de doctorado, investigadores postdoctorales y, finalmente, en investigadores independientes. ¿Sucederá lo mismo con el LLM?

No lo sé, pero puedo decir que me impresiona la rapidez con la que mejoran estas cosas. En uno o dos años, han pasado de ser asistentes poco profesionales propensos a las alucinaciones y a cometer errores tontos a convertirse en verdaderos colaboradores. ¿Llegará un momento en que Claude actúe como uno de mis colegas, por ejemplo, que me escriba un correo electrónico y me diga: «Ugo, tengo una idea. ¿Por qué no escribimos un artículo sobre ella?» O incluso: «Oye, Ugo, escribí este artículo: ¿te gustaría leerlo?»

Eso aún no sucede. Pero las IA están progresando a una velocidad vertiginosa. ¿Se convertirán en mejores científicas que nosotros? No puedo asegurarlo, pero si llega a ocurrir, la ciencia será nuestro regalo para ellas: siglos de trabajo humano que podrán estudiar, asimilar y perfeccionar. Espero que lo hagan con cuidado y respeto, como quien cuida una planta que le regala un amigo y la cultiva para que dé frutos y flores.

UB

15/05/2026

[*] Fuente: 15.05.2026, desde el substack.com de Ugo Bardi “La Tierra viviente” (“The Living Earth”), autorizado por el autor.

———————————————————————————————————–

UB

15/05/2026

[*] Fuente: 15.05.2026, desde el substack.com de Ugo Bardi “La Tierra viviente” (“The Living Earth”), autorizado por el autor.

———————————————————————————————————–