Han salido dos noticias en prensa, El Mundo, la primera el 12 de septiembre y la segunda el 25 de septiembre de este año donde la Comunidad Científica está expresando su malestar por los “logros” de la IA de dos grandes empresas tecnológicas (OpenIA y Anthropic)

En la noticia del 12 de septiembre los matemáticos expresan su malestar, NO, malestar no, PREOCUPACIÓN por la desalineación entre la IA y las Matemáticas; en la del 25 de septiembre un CIENTÍFICO ONUBENSE, MARIO RODRÍGUEZ MESTRE, investigador de la Universidad de Copenhague, se pregunta si la IA Claude ha sido capaz de descubrir un nuevo sistema enzimático de forma autónoma.

Por si os interesa, aqui os dejamos los dos artículos:

25 de septiembre de 2026. El Mundo:

Dudas sobre el anuncio de Anthropic sobre el descubrimiento de un sistema similar al 'corta-pega' genético: "Llevamos años hablando con Claude sobre exactamente estos sistemas biológicos"

Varios expertos cuestionan tanto el alcance y las implicaciones del hallazgo presentado como la propia autonomía de la IA para realizar el descubrimiento

La compañía estadounidense Anthropic anunció este jueves que su modelo de inteligencia artificial Claude había descubierto de forma autónoma un nuevo sistema enzimático cuyas características recuerdan a las de CRISPR, el llamado 'corta-pega' genético.

"Aún no entendemos qué hace este sistema, pero solo un puñado de sistemas conocidos comparten sus características, y todos ellos son capaces de cortar, copiar y pegar ADN", señaló la compañía en sus redes.

La noticia corrió enseguida como la pólvora, pero el anuncio tampoco tardó en recibir la crítica de distintos expertos, que cuestionan tanto el alcance y las implicaciones del hallazgo presentado como la propia autonomía de la IA para realizar el descubrimiento.

Además, también critican el hecho de que los detalles de la investigación se hayan presentado en un preprint (la primera versión de un manuscrito científico o académico que se comparte antes de que sea aceptado en una revista), y no en un artículo científico revisado por pares.

Uno de los que ha alzado la voz es Mario Rodríguez Mestre, investigador de la Universidad de Copenhague (Dinamarca). Una de sus áreas de especialización es precisamente el minado de sistemas como el identificado por Claude -transcriptasas inversas-.

Para el científico, en primer lugar, no hay suficiente evidencia para saber si realmente se trata de una investigación autónoma realizada por IA. "En nuestro campo decimos que grandes descubrimientos requieren grandes pruebas. En este caso no proporcionan ninguna evidencia de que haya sido la inteligencia artificial de forma autónoma la que ha hecho el descubrimiento".

"Sería fundamental conocer qué información previa tenían los agentes, cuáles fueron los prompts e instrucciones intermedias, qué sabían ya los investigadores antes de ejecutar los agentes, cómo se seleccionaron los candidatos y qué partes del análisis fueron realmente iniciadas y ejecutadas por la IA sin dirección humana", explica.

El investigador plantea dudas sobre hasta qué punto la IA ha podido utilizar contenido compartido previamente con la herramienta por investigadores que, como el equipo en el que trabaja, "llevamos años hablando con Claude sobre exactamente estos sistemas biológicos".

El sistema que Anthropic ha presentado ahora con el nombre de ARTs no es nuevo, subraya Rodríguez Mestre. En 2021 ya se describió y se publicó en revista científica, una conclusión a la que su equipo llegó de forma independiente. "Desde entonces, hemos estado intentando caracterizarlos y colaborando con otros investigadores para tratar de entender cómo funcionan".

"Lo que nos preocupa es la posibilidad de que información procedente de nuestro propio trabajo haya contribuido, de alguna manera, a lo que ahora se presenta como un descubrimiento autónomo de la IA", señala Rodríguez Mestre, que recuerda la reciente polémica del resultado de las ecuaciones de Navier-Stokes de OpenAI.

En ese sentido, el investigador señala que "hay aspectos del supuesto proceso de descubrimiento que nos resultan muy difíciles de reconciliar con una búsqueda científica verdaderamente abierta y autónoma".

La cuestión que está en el aire, resume, es "si un sistema de IA autónomo llegó realmente de forma independiente a este resultado científico, o si una línea de investigación previamente conocida y guiada por humanos se está utilizando ahora como evidencia de investigación científica autónoma por IA", desliza.

Ante el entusiasmo con el que la compañía ha hecho el anuncio, Investigadores como Lluis Montoliu, científico del Centro Nacional de Biotecnología, también han pedido cautela, recordando que por el momento "es poco lo que sabemos de este nuevo sistema, de su función y de su posible aplicación".

"Los microbiólogos moleculares ya han descrito sistema procariotas distintos a CRISPR, muchos todavía por caracterizar, con funciones aún desconocidas", apunta.

"Los anuncios de Anthropic suelen estar rodeados de polémica debido a que hay puntos que no se revelan", apunta, por su parte, Noelia Ferruz, investigadora del Centro de Regulación Genómica de Barcelona, que trabaja en el desarrollo de una inteligencia artificial capaz de diseñar nuevas proteínas a la carta -para lo que ha recibido una beca Leonardo de la Fundación BBVA-. "Presentan el hallazgo sin publicar la secuencia ni liberarla al público, lo que impide conocer los detalles de la misma. Al no mostrar la secuencia ni la fórmula de edición lista, el avance resulta bastante incremental respecto a lo que ya existía en otros laboratorios", señala la investigadora, que lamenta que detrás de esta estrategia de comunicación existan "intereses comerciales".

Por otro lado, Ferruz también hace hincapié en la creciente preocupación en el sector sobre "el uso de la propiedad intelectual y el acceso de las empresas a datos privados durante el entrenamiento de modelos, un tema de creciente debate judicial".

Toni Gabaldón, investigador ICREA en el Instituto de Investigación Biomédica de Barcelona (IRB Barcelona) y el Centro Nacional de Supercomputación (BSC-CNS) también cuestiona, con los datos disponibles, la completa autonomía de la IA en el descubrimiento anunciado. "Da la sensación de que hay mucho músculo humano detrás. Parece que se ha intentando maximizar el trabajo de la IA, pero al final la investigación parece que ha dependido en gran medida de información humana que ya existía y que, además, luego se ha validado en experimentos que también han hecho humanos", señala.

"Hace falta conocer los detalles para saber hasta qué punto es un descubrimiento autónomo", señala Gabaldón, haciendo hincapié en la forma en la que se ha hecho el anuncio.

"Los prepints me parecen bien como vía de discusión dentro de la comunidad científica. Pero me parece mal que se haga un bombo mediático de un preprint antes de que se haya llevado a cabo una revisión por pares, antes de que esa investigación la hayan revisado expertos en la materia que son los que pueden determinar si hay fallos o si lo que dicen se respalda con evidencias", apunta.

"No me parece adecuado teniendo en cuenta además que se trata de una empresa con posibles intereses detrás de ese anuncio. No es ético anunciarlo de esta manera", concluye.

12 de septiembre de 2026. El Mundo:

OpenAI, la empresa de Sam Altman, ha proclamado hace unos días que había resuelto uno de los problemas del milenio, las ecuaciones de Navier-Stokes. Para conseguirlo, la IA se ha basado en la investigación de dos matemáticos españoles, a los que ha conseguido 'vencer' por el uso de fuerza bruta, no por el desarrollo de nuevas ideas matemáticas.

Los matemáticos más importantes del mundo, entre los que se encuentra Terence Tao, considerado el matemático más relevante de la actualidad, acusan a las grandes tecnológicas de olvidar que "la resolución de problemas es solo una herramienta y un medio para alcanzar el objetivo principal: la comprensión conceptual y la introspección". 

En los últimos meses las empresas tecnológicas se han echado a la carrera por la resolución de los grandes desafíos matemáticos pendientes 

Como respuesta, 25 galardonados con la Medalla Fields, el premio más prestigioso de esta disciplina, encabezan un manifiesto en el que denuncian que los objetivos de las empresas de IA y los de la comunidad matemática están profundamente desalineados. 

 Los firmantes defienden que la investigación matemática persigue desarrollar nuevos métodos y también abrir nuevas preguntas, algo que la velocidad con la que actúan OpenAI y demás big tech no permiten. 

Una grave desalineación de la IA en las matemáticas

En los últimos meses, las capacidades matemáticas de los másteres en matemáticas han mejorado drásticamente, hasta el punto de poder resolver importantes problemas pendientes en muchos campos de las matemáticas. Sin embargo, el afán de las empresas de IA por resolver problemas matemáticos como referencia resulta perjudicial para la ciencia matemática y para la comunidad matemática. Los objetivos de las empresas de IA y los de la comunidad matemática están profundamente desalineados. Consideramos que esto forma parte de problemas de alineación más amplios que afectan a otras profesiones científicas y creativas, así como a la sociedad en su conjunto.

La investigación matemática se ocupa de comprender las estructuras básicas de las formas, los números y los fenómenos naturales. A lo largo de generaciones, ha desarrollado un amplio corpus de ideas, métodos, abstracciones y otras herramientas sofisticadas para comprender el panorama matemático. A su vez, las tecnologías y ciencias modernas se basan en herramientas matemáticas.

Los problemas más conocidos a menudo han servido como puntos de referencia y faros que permiten medir una mejor comprensión de este campo. Resolver uno de estos problemas ha sido un claro indicio de nuevas perspectivas y métodos interesantes, que posteriormente son estudiados por una comunidad de matemáticos mediante un largo y arduo proceso de conversaciones, debates y simplificaciones. Al final de este proceso, idealmente se encuentra una presentación de los resultados en un libro de texto, accesible para cualquier estudiante de grado o posgrado. Algunas de estas ideas matemáticas perduran aún más, convirtiéndose, décadas o siglos después, en herramientas comprendidas y utilizadas por toda la población.

La comunidad matemática funciona, en muchos sentidos, como una versión en miniatura de la humanidad. Está compuesta por individuos que emplean una amplia variedad de enfoques, unidos por valores fundamentales. Los recursos más valiosos de nuestra profesión son los estudiantes y las ideas, y los cultivamos con sumo cuidado. Nos sentimos responsables de permitirles desarrollar todo su potencial, hasta que puedan tener vida propia en el mundo matemático. A los estudiantes, a menudo les proponemos problemas con la intención principal de desarrollar habilidades que les permitan avanzar en la investigación y en otros ámbitos. Difundimos nuestras ideas mediante charlas, conversaciones privadas y escritos detallados, conectándolas con las ideas previas de otros. Estos procesos, invariablemente, requieren tiempo y se basan en la interacción humana.

En los últimos meses, el éxito de la IA en la resolución de importantes problemas matemáticos ha acaparado titulares incluso fuera del ámbito matemático. Sin embargo, la resolución de problemas es solo una herramienta y un medio para alcanzar el objetivo principal: la comprensión conceptual y la introspección. Olvidar esto en el mundo de la IA podría convertir la herramienta en una herramienta contraria al objetivo principal. De hecho, la producción masiva, cada vez más acelerada, de afirmaciones de "verdadero/falso" podría destruir terreno fértil en lugar de dar vida a nuevas ideas.

Con frecuencia, estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, ni la citación de trabajos previos relevantes de otros autores. Como en todas las profesiones creativas, esto plantea serios problemas de atribución y plagio. Además, sin los matemáticos dispuestos a encargarse de su desarrollo e integración en el canon matemático, las ideas concebidas por la IA nunca se materializarían por completo y se perdería la crucial cadena de transmisión humana entre matemáticos.

Estamos presenciando una amenaza generalizada para el trabajo intelectual, con una falta de alineación entre el resultado del uso de la IA y su propósito inicial. En muchos campos y actividades, años de formación han servido tradicionalmente no solo para producir una respuesta o producto final, sino también para desarrollar la comprensión y la capacidad de formular nuevas preguntas e ideas. Sin embargo, basándose en un vasto corpus de trabajo humano previo, los sistemas de IA son cada vez más capaces de producir directamente los resultados de dicho trabajo, y estos objetivos dejan de estar alineados. Los problemas a los que se enfrenta ahora la comunidad matemática son similares a los que afrontan otras profesiones científicas y creativas, e indican problemas a los que podría enfrentarse toda la humanidad: cómo asegurarnos de que, a medida que la IA transforma la forma de trabajar, no perdamos de vista el objetivo original de ese trabajo.

La IA ofrece el potencial de mejorar y acelerar el estudio y la comprensión de las matemáticas. La matemática como profesión deberá adaptarse a estos cambios de diversas maneras. Sin embargo, el hecho de que estos cambios beneficien al campo o tengan un efecto perjudicial dependerá en gran medida de las decisiones de quienes controlen esta nueva tecnología.

Es necesario abordar con urgencia estas cuestiones, tanto en la comunidad matemática como por parte de las empresas que desarrollan estas tecnologías y, de forma más general, por una sociedad que se enfrentará a problemas similares en muchas otras formas de trabajo intelectual.

Matemáticos firmantes con Medalla Fields

Artur Avila (Medalla Fields 2014)

Manjul Bhargava (Medalla Fields 2014)

Caucher Birkar (Medalla Fields 2018)

Pierre Deligne (Medalla Fields 1978)

Yu Deng (Medalla Fields 2026)

Simon Donaldson (Medalla Fields 1986)

Hugo Duminil-Copin (Medalla Fields 2022)

Alessio Figalli (Medalla Fields 2018)

Martin Hairer (Medalla Fields 2014)

June Huh (Medalla Fields 2022)

Maxim Kontsevich (Medalla Fields 1998)

Elon Lindenstrauss (Medalla Fields 2010)

Pierre-Louis Lions (Medalla Fields 1994)

James Maynard (Medalla Fields 2022)

Curtis McMullen (Medalla Fields 1998)

Shigefumi Mori (Medalla Fields 1990)

Ngô Bảo Châu (Medalla Fields 2010)

Andrei Okounkov (Medalla Fields 2006)

Peter Scholze (Medalla Fields 2018)

Stanislav Smirnov (Medalla Fields 2010)

Terence Tao (Medalla Fields 2006)

Maryna Viazovska (Medalla Fields 2022)

Cédric Villani (Medalla Fields 2010)

Wendelin Werner (Medalla Fields 2006)

Efim Zelmanov (Medalla Fields 1994)