25 medallistas Fields advierten que los laboratorios de IA amenazan la cultura de la investigación matemática

Veinticinco (25) destacados matemáticos firmaron una carta abierta en la que argumentan que los laboratorios de IA están amenazando su trabajo intelectual al competir entre sí por superarse con soluciones a problemas matemáticos famosos. Cada firmante ha recibido la Medalla Fields, considerada el premio más prestigioso en matemáticas.

Esta semana, el profesor de NYU Tristan Buckmaster acusó a OpenAI de presionarlo para que no le diera crédito a un colaborador que trabaja para Anthropic por resolver un problema matemático importante, y se preguntó si la empresa había usado el trabajo de ambos con Codex para producir su propia demostración durante un fin de semana maratónico de inferencia. El jueves, OpenAI retiró su patrocinio de un evento de matemáticas en Caltech después de que investigadores de la universidad criticaran a la empresa.

Aunque la capacidad de los modelos de IA para resolver desafíos matemáticos pendientes podría beneficiar a la humanidad, los firmantes de la carta argumentan que eso solo se cumplirá si esas soluciones pueden ser comprendidas y comunicadas por la comunidad matemática y, en última instancia, por el resto del mundo. “A menudo estas soluciones se anuncian con prisa, sin dejar tiempo para una redacción adecuada, para aislar los nuevos métodos e ideas, y para citar el trabajo previo relevante de otros”, escribieron, y la demostración de OpenAI sigue sin verificarse. “Como en todas las profesiones creativas, esto plantea graves cuestiones de atribución y plagio”.

Con otros matemáticos cada vez más recelosos de que su propio uso de Codex pueda alimentar los futuros modelos de OpenAI, existe una preocupación real de que la cultura de investigación abierta pueda verse amenazada. Hoy en día, si los laboratorios de frontera ven un camino hacia un descubrimiento, pueden gastar decenas de millones de dólares usando modelos de IA para ganarles a los investigadores originales en la obtención de una demostración, una dinámica que podría incentivar el secretismo. Esta carta sigue a la Declaración de Leiden, publicada por un grupo de trabajo de matemáticos en junio, que también aborda cómo las demostraciones generadas por LLM cambiarán el campo y ofrece recomendaciones para matemáticos, instituciones y responsables de políticas.

Al igual que en la ingeniería de software y otros campos donde las herramientas de IA están transformando los flujos de trabajo, los matemáticos argumentan que el valor de su disciplina no radica solo en las demostraciones y en quién recibe el crédito, sino en la estructura intelectual más amplia que forma a los estudiantes, genera nuevas preguntas e integra ideas en el conocimiento humano en general. “Los problemas que enfrenta hoy la comunidad matemática son similares a los que enfrentan otras profesiones científicas y creativas, e indican problemas que toda la humanidad podría enfrentar: cómo asegurarnos de que, a medida que la IA cambia la forma en que se hace el trabajo, no perdamos de vista para qué se suponía que servía ese trabajo en primer lugar”, afirma la carta.

Por qué importa

La disputa señala que el avance de la IA en campos científicos de élite está tensionando las normas de atribución y verificación mucho más allá de las matemáticas, un anticipo de las tensiones que probablemente surgirán en cualquier disciplina de investigación en la que los modelos de IA comiencen a competir directamente.