OpenAI dice haber resuelto más de 100 problemas matemáticos HISTÓRICOS

En agosto, OpenAI reunió a unos 40 matemáticos para debatir qué hacer si la IA supera las capacidades humanas en este campo. La empresa insinuó que sus potentes modelos habían resuelto cientos de problemas matemáticos que llevaban mucho tiempo sin solución. Pero los representantes de la compañía aseguraron a los asistentes que no publicarían las soluciones todas a la vez. Esa es una afirmación de la que, según la portavoz de OpenAI, Lindsay McCallum, la empresa “no tiene constancia”. Preocupada por cómo podría reaccionar la comunidad, pidió consejo sobre cómo publicar los resultados.
Los presentes respondieron con “una mezcla de entusiasmo y temor”, pero la reunión supuso un primer paso prometedor, recuerda la matemática de la Universidad Northwestern, Bryna Kra. El grupo, según explica a WIRED, pidió a la compañía que no se limitara a publicarlos en un blog o en un tuit, como había hecho con diez problemas a principios de ese mismo mes. En su lugar, según Kra, sería importante que OpenAI presentara artículos que explicaran el trabajo para que los matemáticos pudieran asimilar, analizar y utilizar los resultados. “Al parecer, esa sugerencia fue ignorada”, asegura.

Publicación inminente

OpenAI ha anunciado que planea publicar cientos de resultados de problemas sin resolver en GitHub este martes, según informaron a WIRED personas familiarizadas con los planes. Esta publicación sería la más reciente de las decenas de miles de soluciones matemáticas generadas por la IA este año.
“El 28 de agosto comenzamos a entrenar un nuevo modelo interno. Además de resolver el problema del Premio del Milenio de Navier-Stokes⁠, este modelo ha resuelto ya más de 100 problemas abiertos de larga data en la mayoría de las áreas de las matemáticas”, refiere McCallum. “Estamos trabajando para publicar de forma responsable los próximos resultados matemáticos de nuestro modelo, basándonos en el asesoramiento y las recomendaciones públicas del Grupo Asesor sobre Matemáticas e Inteligencia Artificial del Instituto de Estudios Avanzados para definir cómo dar a conocer estos resultados. Aún no hemos fijado una fecha de publicación”.
Sin embargo, para varios matemáticos destacados, la inminente publicación también es una señal de que la empresa ha aprendido poco de las polémicas suscitadas por revelaciones anteriores.

El juego de las matemáticas

En conversaciones con WIRED, los académicos aseguran que tienen la sensación de que el campo se ha convertido en un terreno de juego para que OpenAI y su rival Anthropic presuman de sus modelos, mientras ambas se preparan para unas salidas a bolsa espectaculares. En su prisa por superarse mutuamente, según los matemáticos, han dejado de lado los procesos científicos tradicionales para la publicación y la atribución de resultados.
El caso más llamativo hasta la fecha se produjo en septiembre. OpenAI desplegó miles de agentes para resolver el legendario problema del Premio del Milenio, dotado con un millón de dólares, tras escuchar “rumores” de que otros se estaban acercando a las soluciones. Tristan Buckmaster, matemático y profesor de la Universidad de Nueva York, acusó a la empresa de adelantarse al trabajo que él había realizado para resolver un elemento del problema en una colaboración personal con Levent Alpöge, empleado de Anthropic. La pareja no había publicado su trabajo, pero había estado utilizando las herramientas de OpenAI como ayuda.
Durante un intento de negociar el reconocimiento, Buckmaster señala que el investigador de OpenAI, Sébastien Bubeck, pareció insinuar que Alpöge debería ser excluido de cualquier artículo, ya que eso complicaría las cosas. En respuesta a una solicitud de comentarios, Bubeck señaló una declaración pública anterior en la que negó haber pedido que Alpöge no figurara como autor. Buckmaster dijo que se negó. En una llamada, Bubeck comentó que “existe cierta preocupación por lo que está haciendo Anthropic. Levent debe estar hablando con sus líderes ahora mismo para hacerles saber que la maldita OpenAI puede resolver un problema del Premio del Milenio, dijo. ¿Qué impide a Anthropic dar toda su capacidad de cómputo para resolver un problema del Premio del Milenio?”.
Según las notas, Bubeck también pareció insinuar que Buckmaster arruinaría su carrera cuando este amenazó con contarle a la prensa que creía que OpenAI le había robado su trabajo. “Si no quieres que sea amable, no tengo por qué serlo”, expresó Bubeck, según consta en las notas de la reunión.

Preocupados por los modos impropios

Nestor Guillen, profesor visitante de matemáticas en la Universidad de Nueva York, declaró a WIRED que entre los matemáticos existe la percepción de que las empresas de IA tienen un comportamiento mafioso.
“No estamos de acuerdo con esa caracterización”, manifiesta McCallum.
“Siento mucha inquietud, y la veo cada vez más entre mis colegas matemáticos, no por la IA en sí, sino por las compañías de IA”, destaca Guillén. “Creo que gran parte de la inquietud se debe a la acumulación de poder en un solo lugar”.
A mediados de septiembre, OpenAI creó un grupo asesor para ayudar a determinar cómo la empresa evalúa y comunica los nuevos resultados, mantiene los estándares académicos y profesionales, y desarrolla herramientas que apoyan la investigación y el aprendizaje matemático. Sin embargo, según los matemáticos, la empresa no parece haber avanzado mucho.
Muchos se sienten frustrados porque OpenAI y Anthropic siguen publicando resultados en blogs en lugar de artículos científicos, lo que dificulta la verificación y a menudo excluye trabajos previos de otros matemáticos. Los anuncios fragmentados no se limitan a los laboratorios: el propio Alpöge anunció que había refutado una conjetura de 87 años de antigüedad mediante un tuit publicado poco después de la final de la Copa del Mundo.
“Para mí, las matemáticas a través de tuits y comunicados de prensa no son la manera de nutrir el ecosistema que creó el terreno fértil en el que se han formado”, objeta Kra.
Este año, algunos han creado nuevas herramientas en respuesta al aumento de las demostraciones asistidas por máquinas. El objetivo es ayudar a la comunidad a utilizar los nuevos resultados y a discernir qué información requiere un análisis más profundo. Entre estas herramientas se encuentran Hexagon, un repositorio de material generado principalmente por IA, y Palomar, un registro de matemáticas verificadas por máquinas.
Aunque se ha animado directamente a OpenAI a utilizar estas herramientas, “no han cambiado su comportamiento”, señala Kra. Tampoco cree que las acciones de la empresa estén en consonancia con la Declaración de Leiden, un llamado de más de 4,000 matemáticos para que las empresas de IA cumplan con los estándares de la comunidad matemática, en cuya redacción ella participó.

¿El fin de las matemáticas como las conocemos?

Varios empleados de OpenAI creen que su tecnología ya ha dejado obsoletas las matemáticas, según personas que han hablado con ellos. “No creemos que el futuro de las matemáticas esté escrito”, opina McCallum. “Estamos colaborando con la comunidad matemática para afrontar el futuro de forma conjunta”. El escenario en el que las capacidades de la IA superan las de los investigadores humanos se planteó como hipotético durante la reunión de agosto, pero los asistentes que hablaron con WIRED lo interpretaron como una advertencia sobre lo que estaba por venir. La compañía ha informado a los matemáticos sobre sus capacidades y avances de la misma manera que “la policía podría querer notificar a la familia antes de informar de una muerte en un accidente de tráfico”, comparó la persona.
Según una persona cercana a él, Bubeck parece pensar que la tecnología de su empresa acabará rápidamente con la carrera de la mayoría de los matemáticos. En declaraciones a WIRED, Bubeck destaca que cree que una IA más potente podría ayudar a los matemáticos a abordar cuestiones más ambiciosas, conectar mejor su trabajo con la solución de problemas del mundo real y hacer que las matemáticas sean más accesibles. “Veo esto como una oportunidad para ampliar las capacidades de los matemáticos y el impacto que puede tener su trabajo”, declara.
Los matemáticos están conscientes de que deben adaptarse, sobre todo para preparar a las nuevas generaciones, pero no creen que su campo esté muerto. “Está cambiando nuestra forma de trabajar, pero creo que es un momento para pensar en grande”, esgrime Kra. Le alegra contar con una nueva y poderosa herramienta para resolver problemas; solo desea que las compañías sean más transparentes para poder confiar en los resultados y aprovecharlos.