25 lauréats de la médaille Fields se sont prononcés contre la course des entreprises d’IA à la résolution de problèmes mathématiques complexes. Dans une déclaration commune, ils ont averti que l’utilisation de tels résultats pour démontrer les capacités des modèles pourrait nuire à la science et à la formation des chercheurs.
Les signataires comprennent Terence Tao, Peter Scholze, Marina Vyazovskaya et Maxim Kontsevich.
Tao a déclaré que le document avait été préparé sur la base des discussions de la semaine dernière. Les auteurs ont considéré la situation suffisamment urgente pour publier l'appel sans consultation plus large. La collecte de signatures se poursuit.
Pourquoi les scientifiques critiquent la race
Selon les auteurs, les objectifs des développeurs et de la communauté mathématique divergent. Pour la science, non seulement la réponse est importante, mais aussi les nouvelles méthodes qui aident à comprendre le problème et à poursuivre la recherche.
« La production massive et toujours croissante de déclarations vraies/fausses a le potentiel de détruire un sol fertile plutôt que de donner vie à de nouvelles idées », indique la lettre.
La preuve qui en résulte doit être analysée, liée aux travaux antérieurs et expliquée aux collègues et aux étudiants. Cependant, la précipitation des annonces ne laisse pas de temps pour ce travail et une attribution appropriée, ont noté les signataires.
Selon eux, le risque affecte également l’apprentissage : chercher soi-même une solution développe la capacité à poser de nouvelles questions. Les auteurs ont constaté un problème similaire dans d’autres professions scientifiques et créatives.
Dans le même temps, les mathématiciens ont reconnu les avantages de l’IA pour la recherche. Ils ont souligné que les conséquences de son application dépendent largement des décisions des personnes qui gèrent la technologie.
Dans le contexte de quels événements la lettre est-elle apparue ?
Cet appel est intervenu peu de temps après qu'OpenAI ait annoncé le résultat de l'équation de Navier-Stokes, l'un des « problèmes du millénaire ». L'entreprise n'est pas mentionnée dans la déclaration elle-même.
Le 8 septembre, l'entreprise a annoncé que son système d'IA interne avait obtenu la preuve des variantes C et D du problème, ce qui permettait une influence externe sur le liquide.
Selon OpenAI, un groupe d’environ 10 000 agents ont trouvé une solution en 88 heures. La formalisation et la vérification dans le système Lean ont pris encore 17 heures.
La société a publié la preuve et le code, affirmant qu'elle n'avait pas l'intention de se qualifier pour le Clay Institute Prize.
Le résultat s'est accompagné d'une controverse sur l'utilisation possible de travaux inédits des mathématiciens Tristan Buckmaster et Levent Alpege.
OpenAI a déclaré avoir mené un examen interne : selon ses résultats, les demandes de Buckmaster au Codex n'ont pas pu influencer le système, y compris par le biais de la formation.
Buckmaster a décrit l'ambiance qui règne au sein de la communauté scientifique dans un commentaire au Guardian :
« Le problème avec les mathématiques aujourd'hui, c'est que personne ne veut plus rien partager. »
Rappelons qu'Anthropic a présenté en septembre une formalisation de la preuve du dernier théorème de Fermat préparée par Claude. En 11 jours, des agents ont traduit un raisonnement mathématique déjà connu en code pour vérification informatique.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Voir l’article original en russe
