Um grave desalinhamento da IA na matemática

Nos últimos meses, as capacidades matemáticas dos LLMs (Large Language Models, ou, Modelos de Linguagem de Grande Escala) melhoraram drasticamente, a ponto de conseguirem resolver grandes problemas em diversas áreas da matemática. No entanto, a pressão das empresas de IA para que a resolução de problemas matemáticos seja usada como parâmetro de avaliação é prejudicial à ciência matemática e à comunidade matemática. Os objetivos das empresas de IA e os da comunidade matemática estão gravemente desalinhados. Entendemos isso como parte de uma questão mais ampla de alinhamento que afeta outras profissões científicas e criativas, assim como a sociedade como um todo.

A matemática voltada à pesquisa lida com a compreensão das estruturas básicas de formas, números e fenômenos naturais. Ao longo de gerações, ela construiu um vasto conjunto de ideias sofisticadas, métodos, abstrações e outras ferramentas para compreender o panorama da matemática. Por sua vez, as tecnologias e ciências modernas são baseadas em ferramentas matemáticas.

Problemas famosos com frequência serviram como marcos e pontos de referência que permitem avaliar uma melhor compreensão desse panorama. A resolução de um desses problemas tem sido um sinal inequívoco de novos discernimentos e de métodos interessantes, que seriam então estudados por uma comunidade de matemáticos, mediante um longo e árduo processo de palestras, discussões e simplificações. Ao final desse processo, idealmente, encontraríamos uma apresentação dos resultados em um livro didático, adequada para qualquer estudante de pós-graduação ou mesmo de graduação. A jornada de algumas ideias matemáticas vai ainda mais longe, tornando-se, décadas ou séculos depois, ferramentas compreendidas e utilizadas por toda a população.

A comunidade matemática funciona, em diversos sentidos, como uma versão em miniatura da humanidade. Ela é composta por indivíduos que utilizam uma ampla variedade de abordagens diferentes, unidos por valores fundamentais. Os recursos mais preciosos de nossa profissão são os estudantes e as ideias, e estes nós nutrimos com enorme cuidado. Sentimos a responsabilidade de permitir que cresçam até atingirem seu pleno potencial, até que possam ter vida própria no mundo da matemática. Para os estudantes, frequentemente propomos problemas com a intenção sobretudo de desenvolver habilidades que os deixem uma posição favorável para avanços na pesquisa e em outras frentes. Nossas ideias são difundidas em palestras, discussões privadas e artigos cuidadosamente elaborados, conectando-as às ideias anteriores de outros. Esses processos invariavelmente levam tempo e dependem da interação humana.

Nos últimos meses, o sucesso da IA na resolução de grandes problemas matemáticos ganhou destaque até mesmo fora dos círculos matemáticos. Mas a resolução de problemas é apenas uma ferramenta e um meio para alcançar o objetivo primordial da compreensão conceitual e do discernimento. Esquecer isso no mundo da IA pode fazer com que a ferramenta se volte contra o objetivo principal. De fato, a produção em massa, em ritmo cada vez mais acelerado, de afirmações "verdadeiro/falso" pode destruir um terreno fértil em vez de dar vida a novas ideias.

Frequentemente, essas soluções são anunciadas às pressas, sem tempo para uma redação adequada, o isolamento de novos métodos e ideias e a citação de trabalhos anteriores relevantes de outros autores. Como em todas as profissões criativas, isso levanta sérias questões de autoria e plágio. Além disso, sem os matemáticos dispostos a cuidar do desenvolvimento e da integração dessas ideias ao cânone matemático, as ideias concebidas pela IA jamais ganhariam vida plena e a crucial cadeia de transmissão humana entre matemáticos se perderia.

Estamos testemunhando uma ameaça generalizada ao trabalho intelectual, com um desalinhamento entre o resultado do uso da IA e seu propósito inicial. Em muitos campos e atividades, anos de treinamento tradicionalmente serviram não apenas para produzir uma resposta ou produto final, mas também para desenvolver a compreensão e a capacidade de formular novas perguntas e ideias. No entanto, apoiando-se em um vasto corpo de conhecimento produzido anteriormente por humanos, os sistemas de IA estão se tornando cada vez mais capazes de produzir os resultados desse trabalho diretamente, e esses objetivos deixam de se alinhar. Os problemas que a comunidade matemática enfrenta agora são semelhantes aos que outras profissões científicas e criativas enfrentam, sendo indicativos de algo que toda a humanidade poderá enfrentar: como garantir que, à medida que a IA muda a forma como o trabalho é feito, não percamos de vista o que esse trabalho deveria alcançar em primeiro lugar?

A IA oferece o potencial de aprimorar e acelerar o estudo e a compreensão genuínos da matemática. A matemática, como profissão, precisará se adaptar a essas mudanças de diversas maneiras. No entanto, se essas mudanças beneficiarão a área ou terão um efeito destrutivo dependerá, em grande parte, das decisões dos humanos que controlam essa nova tecnologia.

Essas questões devem ser abordadas com urgência pela comunidade matemática, pelas empresas que desenvolvem essas tecnologias e, de forma mais ampla, por uma sociedade que enfrentará problemas semelhantes em muitas outras frentes de trabalho intelectual.

Artur Avila (Medalha Fields 2014)
Manjul Bhargava (Medalha Fields 2014)
Caucher Birkar (Medalha Fields 2018)
Pierre Deligne (Medalha Fields 1978)
Yu Deng (Medalha Fields 2026)
Simon Donaldson (Medalha Fields 1986)
Hugo Duminil-Copin (Medalha Fields 2022)
Alessio Figalli (Medalha Fields 2018)
Martin Hairer (Medalha Fields 2014)
June Huh (Medalha Fields 2022)
Maxim Kontsevich (Medalha Fields 1998)
Elon Lindenstrauss (Medalha Fields 2010)
Pierre-Louis Lions (Medalha Fields 1994)
James Maynard (Medalha Fields 2022)
Curtis McMullen (Medalha Fields 1998)
Shigefumi Mori (Medalha Fields 1990)
Ngô Bảo Châu (Medalha Fields 2010)
Andrei Okounkov (Medalha Fields 2006)
Peter Scholze (Medalha Fields 2018)
Stanislav Smirnov (Medalha Fields 2010)
Terence Tao (Medalha Fields 2006)
Maryna Viazovska (Medalha Fields 2022)
Cédric Villani (Medalha Fields 2010)
Wendelin Werner (Medalha Fields 2006)
Efim Zelmanov (Medalha Fields 1994)