Autonomia científica da era da IA generativa
Artigo por Natália Marroni Borges
Em 8 de setembro, a OpenAI anunciou que um modelo ainda não lançado havia resolvido o problema de Navier-Stokes, um dos sete Problemas do Milênio. A discussão derivada deste anúncio concentrou-se, como era de esperar, na validade da prova e no que ela diz sobre a capacidade das máquinas. O que passou quase despercebido foi um detalhe que, talvez, seja o mais importante para quem faz ciência fora das empresas de IA. Tristan Buckmaster, matemático da Universidade de Nova York, afirmou que a empresa acelerou seu trabalho depois de saber que ele e um colega estavam perto de anunciar um avanço sobre o mesmo problema. E acrescentou que o material da dupla estava armazenado no Codex, ferramenta que pertence à própria OpenAI.
A empresa nega qualquer relação entre estes fatos e alega que começou a trabalhar no problema em 1º de setembro, motivada por rumores de que outros Problemas do Milênio estariam sendo resolvidos. A empresa também reconheceu o resultado independente dos dois pesquisadores e ofereceu, inclusive, publicação conjunta. Na prática, pode ser exatamente isso que aconteceu. Ou não. Ocorre que ninguém de fora da própria OpenAI tem como saber. Nem Buckmaster, nem a universidade dele, nem os pares que avaliarão a prova. A suspeita não pode ser confirmada nem descartada, e essa impossibilidade talvez seja o dado mais importante deste episódio.
Durante décadas, a relação entre pesquisadores e seus fornecedores de infraestrutura foi relativamente simples. Quem vende microscópio, reagente ou licença de software estatístico não disputa a descoberta com o cliente. Mas as empresas de IA generativa ocupam uma posição diferente nesta cadeia, uma vez que elas vendem a ferramenta em que, muitas vezes, o cientista formula hipóteses, organiza dados, escreve código e redige resultados preliminares, e ao mesmo tempo anunciam, com frequência crescente, descobertas científicas próprias. O fornecedor enxerga a bancada do cliente. E o fornecedor pode (e pode querer) ser concorrente.
A resposta mais típica a esse tipo de preocupação puxa para questões contratuais. Já existem planos corporativos, cláusulas que vedam o uso dos dados para treinamento, opções de retenção zero. Tudo isso, apesar de verdadeiro, não resolve o problema, porque garantias contratuais valem na medida em que podem ser verificadas – e o pesquisador não dispõe de meio algum para auditar o que acontece com o que deposita nas plataformas de LLM. Além disso, a preocupação com treinamento é estreita demais. O valor estratégico está menos no conteúdo de um manuscrito do que no agregado de todos eles. Imagine ter acesso a que problemas estão sendo atacados, por quais grupos, com que abordagens, em que estágio. É difícil imaginar agência de fomento com um mapa tão atualizado da fronteira da pesquisa quanto o que pode se formar, involuntariamente, nos registros de uso dessas plataformas.
No Brasil, a questão ainda ganha outra camada se considerarmos que as universidades públicas investiram anos em infraestrutura própria, repositórios institucionais, comitês de ética e regras de gestão de dados de pesquisa. Esse aparato protege o perímetro da instituição, mas é, também, contornado todos os dias por um gesto individual, talvez ingênuo e até mesmo banal: o pesquisador que cola no chat um trecho de transcrição, uma tabela ainda não publicada, a ideia principal de um projeto que vai a edital. Não enxergamos má-fé nisso. Existe uma ferramenta útil e nenhuma alternativa equivalente oferecida pela instituição para as funcionalidades de um LLM. O resultado é que pesquisa financiada com recurso público transita, antes de qualquer publicação, por infraestrutura privada estrangeira, sujeita a outra jurisdição e a interesses comerciais que agora incluem a própria produção científica.
A tradição latino-americana de pensamento sobre dependência tecnológica sempre tratou a autonomia científica como condição de desenvolvimento, e a pensou sobretudo em termos de capacidade, envolvendo laboratórios, doutores, orçamento. O episódio de setembro sugere acrescentar a essa lista a possibilidade de pensar sem ser observado. A agenda internacional de segurança da pesquisa, por sua vez, concentra-se na espionagem conduzida por Estados e tem pouco a dizer sobre o fornecedor comercial que ocupa, por adesão voluntária dos usuários, uma posição que serviço de inteligência nenhum conseguiria montar.
Nada do que foi dito até aqui serve como argumento proibitivo. A proibição apenas empurraria o uso de LLMs para a clandestinidade, onde, sejamos francos, boa parte já está. O caso demanda que universidades e agências tratem o tema como política científica, e não mais como um assunto de TI. Orientações claras sobre o que pode passar por serviços externos, capacidade computacional própria ou compartilhada para o trabalho sensível, e contratos negociados coletivamente, com direito de auditoria. Se a prova da OpenAI for confirmada, será lembrada como marco da matemática. Para a ciência feita em países que consomem essas ferramentas sem produzi-las, talvez seja mais útil lembrá-la pelo que não foi possível esclarecer nesta situação.
Natália Marroni Borges é pesquisadora no Think Tank da ABES, Pesquisadora membro do grupo IEA Future Lab (vinculado à Universidade Federal do Rio Grande do Sul – UFRGS), Pós-doutoranda em Inteligência Artificial e Foresight e professora na UFRGS. As opiniões expressas neste artigo não refletem, necessariamente, os posicionamentos da Associação.
