Pular para o conteúdo
Últimas
Artigos

Autonomia científica da era da IA generativa 

Artigo por Natália Marroni Borges

Em 8 de setembro, a OpenAI anunciou que um modelo ainda não lançado havia resolvido o problema de Navier-Stokes, um dos sete Problemas do Milênio. A discussão derivada deste anúncio concentrou-se, como era de esperar, na validade da prova e no que ela diz sobre a capacidade das máquinas. O que passou quase despercebido foi um detalhe que, talvez, seja o mais importante para quem faz ciência fora das empresas de IA. Tristan Buckmaster, matemático da Universidade de Nova York, afirmou que a empresa acelerou seu trabalho depois de saber que ele e um colega estavam perto de anunciar um avanço sobre o mesmo problema. E acrescentou que o material da dupla estava armazenado no Codex, ferramenta que pertence à própria OpenAI. 

A empresa nega qualquer relação entre estes fatos e alega que começou a trabalhar no problema em 1º de setembro, motivada por rumores de que outros Problemas do Milênio estariam sendo resolvidos. A empresa também reconheceu o resultado independente dos dois pesquisadores e ofereceu, inclusive, publicação conjunta. Na prática, pode ser exatamente isso que aconteceu. Ou não. Ocorre que ninguém de fora da própria OpenAI tem como saber. Nem Buckmaster, nem a universidade dele, nem os pares que avaliarão a prova. A suspeita não pode ser confirmada nem descartada, e essa impossibilidade talvez seja o dado mais importante deste episódio. 

Durante décadas, a relação entre pesquisadores e seus fornecedores de infraestrutura foi relativamente simples. Quem vende microscópio, reagente ou licença de software estatístico não disputa a descoberta com o cliente. Mas as empresas de IA generativa ocupam uma posição diferente nesta cadeia, uma vez que elas vendem a ferramenta em que, muitas vezes, o cientista formula hipóteses, organiza dados, escreve código e redige resultados preliminares, e ao mesmo tempo anunciam, com frequência crescente, descobertas científicas próprias. O fornecedor enxerga a bancada do cliente. E o fornecedor pode (e pode querer) ser concorrente. 

A resposta mais típica a esse tipo de preocupação puxa para questões contratuais. Já existem planos corporativos, cláusulas que vedam o uso dos dados para treinamento, opções de retenção zero. Tudo isso, apesar de verdadeiro, não resolve o problema, porque garantias contratuais valem na medida em que podem ser verificadas – e o pesquisador não dispõe de meio algum para auditar o que acontece com o que deposita nas plataformas de LLM. Além disso, a preocupação com treinamento é estreita demais. O valor estratégico está menos no conteúdo de um manuscrito do que no agregado de todos eles. Imagine ter acesso a que problemas estão sendo atacados, por quais grupos, com que abordagens, em que estágio. É difícil imaginar agência de fomento com um mapa tão atualizado da fronteira da pesquisa quanto o que pode se formar, involuntariamente, nos registros de uso dessas plataformas. 

No Brasil, a questão ainda ganha outra camada se considerarmos que as universidades públicas investiram anos em infraestrutura própria, repositórios institucionais, comitês de ética e regras de gestão de dados de pesquisa. Esse aparato protege o perímetro da instituição, mas é, também, contornado todos os dias por um gesto individual, talvez ingênuo e até mesmo banal: o pesquisador que cola no chat um trecho de transcrição, uma tabela ainda não publicada, a ideia principal de um projeto que vai a edital. Não enxergamos má-fé nisso. Existe uma ferramenta útil e nenhuma alternativa equivalente oferecida pela instituição para as funcionalidades de um LLM. O resultado é que pesquisa financiada com recurso público transita, antes de qualquer publicação, por infraestrutura privada estrangeira, sujeita a outra jurisdição e a interesses comerciais que agora incluem a própria produção científica. 

A tradição latino-americana de pensamento sobre dependência tecnológica sempre tratou a autonomia científica como condição de desenvolvimento, e a pensou sobretudo em termos de capacidade, envolvendo laboratórios, doutores, orçamento. O episódio de setembro sugere acrescentar a essa lista a possibilidade de pensar sem ser observado. A agenda internacional de segurança da pesquisa, por sua vez, concentra-se na espionagem conduzida por Estados e tem pouco a dizer sobre o fornecedor comercial que ocupa, por adesão voluntária dos usuários, uma posição que serviço de inteligência nenhum conseguiria montar. 

Nada do que foi dito até aqui serve como argumento proibitivo. A proibição apenas empurraria o uso de LLMs para a clandestinidade, onde, sejamos francos, boa parte já está. O caso demanda que universidades e agências tratem o tema como política científica, e não mais como um assunto de TI. Orientações claras sobre o que pode passar por serviços externos, capacidade computacional própria ou compartilhada para o trabalho sensível, e contratos negociados coletivamente, com direito de auditoria. Se a prova da OpenAI for confirmada, será lembrada como marco da matemática. Para a ciência feita em países que consomem essas ferramentas sem produzi-las, talvez seja mais útil lembrá-la pelo que não foi possível esclarecer nesta situação. 

Natalia Marroni Estratégia Integrada para o Avanço da Inteligência Artificial no BrasilNatália Marroni Borges é pesquisadora no Think Tank da ABES, Pesquisadora membro do grupo IEA Future Lab (vinculado à Universidade Federal do Rio Grande do Sul – UFRGS), Pós-doutoranda em Inteligência Artificial e Foresight e professora na UFRGS. As opiniões expressas neste artigo não refletem, necessariamente, os posicionamentos da Associação.

Compartilhe

Leia também

Fique por dentro de tudo

Não perca nenhuma
novidade tech

Receba no seu e-mail a curadoria do Guia do PC: notícias, artigos, análises e pesquisas sobre tecnologia e negócios.

Ao se inscrever, você concorda com a Política de Privacidade.

  • 100% gratuito
  • Sem spam
  • Cancele quando quiser