Super Melhorias
Artigo por Mônica Oliveira, pesquisadora do Think Tank da Associação Brasileira das Empresas de Software (ABES)
Boa parte das atualizações de aplicativos e sistemas operacionais vem acompanhada do mesmo aviso sobre correções de erros e super melhorias de desempenho. Nada ali explica o que foi corrigido nem o que melhorou, e, mesmo assim, clicamos em atualizar. A palavra “melhorar” tem o poder de dispensar perguntas. Quem não quer melhorar?
O que significa, afinal, melhorar a tecnologia? Toda melhoria pressupõe um critério, e alguém o escolheu. Costuma-se dizer que um sistema melhorou quando processa mais dados em menos tempo, e esse critério é definido, em geral, por quem projeta e vende o produto. Um sistema de reconhecimento facial pode melhorar na média, mas continuar errando mais com rostos negros, e é essa média que vai para o relatório. Ficam de fora da medição o trabalho precário de quem rotula dados, pago a partir de 1,32 dólares por hora no Quênia para treinar sistemas da OpenAI, e a água que resfria os centros de dados, cerca de 1 bilhão de litros só para treinar uma versão do GPT-5. Custos assim raramente aparecem na propaganda.
Essa lógica desenvolvimentista, apoiada numa régua criada nos territórios que denominamos, politicamente, Norte Global, mediu países durante décadas pelo que ainda não tinham e determinou o que precisavam fazer, ao custo de recursos finitos. Outras réguas sempre estiveram disponíveis, ligadas à qualidade de vida, à suficiência ou ao cuidado, mas raramente são essas as que definem o que chamamos de melhoria tecnológica. A tecnologia herdou desse desenvolvimentismo a ideia de que o presente é sempre insuficiente e que a próxima versão resolve. Ganhos de eficiência podem vir acompanhados de maior consumo, efeito que o economista William Stanley Jevons descreveu no século XIX em relação ao carvão e que reaparece hoje nas discussões sobre a energia que a inteligência artificial exige.
Os custos e os ganhos também se distribuem de forma desigual. Quem projeta e vende colhe o lucro. Quem depende do serviço e quem teve os dados extraídos sem contrapartida arcam com os riscos. Um algoritmo que acelera a concessão de um benefício social melhora o indicador da gestão e pode deixar sem resposta quem foi excluído por engano e não sabe a quem recorrer. Ignorar esses custos também é um risco para quem vende a tecnologia, que responde juridicamente, perde reputação e atrai regulação quando o dano vem à tona.
A pergunta que mais me incomoda é se vale a pena melhorar uma tecnologia mesmo que isso nos destrua. Parte dessa destruição já está em curso e tem um endereço. Ivan Illich chamou de contraprodutividade o ponto em que uma ferramenta passa a produzir o contrário do que prometia. Uma melhoria que corrói as condições da vida coletiva, seja pela concentração de poder ou pela perda de autonomia das pessoas, perde o direito de levar esse nome.
Quem decide que uma tecnologia melhorou raramente é quem arca com o resultado dessa escolha, seja quem rotula dados no Quênia por menos de dois dólares por hora, seja quem foi excluído de um benefício sem saber a quem recorrer. Enquanto essa pergunta não mudar de mãos, seguiremos clicando em ‘Atualizar’ sem saber o que mudou.
Mônica Oliveira é mãe da Pitanga, pesquisadora do Think Tank da Associação Brasileira das Empresas de Software (ABES), doutoranda em Administração Pública e Governo pela FGV EAESP e mestre em Ciências Sociais pela UNIFESP. Sua pesquisa aborda justiça restaurativa de dados, políticas de dados e governança da inteligência artificial, com foco no Sul Global. Investiga também filantropia e teoria política normativa. Integra grupos de pesquisa da FGV, do CEBRAP e a rede internacional JUSTLA. As opiniões expressas neste artigo não refletem, necessariamente, os posicionamentos da Associação.
