Meio

O ano de 2024 começou com previsões de que uma onda de desinformação e informações falsas impulsionadas pela inteligência artificial (IA) em eleições logo se tornaria a maior ameaça à estabilidade global. De fato, surgiram esforços de influência impulsionados pela IA. Chatbots imitaram políticos online e campanhas usaram avatares de desenhos animados para reabilitar a imagem pública de seus candidatos. Candidatas foram vítimas de imagens íntimas geradas por IA, apenas para citar alguns exemplos.

No entanto, em janeiro de 2025, era difícil dizer se tudo isso tinha sido um estrondo ou um gemido. A IA generativa facilitou a produção de conteúdo enganoso, mas o volume em si tem valor limitado em uma internet já saturada, e não é necessário sofisticação técnica para persuadir as pessoas de coisas nas quais elas já acreditam. No entanto, a IA parece estar estimulando uma mudança lenta, mas constante, na forma como a comunicação política é criada e disseminada nos bastidores. Ativistas eleitorais estão experimentando sistemas de IA para aumentar suas análises de dados e mensagens direcionadas. Isso pode levar a uma segmentação mais refinada (por exemplo, de eleitores indecisos) nos próximos anos.

Devemos pensar mais profundamente sobre os riscos de longo prazo para as comunicações políticas impulsionadas pela IA. Isso inclui ameaças à democracia decorrentes diretamente da forma como as sociedades escolhem desenvolver e implementar a IA. Na luta global contra a desinformação, tem sido necessários esforço coletivo e tempo para determinar quais preocupações são exageradas e quais são subestimadas. Isso também se aplica àqueles que imaginam um mundo onde a IA e a democracia coexistem.

Em 2023, os tecnólogos Bruce Schneier e Nathan Sanders descreveram três “facções” lutando para decidir a política de IA. Os “catastrofistas” temiam um futuro em que sistemas de IA escravizariam ou destruiriam a humanidade. Os “guerreiros” previam uma corrida de soma zero entre nações para desenvolver e controlar a IA. A terceira facção, os “reformistas”, queria impedir as ameaças aos direitos que acreditavam que a adoção irresponsável da IA traria, mas com foco no curto prazo.

A IA é um exemplo de ‘tecnologia normal’ cujo impacto será decidido por aceleradores e barreiras de proteção criados e definidos pelos seres humanos

Embora compreendamos as preocupações imediatas dos reformadores, queremos chamar a atenção para as formas como, no longo prazo, a IA poderá abalar os alicerces dos sistemas políticos democráticos. Os formuladores de políticas e líderes empresariais de hoje estão escolhendo como a IA será desenvolvida e utilizada nas sociedades em todo o mundo nas próximas décadas. Em outras palavras, a IA é um exemplo de “tecnologia normal” cujo impacto será decidido por aceleradores e barreiras de proteção criados e definidos pelos seres humanos.

E se, nas próximas duas décadas, as preocupações com a IA descontrolada não se concretizarem, mas, em vez disso, o lobby da indústria e a pressão da competição entre potências levarem à adoção da IA com pouca regulamentação? A tecnologia poderia mudar processos, instituições e pré-condições socioeconômicas que permitiram à democracia prosperar. Alguns nomes no Vale do Silício chegam a argumentar que a era da democracia já passou e estão ressuscitando ideias outrora desprezadas de tecnocracia.

Se a atual explosão da IA levar à sua adoção sem reflexão suficiente, prevemos três tendências prejudiciais à democracia. Primeiro, os esforços apoiados pela IA para simplificar ou mesmo substituir a comunicação política entre autoridades e o público romperão o ciclo de feedback entre governantes e governados, cerne da democracia representativa. Segundo, a IA exacerbará as concentrações de riqueza e poder e transformará a democracia em um simulacro. Terceiro, a consolidação em larga escala de informações por LLM, juntamente com a capacidade da IA generativa de se apropriar e ofuscar trabalhos originais gerados por humanos, terá consequências econômicas para as fontes já escassas de notícias e informações confiáveis.

Representação popular, eleições e democracia hoje são termos intercambiáveis. Isso obscurece a complexidade dos processos pelos quais o governo representativo traduz a vontade popular em políticas. Esses processos são frequentemente arcaicos, imperfeitos e frustrantes. A dependência das eleições — muitas vezes com baixa participação — para reunir opiniões de cidadãos com níveis muito variados de conhecimento político e educação há muito tempo desanima muitos observadores.

Os tecnólogos oferecem a IA como um meio de melhorar os processos democráticos, como campanhas políticas, serviços aos eleitores e pesquisas de opinião. Hoje, as autoridades americanas estão começando a usar a IA na tentativa de examinar contratos, detectar fraudes e lidar com os beneficiários de serviços públicos. Os comentários públicos, uma parte importante do processo regulatório dos EUA, já estão sendo manipulados por conteúdo gerado por computador.

Em 2017, por exemplo, uma chamada pública da Comissão Federal de Comunicações sobre a revogação da “neutralidade da rede” recebeu 22 milhões de respostas, cerca de um terço das quais foram identificadas como contas automatizadas criadas por empresas de telecomunicações. A IA generativa torna esse tipo de manipulação muito mais fácil de escalar e refinar.

Mas esse sistema mina a deliberação, por meio da qual as pessoas desafiam preconceitos, questionam suposições, solicitam informações e chegam a um consenso. Já os políticos que dependem de dados de pesquisas têm menos incentivo para fazer concessões e são mais propensos a confiar em mensagens “direcionadas” que visam eleitores com interesse em questões divisivas. O resultado é uma comunicação política mais parecida com slogans gritados em um megafone. Os processos democráticos são bem-sucedidos justamente porque são lentos e deliberativos. Não podem ser contornados ou substituídos pelo poder da computação. Fazer isso os tornaria antidemocráticos.

O segundo risco que prevemos decorrer da IA irrestrita é a corrosão mais rápida da democracia pelo aumento das disparidades econômicas. Os estudiosos concordam que os ganhos da tecnologia da informação no final do século passado alimentaram uma desigualdade mais acentuada e esperam que avanços como a IA façam o mesmo neste século. Dario Amodei, o CEO da Anthropic, acredita que a IA poderá substituir metade de todos os empregos de colarinho branco de início de carreira dentro de cinco anos.

Estudos recentes sustentam que a desigualdade — seja de riqueza ou de renda — é um forte indicador do declínio e colapso da democracia, mesmo em democracias mais antigas, porque impulsiona tendências negativas como desconfiança, polarização, cinismo e populismo autocrático. Os governos são propensos a serem capturados por grupos e indivíduos com muitos recursos, e os multimilionários da tecnologia têm muitos recursos. Enquanto os oligarcas da velha guarda queriam capturar o Estado, os novos promotores da IA querem suplantá-lo por completo.

O que acontece quando as elites acreditam que a IA pode substituir esses trabalhadores humanos?

Não é coincidência que alguns dos executivos de tecnologia mais ricos do mundo sejam ideologicamente contrários ao governo representativo e apaixonados por uma tecnologia que promete substituir as pessoas — e suas demandas confusas por justiça — por software. A democracia em um sistema capitalista é possível porque as elites ricas em capital valorizam uma força de trabalho instruída o suficiente para tolerar as demandas por redistribuição que ela fará. O que acontece quando as elites acreditam que a IA pode substituir esses trabalhadores humanos?

Se tudo isso é profundamente inquietante, considere um último perigo: a substituição da democracia por uma alternativa sintética provavelmente levará apenas a uma desigualdade e concentração de poder ainda maiores, criando um ciclo vicioso no qual o declínio democrático e a desigualdade se reforçam mutuamente. Na pior das hipóteses, seria necessário um colapso econômico ou um conflito civil para romper esse ciclo.

O terceiro desafio que prevemos é que o panorama da informação — já instável devido ao surgimento das redes sociais e às mudanças em resposta à IA generativa — possa se transformar de maneiras que tornem a democracia menos sustentável. Essa previsão se baseia em duas tendências: primeiro, fontes importantes de informação — de jornais de referência a veículos digitais — já estão enfrentando dificuldades econômicas, pois os LLM desviam o tráfego da web e diminuem uma fonte de receita que as redes sociais vêm sugando há anos. Segundo, à medida que os LLM se tornam um ponto de partida mais comum para os consumidores que buscam informações, um pequeno número de atores do setor de tecnologia ganhará mais controle sobre o debate público e a opinião pública.

A atividade jornalística humana oferece benefícios que a IA não pode substituir. Atualmente, nas redações, a IA é frequentemente usada para produzir conteúdo de baixa qualidade (“churnalismo”), que consiste em declarações oficiais levemente editadas ou não editadas, boletins policiais, resultados esportivos ou comunicados de agências de relações públicas. Esses processos são determinados por códigos de programação, rotulagem de dados e conteúdo gerado por pessoas. A IA e os algoritmos podem ser mais falhos e menos baseados em fontes confiáveis e devidamente citadas do que o conteúdo supervisionado por editores humanos que seguem padrões éticos claros.

Os resumos de notícias gerados por IA também podem diminuir a demanda dos consumidores por assinaturas de jornais e sites, reduzindo ainda mais a receita. À medida que fontes de informação confiáveis e verificadas minguam — treinadas por LLM, mesmo que estas diminuam o tráfego —, os consumidores de notícias terão menos fontes de informação sobre eventos recentes e, especialmente, locais. A internet já está inundada de conteúdo inútil, e a IA ameaça piorar ainda mais a situação.

Ironicamente, o empobrecimento dos editores da web também ameaça o desenvolvimento futuro da IA, resultando em um beco sem saída na superestrada da informação. Os LLM atuais foram treinados com trilhões de palavras e, para que os avanços mantenham o ritmo de melhoria estabelecido até agora, a IA precisará de uma quantidade exponencialmente maior de dados. De onde virão esses vastos oceanos de dados?

Alguns observadores sugeriram que a próxima geração de LLM poderia ser treinada com dados sintéticos — em resumo, as máquinas produziriam conteúdo que treinaria outras máquinas. Um novo artigo de pesquisadores da Apple sugere que esses modelos pensam demais em problemas simples e desistem rapidamente dos complexos.

Se os LLM se tornarem uma fonte importante ou mesmo primária de notícias e informações, eles poderão aprofundar a já preocupante capacidade das empresas de tecnologia de atuar como guardiãs da informação e moldadoras de opinião. Atualmente, Google, Facebook, TikTok e X decidem quais conteúdos criados por usuários bilhões de pessoas veem. No entanto, pelo menos esses serviços transmitem (na maioria das vezes) conteúdo real criado por seres humanos reais. Se os chatbots de IA começarem a fornecer grande parte da mídia que as pessoas usam, a influência dos executivos de tecnologia no debate público se tornará ainda maior e menos transparente.

Não se pode confiar a alguns magnatas, com seus próprios interesses econômicos e políticos, maior poder sobre o fluxo de informações. Na China, perigos semelhantes são evidentes na recusa do modelo chinês de IA DeepSeek em responder a perguntas sobre o massacre da Praça da Paz Celestial em 1989. Quanto aos fornecedores de IA sem fortes motivações ideológicas, eles estão muito expostos a pressões políticas para que se lhes confie um poder excessivo sobre o fluxo de informações.

Os formuladores de políticas podem evitar qualquer um ou todos esses resultados. Uma adoção mais lenta e ponderada poderia colher os ganhos potenciais de eficiência da IA sem incorrer em suas consequências prejudiciais. O desafio não é a falta de ideias ou instrumentos políticos. Na verdade, as democracias atuais sofrem com a falta de vontade política.

Os formuladores de políticas estão encantados com as promessas econômicas da IA ou temem a ameaça de governos rivais vencerem a “corrida da IA”. Alertas sobre resultados econômicos desiguais e riscos climáticos crescentes (os centros de dados de IA requerem quantidades impressionantes de energia) não conseguiram diminuir a influência que os magnatas da tecnologia têm sobre os formuladores de políticas. Defensores da democracia partem de uma posição de profunda desvantagem em relação aos magnatas da IA, que detêm tanto o controle da economia quanto uma influência formidável sobre a opinião da elite.

Dois pontos devem ser enfatizados: primeiro, a IA não é uma força que avança independentemente da vontade e da razão humanas, mas uma tecnologia cuja implementação cabe às pessoas decidir. Segundo, os processos de investigação científica, regulamentação governamental e debate público podem levar tempo, mas isso não os torna inferiores ao governo por (aqueles que possuem as) máquinas. Substituir instituições antigas, como universidades, legislaturas e tribunais, por soluções tecnológicas rápidas concentrará o poder e a informação de forma tão intensa que as condições que tornam a democracia possível serão destruídas.

As ciências sociais e humanas podem fornecer contrapesos importantes às perspectivas dos profissionais do setor. O discurso em torno da IA é mais uma arena em que o conhecimento técnico se tornou supervalorizado em comparação com outras formas de especialização. Infelizmente, os ataques políticos às universidades e outras fontes de conhecimento hoje estão corroendo a voz coletiva dos profissionais preocupados com a IA e o futuro da democracia. Eles devem se manifestar agora, enquanto ainda podem.

***

O artigo completo será publicado na edição de abril do Journal of Democracy em Português, da Plataforma Democrática (Fundação FHC e Centro Edelstein de Pesquisas Sociais). As demais edições estão disponíveis gratuitamente para download.

A primeira Pesquisa Meio/Ideia, feita pelo Meio em parceria com o Instituto Ideia, já está disponível. Um levantamento mensal para acompanhar 2026 com dados, leitura e contexto — pensando o processo político enquanto ele acontece. Como assinante Premium, você recebe a pesquisa em primeira mão e tem acesso ao PDF completo, feito para leitura no celular e para circular. Compartilhar esses dados nos seus grupos é também uma forma de qualificar o debate. No site do Meio, vale ler ainda a análise de Maurício Moura e Cila Schulman sobre o que a pesquisa já indica neste início de corrida presidencial.