A Revolução da Inteligência Artificial nas Autocracias: Controle e Desafios
Duas semanas após a invasão da Ucrânia em março de 2022, um ato corajoso e inédito ocorreu na televisão russa. Marina Ovsyannikova, editora do Canal Um, interrompeu uma transmissão ao vivo com uma placa que clamava: “Pare a guerra. Não acredite na propaganda. Eles estão mentindo para você!” Sua voz ecoou como um grito de resistência até que foi rapidamente retirada do estúdio. Desde então, o cenário de manifestação nas mídias russas tornou-se sombrio, notadamente devido a um aumento nas medidas de segurança e a um clima de medo disseminado.
Contudo, em outubro de 2024, Margarita Simonyan, uma figura proeminente entre os propagandistas do regime, trouxe uma nova perspectiva sobre a comunicação na Rússia. Em entrevista, ela revelou que muitos âncoras da rede RT não são humanos, mas criações de inteligência artificial. “Esse rosto não existe. Geramos a voz e tudo mais”, esclareceu. Para Simonyan, essa inovação traz vantagens óbvias: as “âncoras virtuais” não exigem salários, não podem ser capturadas por autoridades e, portanto, não representam uma ameaça ao governo.
Essa transformação na mídia é mais do que um detalhe curioso; revela uma nova era em que líderes autocráticos como os da Rússia e da China veem a inteligência artificial (IA) não apenas como uma ferramenta, mas uma solução para um dilema antigo: como governar sem depender de humanos que podem se voltar contra o líder.
O Dilema da Dependência Humana
Autocratas, por mais poderosos que sejam, sempre precisaram de uma equipe para garantir o cumprimento das suas ordens — desde censores a agentes de segurança. No entanto, esses subordinados, por sua própria natureza, são uma fonte de incerteza. Eles podem vazar informações, conspirar ou agir em benefício próprio. Assim, os autocratas enfrentam um dilema: como confiar em pessoas sem dar a elas poder demais?
Historicamente, muitos líderes resolveram esse dilema selecionando indivíduos medíocres, cujas fraquezas os tornavam leais. Mas essa estratégia também traz riscos, especialmente em tempos de crise. É aqui que a IA aparece como uma solução sedutora, oferecendo aos governantes duas promessas principais:
-
Monitoramento e Disciplina em Tempo Real: Sistemas de IA podem rastrear automaticamente mudanças no comportamento de funcionários, eliminando a necessidade de informantes que poderiam falhar.
-
Eliminação de Subordinados: Ao automatizar tarefas antes executadas por humanos, os líderes podem substituir indivíduos não confiáveis por algoritmos que não podem ser corrompidos.
O Ministro do Desenvolvimento Digital da Rússia, Maksut Shadaev, declarou em 2025 que a IA poderia “definitivamente substituir metade dos funcionários”, talvez até mais. É tentador acreditar que a automação pode levar a um governo mais eficiente e controlado.
A Realidade da IA: Limitações e Dependências
Entretanto, essa promessa de um Estado autônomo movido por IA é ilusória. Os sistemas inteligentes precisam ser projetados e mantidos por especialistas em tecnologia, o que os políticos geralmente não conseguem avaliar. Portanto, um governante que depende da IA para reduzir sua dependência de humanos pode acabar confiando mais do que nunca nos poucos técnicos que operam o sistema. Essa nova “Guarda Pretoriana digital” pode, por sua vez, apresentar as mesmas vulnerabilidades da antiga.
Exemplos Práticos
A China é um exemplo claro dessa transformação. Cidades como Pequim e Xangai implementaram sistemas de monitoramento que utilizam IA para avaliar o desempenho de funcionários públicos, centralizando a supervisão antes feita de forma mais dispersa. Além disso, a implementação de um “sistema Zero Trust AI” nos últimos anos permitiu cruzar dados de diferentes fontes para detectar irregularidades por parte de autoridades locais. Este mecanismo, embora eficiente, teve suas falhas, levando à detecção de quase 9.000 funcionários em situações irregulares.
A Rússia, por sua vez, adoptou tecnologias semelhantes, utilizando reconhecimento facial e sistemas de censura automatizados que superaram as capacidades humanas. O governo lançou ferramentas capazes de analisar dias de imagens e informações em escala que antes seriam impossíveis, como a criação de perfis falsos para disseminar narrativas favoráveis ao Kremlin.
O Futuro dos Autocratas
À medida que os governos autocráticos se voltam mais para IA, eles conseguem não apenas reduzir a quantidade de burocratas, mas também aprimorar a forma como supervisionam seus funcionários. A tecnologia permite um controle mais abrangente, destacando comportamentos indesejados e mantendo um olhar constante sobre a lealdade dos empregados.
Entretanto, a promessa de um Estado totalmente autônomo esbarra nas necessidades técnicas dos sistemas. Mesmo os apresentadores digitais requerem o apoio de humanos para operar e atualizar. São os engenheiros e cientistas de dados que realmente determinam o que é censurado e como as informações são apresentadas ao público.
Dependência Técnica: Um Novo Tipo de Poder
A dependência de um pequeno grupo de especialistas em tecnologia não é apenas uma questão de controle, mas de vulnerabilidade. Esses profissionais têm o poder de manipular dados e informações que os líderes recebem. Eles podem decidir que informações são cruciais e como isso é apresentado.
Os analogias com a Guarda Pretoriana da Roma antiga são inevitáveis. Esse grupo, historicamente responsável por proteger os imperadores, eventualmente começou a se considerar indispensável, mercadejando sua influência e poder. No caso moderno, um pequeno grupo de engenheiros pode influenciar o destino de um regime (ou de um líder) ao manipular dados e oferecer suporte técnico.
Em 2023, quando a coluna da empresa militar Wagner, liderada por Yevgeny Prigozhin, avançou em direção a Moscou, Putin ficou à mercê de seus serviços de segurança para saber o que estava acontecendo. Da mesma forma, futuros líderes, equipados com tecnologia, podem descobrir que suas informações vêm de fontes que podem ser manipuladas.
Um Equilíbrio Delicado
Embora a IA ofereça soluções para segurança e controle, ela também apresenta novos desafios. A dependência de poucos especialistas cria vulnerabilidades que podem ser exploradas. Se esses técnicos decidirem agir em benefício próprio, ou se a tecnologia falhar, a imprevisibilidade pode fazer com que os autocratas operem no escuro.
Os líderes devem considerar que, assim como os pretorianos de outrora, esses novos guardiões da tecnologia podem descobrir o valor de sua posição. Quando os engenheiros da tecnologia do passado mantiveram o fluxo de informações durante o golpe soviético em 1991, seu impacto foi profundo. Hoje, questões sobre lealdade e controle permanecem pertinentes.
O Caminho à Frente
A IA não irá eliminar completamente as divisões dentro dos regimes autocráticos, mas certamente transformará o papel dos governantes e sua capacidade de manter o controle. Os benefícios de uma vigilância mais eficaz e de uma censura mais inteligente podem ser sedutores, mas a complexidade do novo sistema digital traz à tona a fragilidade desse poder.
À medida que as tecnologias evoluem, o desafio para os autocratas será equilibrar seu controle com a dependência de um número reduzido de especialistas. Como o futuro das autocracias será moldado por essas novas dinâmicas de poder? Este é um tema que merece nossa atenção, pois as implicações podem ser significativas para a estrutura da governança no mundo todo. Afinal, quanto mais os regimes dependem da IA, mais cientes devem estar de suas próprias vulnerabilidades.
