Inteligência Artificial e o Controle dos Autocratas: Um Novo Paradigma?
Nos primeiros dias da invasão russa à Ucrânia, em março de 2022, Marina Ovsyannikova, editora do Canal Um da TV russa, fez história ao protestar ao vivo no set de notícias. Com uma placa improvisada em mãos, ela clamou: “Pare a guerra. Não acredite na propaganda. Eles estão mentindo para você!” Essa cena emblemática chamou a atenção do mundo, mas, desde então, a voz da dissidência na TV russa tornou-se praticamente inexistente. O que mudou? Em grande parte, o aumento da repressão e a criação de um clima de medo, que silenciaram os que se opõem ao regime de Vladimir Putin.
Mas em outubro de 2024, Margarita Simonyan, uma das principais propagandistas do Kremlin, revelou uma nova e intrigante abordagem: muitas das âncoras que ela empregava não eram reais. “Esse rosto não existe”, afirmou, referindo-se a âncoras geradas por inteligência artificial. Segundo ela, essas criações digitais não exigem salários, seguros ou até mesmo a preocupação com prisões e vigilância. Essa novidade, embora fascinante, apresenta uma série de complexidades sobre o controle autocrático em um mundo cada vez mais digital.
A Armadilha do Controle e as Promessas da IA
A ascensão da inteligência artificial (IA) oferece aos regimes autocráticos uma solução tentadora para um dilema que assola governantes de gerações: como manter o controle sem se tornar vulnerável aos seus próprios subordinados? Tradicionalmente, ditadores dependem de uma hierarquia de pessoas — censores, propagandistas, policiais — para fazer valer suas ordens. No entanto, cada um desses agentes humanos traz consigo o risco de deslealdade, fraudes e até conspirações.
O que a IA promete é revolucionário: a possibilidade de monitorar e disciplinar seguidores em tempo real e a automação de tarefas, eliminando a necessidade de intermediários não confiáveis. O Ministro do Desenvolvimento Digital da Rússia, Maksut Shadaev, deixou isso claro em um fórum, afirmando que a IA poderia substituir “metade dos funcionários” do governo.
- Monitoramento Aprimorado: A IA permite a vigilância constante sobre as ações dos subordinados, deixando-os menos propensos a agir de maneira autônoma.
- Eliminação de Intermediários: A automação pode reduzir o número de humanos envolvidos em decisões críticas, substituindo-os por algoritmos que não podem ser corrompidos.
Contudo, essa visão de um estado eficiente e autônomo é, na verdade, uma ilusão. Sistemas de IA dependem fortemente de engenheiros e cientistas de dados, cuja expertise é muitas vezes incompreensível para os líderes políticos. Isso significa que, ao buscar menos dependência de humanos, os autocratas podem acabar se tornando mais vulneráveis — agora dependentes de um pequeno grupo que mantém a IA operando.
O Cenário da Vigilância: Exemplos pelo Mundo
A China já caminha nessa direção, investindo em sistemas de IA que visam monitorar e substituir seus subordinados. Em cidades como Pequim e Xangai, a tecnologia tem sido utilizada para avaliar o desempenho de funcionários com uma precisão impressionante. Com um “sistema Zero Trust AI”, eles cruzam dados de mais de 150 bases de dados governamentais, conseguindo detectar casos de nepotismo e desvio de conduta local.
Do outro lado, a Rússia não ficou atrás. O sistema de reconhecimento facial de Moscovo, empregado em mais de 200.000 câmeras, já foi usado para identificar e prender manifestantes durante protestos. Além disso, a criação do Oculus, uma ferramenta de IA que verifica diariamente centenas de milhares de imagens em busca de conteúdo proibido, exemplifica como a tecnologia está sendo usada para reforçar a censura em tempo real.
A dependência crescente da IA pode criar um novo tipo de vulnerabilidade.
Outras nações autocráticas também estão seguindo essas trilhas. Os Emirados Árabes Unidos, por exemplo, lançaram um Gabinete de Inteligência Regulativa que utiliza IA para elaborar e modificar leis federais com maior agilidade, uma tarefa que antes era feita manualmente.
Um Poder Novo: As Novas Elites da Tecnologia
À medida que a tecnologia avança, a importância dos trabalhadores de TI para as autocracias se torna evidente. Após a invasão da Ucrânia, muitos especialistas em TI começaram a deixar a Rússia. Em resposta, o Kremlin não adotou um tom ameaçador, mas ofereceu incentivos como isenções de impostos e benefícios habitacionais para manter esses talentos. Por quê? Porque um sistema de IA, por mais eficiente que seja, ainda requer humanos para programar, monitorar e ajustar.
- Dependência dos Especialistas: A inteligência artificial requer uma manutenção constante de especialistas que compreende e monitora os sistemas.
- Possibilidade de Subversão: Esses mesmos especialistas podem, em momentos críticos, moldar as informações que chegam ao líder, criando uma nova camada de complexidade no cenário de poder.
Os engenheiros que mantêm os sistemas de vigilância têm o poder de decidir que informações são relevantes e como devem ser apresentadas, criando um novo tipo de elite que pode, acidentalmente ou intencionalmente, minar a autoridade do próprio regime.
A Fragilidade do Controle Autocrático
Essa nova “Guarda Pretoriana” digital é, em muitos aspectos, mais vulnerável do que suas predecessoras, simplesmente porque é menor. Onde imperadores romanos contavam com legiões, os autocratas modernos dependem de um número reduzido de especialistas. Isso não apenas os torna mais difíceis de vigiar, mas também concentra o poder em um pequeno grupo que pode, potencialmente, desestabilizar todo o regime.
Um exemplo histórico desse fenômeno ocorreu em 1991, quando programadores russos conseguiram usar suas habilidades para manter informações fluindo durante a tentativa de golpe contra Mikhail Gorbachev, ajudando a reforçar o poder de Boris Yeltsin. A capacidade de moldar a narrativa e as informações pode, em momentos de crise, ser a diferença entre a estabilidade e a queda de um governo.
Desafios e Oportunidades Futuras
Embora a IA possa, em teoria, permitir que os autocratas mantenham um controle mais firme, ela não eliminará completamente a necessidade de agentes humanos. A sensação de vigilância e a ação em campo ainda exigem a presença de indivíduos dispostos a agir em nome do Estado. Assim, mesmo que a tecnologia possa facilitar a governança, o desafio de encontrar um equilíbrio de poder, confiança e controle permanece.
Enquanto os autocratas reconhecem as vantagens da IA, eles devem estar cientes de que essa dependência pode representar uma ameaça a longo prazo. À medida que a tecnologia avança, a integridade e a lealdade dos que operam sistemas de IA serão testadas. Contudo, a história nos ensina que, mais cedo ou mais tarde, aqueles que se tornam indispensáveis podem buscar seu próprio caminho. Afinal, a “Guarda Pretoriana” antiga não precisou de armas para derrubar um imperador, apenas se retirou em favor de um rival. E, nos tempos modernos, esse cenário pode muito bem se repetir, mas em um contexto digital.
Os leitores são convidados a refletir sobre as implicações da crescente dependência da tecnologia em regimes autocráticos. De que forma a IA pode alterar o equilíbrio de poder e vencer a resistência que muitas vezes se manifesta em formas inesperadas? Compartilhe suas ideias e comentários!
