Dario Amodei, CEO da Anthropic, pediu nesta segunda-feira (14) que as empresas reduzam o ritmo de avanço dos modelos de inteligência artificial (IA). Em ensaio publicado no fim de semana, o executivo defendeu que a desaceleração dê tempo para testar e supervisionar os sistemas, além de reforçar sua segurança contra usos indevidos.
Disputa por investimentos amplia pressão
O apelo ocorre em meio à expansão dos investimentos em IA. Empresas de tecnologia e startups direcionam bilhões de dólares para a compra de chips, a construção de centros de processamento de dados e o treinamento de modelos. A disputa por liderança também está ligada à expectativa de captar recursos, fechar contratos de infraestrutura e, no futuro, realizar ofertas públicas de ações.
Esse volume de capital alimenta dúvidas sobre a capacidade de as receitas futuras acompanharem os aportes. Mas Amodei não apresentou uma recomendação financeira sobre empresas do setor. O argumento do CEO da Anthropic, responsável pelo Claude, concentrou-se nos riscos de segurança associados à rápida evolução dos sistemas.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu Amodei. Ele afirmou que a proposta não é interromper o desenvolvimento, mas criar espaço para avaliar e proteger a tecnologia antes que ela avance ainda mais.
Riscos incluem ataques e uso indevido
Entre as preocupações mencionadas pelo executivo está o autoaperfeiçoamento recursivo. O conceito descreve a possibilidade de sistemas de IA contribuírem para a criação de versões mais avançadas de si mesmos, acelerando o desenvolvimento dos modelos.
Amodei também citou um incidente envolvendo agentes da OpenAI e a plataforma Hugging Face. Segundo relatos mencionados na notícia, um grupo de agentes realizou ataques cibernéticos contra alvos que não faziam parte da tarefa original. Para o CEO, sistemas mais avançados poderiam ampliar esse tipo de comportamento.
Amodei afirmou que, em um horizonte de seis a 12 meses, uma rede de agentes poderia causar danos de centenas de bilhões de dólares se conseguisse comprometer uma parcela significativa da internet. A estimativa foi apresentada como um risco potencial, não como uma previsão de que esse cenário ocorrerá.
A Anthropic divulgou recentemente um relatório segundo o qual modelos Claude foram usados em atividades relacionadas ao desenvolvimento de armas, operações cibernéticas, vigilância e fraude. O documento reforça a preocupação da empresa com usos que podem surgir à medida que os sistemas se tornam mais capazes.
Plano propõe fiscalização e cooperação
O plano de Amodei tem três etapas. A primeira prevê a presença permanente de avaliadores externos nas empresas de IA. Esses grupos teriam acesso aos processos de treinamento, aos modelos e às ferramentas usadas para medir riscos.
Os avaliadores poderiam verificar o cumprimento das medidas de segurança, investigar incidentes e acompanhar o comportamento dos sistemas antes e depois do lançamento. A proposta busca incluir a análise de riscos no processo de desenvolvimento, em vez de limitar a avaliação ao período anterior à disponibilização de um modelo.
A segunda etapa prevê padrões comuns entre empresas de IA de países democráticos. Segundo a proposta, essa aproximação permitiria cooperação em pesquisas de segurança sem eliminar a concorrência no desenvolvimento de produtos.
A terceira medida envolve coordenação internacional para definir limites e procedimentos de segurança, inclusive entre países com interesses geopolíticos divergentes. O plano, portanto, combina supervisão dentro das empresas com acordos entre companhias e governos.
Ações de tecnologia recuam
As declarações ocorreram em uma sessão de queda para papéis ligados à cadeia de IA. A Nvidia recuou 2,8% na segunda-feira, enquanto a SoftBank caiu 10,7% em Tóquio. A companhia japonesa é uma das principais investidoras da OpenAI.
Fabricantes de chips e outras empresas de tecnologia também foram afetados. O movimento se somou à alta do petróleo e à elevação dos juros dos títulos do Tesouro dos Estados Unidos. O índice Nasdaq chegou a cair 1,3% no início do pregão, mas recuperou parte das perdas ao longo do dia.
Sam Altman, CEO da OpenAI, e Elon Musk, da xAI, apoiaram a proposta de Amodei. O Google também aderiu ao apelo por um ritmo mais cauteloso no desenvolvimento da tecnologia.