A Era da Inteligência Artificial e Seus Desafios Financeiros

Imagine que você decide confiar uma quantia significativa de US$ 10.000 a um agente de inteligência artificial (IA) para converter em dólares canadenses ao longo do dia. O que você faria se esse agente cometesse erros e sua quantia evaporasse em decorrência de uma aposta mal feita? Neste novo panorama financeiro, quem é o responsável? Quem repara esse prejuízo?

Atualmente, não há quem assuma essa responsabilidade, e esse é um dos grandes desafios da era da IA agentiva.

A Vulnerabilidade da IA Agentiva

Recentemente, pesquisadores de instituições como Microsoft Research, Universidade Columbia, Google DeepMind, e outras, analisaram essa fragilidade e propuseram um novo padrão, chamado Agentic Risk Standard (ARS). Essa estrutura foi criada para dar aos agentes de IA a mesma proteção que atualmente existe nas transações financeiras tradicionais, como custódia e seguros. O ARS é de código aberto e pode ser encontrado no GitHub através da T54 Labs.

Chandler Fang, fundador da T54, afirmou que estamos diante de uma “economia agentiva”, que vai além do simples uso de IA para realizar tarefas financeiras. O conceito de transações agentivas se divide em duas categorias principais:

1. Transações com humano no circuito: Essas envolvem a supervisão de um ser humano.
2. Transações autônomas de IA: Aqui, a IA opera de forma independente, o que potencializa os riscos associados a falhas.

O Problema da Falta de Responsabilidade

Um dos maiores problemas é que o ecossistema financeiro atual caminha para uma transferência total da responsabilidade para os humanos. Isso gera uma limitação no que as pessoas estão dispostas a delegar para a IA, restringindo sua adoção a tarefas de baixo risco.

“O que estamos enfrentando é uma lacuna de garantia”, explica a equipe. Essa lacuna se refere à diferença entre a confiabilidade que as técnicas de IA oferecem e as garantias exigidas pelos usuários ao delegar tarefas arriscadas.

Jason Wild, especialista em liderança, destacou como as ferramentas de IA operam com probabilidades, o que gera confusão. Sem um mecanismo claro que limite as perdas, as pessoas tendem a restringir seu uso apenas a tarefas menos arriscadas, o que inviabiliza a inovação nessa área.

O Desafio Estocástico da IA

Os modelos de IA são, por natureza, probabilísticos. Embora melhorias de segurança sejam sempre benéficas, não há como garantir que não ocorrerão falhas. Mesmo um agente de IA altamente sofisticado pode cometer erros inesperados, ou “alucinar”, especialmente quando conectado a contas financeiras.

Quando um agente de IA realiza transações financeiras e comete um erro, o resultado pode ser uma perda concreta e imediata de capital. A pesquisadora sênior da Microsoft, Wenyue Hua, afirma que “probabilidade não é garantia”. O ARS, então, busca formalizar o que acontece financeiramente quando um agente falha. O enfoque é criar um protocolo de liquidação onde a proteção do usuário é garantida de forma determinada.

A Estrutura do Agentic Risk Standard

A proposta do ARS se baseia em séculos de conhecimento em engenharia financeira. Ele introduz uma estrutura de liquidação em camadas que inclui:

• Contas de custódia: Mantêm taxas de serviço que são liberadas somente após a verificação da entrega da tarefa.
• Exigências de colateral: Provedores de serviços de IA devem depositar colaterais antes de acessar fundos dos usuários.
• Subscrição opcional: Um terceiro assumi o risco, precifica o perigo de uma falha de IA e garante o reembolso ao usuário caso ocorra um erro.

Essa abordagem se assemelha aos mercados de derivativos, onde câmaras de compensação protegem as partes envolvidas contra inadimplementos, evitando efeitos em cascata.

O Momento é Agora

Os reguladores financeiros estão começando a prestar atenção. Em um relatório recente, a Finra, uma autoridade autorreguladora do mercado financeiro dos EUA, incluiu uma seção sobre IA generativa, alertando as corretoras para desenvolverem procedimentos que respeitem os limites de seus agentes de IA.

O ARS não é um mero conjunto de regras, mas um protocolo que organiza como os fundos são bloqueados, como as reivindicações são tratadas e como os reembolsos são acionados em caso de falhas. É uma camada adicional dentro de uma estrutura maior de confiança.

Trabalhando Para o Futuro

Os pesquisadores reconhecem que essa estrutura é apenas parte de uma solução mais ampla, e o verdadeiro desafio será desenvolver modelos precisos para a precificação do risco em comportamentos agentivos.

“Estamos dando os primeiros passos para estabelecer uma estrutura que capture todo o processo associado às transações autônomas de agentes”, conclui Fang. “No futuro, precisaremos de modelos específicos para entender como avaliar riscos em diferentes cenários de uso.”

O Futuro da IA e da Responsabilidade Financeira

À medida que a tecnologia avança e se torna parte integrante das nossas vidas financeiras, é crucial que desenvolvamos mecanismos robustos que garantam a segurança dos usuários. A proposta do ARS é um passo significativo nessa direção, mas a jornada está apenas começando.

Como você vê o futuro da inteligência artificial nas finanças? Que medidas você acredita que deveriam ser implementadas para proteger os usuários? Compartilhe suas opiniões e reflexões sobre esse tema que, sem dúvida, está moldando nossa sociedade e economia.

As questões que cerca a responsabilidade na era da IA são complexas e exigem um profundo diálogo entre todas as partes envolvidas. Encorajo todos a se engajar nesse debate crucial e a explorar como podemos criar um futuro mais seguro e responsável para todos nós.