Apenas 13% das organizações têm estruturas de governança consideradas necessárias para adotar inteligência artificial (IA) de forma segura e com objetivos definidos, segundo uma pesquisa recente com 2.100 executivos. O levantamento também aponta que 29% contam com um plano estratégico concreto para a tecnologia, enquanto 32% não têm estruturas formais para orientar seu uso.
Os dados mostram que a expansão da IA nos ambientes de trabalho ocorre sem regras e responsabilidades consolidadas em muitas empresas. Entre as estruturas ausentes estão políticas iniciais para o uso da tecnologia, diretrizes de ética e órgãos de supervisão. Sem esses mecanismos, decisões sobre ferramentas, implementação, treinamento e segurança podem ficar sem um responsável claramente definido.
Decisões concentradas na liderança
A pesquisa indica que 59% das organizações deixam as decisões sobre IA a cargo da liderança executiva. Em 31% dos casos, essa responsabilidade é atribuída a líderes de tecnologia. Os percentuais não esclarecem se as funções podem se sobrepor, mas apontam que a condução tende a ficar com áreas de comando ou de tecnologia.
O relatório, assinado por Tayloe Radey, diretora de pesquisa da SmarterX, afirma que alguém precisa definir quais ferramentas a empresa usará, como serão implementadas, quem receberá treinamento e quais medidas de segurança serão adotadas. Sem essa liderança, diz o documento, até iniciativas bem-intencionadas podem ficar paradas ou apresentar problemas.
Para Maribel Lopez, da Lopez Research, a capacidade de atribuir responsabilidades é uma fragilidade nas organizações que incorporam IA em larga escala. Segundo ela, líderes empresariais precisam ter, no mínimo, poder de veto sobre decisões tomadas por máquinas, mesmo que não participem diretamente das operações de inteligência artificial.
Lopez abordou o tema em uma transmissão online apresentada por Jo Peterson, CIO da Clarify360. Ela afirmou que as práticas de governança são escassas e, quando existem, podem estar distribuídas de forma inconsistente entre departamentos como jurídico e recursos humanos. A falta de profissionais capacitados para compreender e acompanhar a tecnologia também dificulta a supervisão.
Regras precisam acompanhar a tecnologia
A definição de políticas, na avaliação de Lopez, deve envolver diferentes grupos da organização, mas precisa ter uma pessoa ou equipe responsável por conduzir o processo e questionar o comportamento dos agentes de IA. A especialista afirmou que também é necessário avaliar a funcionalidade desses sistemas, em vez de deixar sua operação sem acompanhamento definido.
O ritmo de evolução da tecnologia torna essa tarefa contínua. Lopez descreveu um ambiente em que mudanças ocorrem a cada um ou dois meses e fornecedores de modelos afirmam que seus sistemas romperam regras. Por isso, ela disse que a governança não pode ser tratada como uma configuração feita uma única vez e depois esquecida.
O cenário tem implicações para empresas que adotam ferramentas capazes de executar tarefas ou transações. A expansão da IA pode tornar inviável revisar manualmente cada ação de um agente, segundo Lopez. Por isso, os mecanismos de controle e as responsabilidades precisam ser planejados desde o início da implementação, e não apenas depois que a tecnologia já estiver em uso.
Como uma alternativa a considerar, Lopez sugeriu analisar aplicativos de software como serviço (SaaS), modalidade em que o acesso ao programa é oferecido pela internet, que já tenham recursos de identidade, segurança e permissões. Na visão dela, esses controles podem ser estendidos aos agentes de IA. A recomendação reforça que a governança depende tanto de regras internas quanto das ferramentas e dos mecanismos disponíveis para aplicá-las.
Supervisão além da revisão manual
A necessidade de controle não significa, necessariamente, que uma pessoa deva revisar cada transação realizada por um agente. Lopez afirmou que essa revisão individual pode não ser compatível com a velocidade de expansão da tecnologia. Em vez disso, defendeu que as empresas planejem cuidadosamente, desde o começo, como os sistemas serão acompanhados e quais responsabilidades caberão às equipes e aos líderes.
Os números da pesquisa apontam a distância entre a adoção da IA e a criação de estruturas para orientá-la: menos de um terço das organizações têm um plano estratégico concreto, e quase um terço não possui mecanismos formais definidos. Para as empresas, a questão apresentada pelos especialistas é estabelecer quem decide, quem supervisiona e como as regras serão atualizadas à medida que a tecnologia mudar.
