Gary Marcus, um renomado especialista em inteligência artificial, trouxe à tona discussões pertinentes em seu recente livro sobre os significativos desafios e perigos que a IA nos apresenta. Ele destaca que, a longo prazo, ainda não temos uma maneira garantida de criar sistemas de IA que sejam absolutamente seguros e confiáveis. “Isso é preocupante”, afirma. Além disso, antecipa que, em um futuro não muito distante, a inteligência artificial poderá ocupar a maior parte dos postos de trabalho, levando a uma concentração de riqueza nas mãos de um pequeno grupo privilegiado. Para lidar com essa possível situação, Marcus sugere a adoção de uma renda básica universal como uma solução viável.
Além de suas preocupações, Marcus defende a necessidade urgente da criação de uma agência reguladora para supervisionar a IA. “Independentemente da nossa opinião sobre o assunto, a IA está mudando o mundo. Precisamos de uma entidade que atue de forma proativa, identificando oportunidades e minimizando riscos associados a essas novas tecnologias. Uma de suas funções poderia ser a pré-avaliação das inovações no setor”, destaca.
Perspectivas do Futuro
Marcus também ressalta a importância de se opor ativamente à entrega do controle da inteligência artificial a grandes corporações de tecnologia. “É crucial que façamos ouvir nossa voz e que tomemos ações para mudar essa narrativa. O momento para boicotar a IA generativa pode estar mais próximo do que pensamos”, afirma. Ele acredita que, em um cenário onde a IA se torna cada vez mais predominante, é preciso ter cuidados redobrados com as suas implicações éticas e sociais.
Os 12 Perigos Imediatos da IA
Desinformação Política em Larga Escala
Marcus compara os sistemas de IA generativa a “metralhadoras de desinformação”, pois tornam a criação de conteúdo falso mais rápida e eficiente. Um exemplo notório foi a interferência russa nas eleições de 2016, onde cerca de US$ 1,25 milhão foram gastos mensalmente em operações que espalhavam desinformação nos Estados Unidos.
Manipulação de Mercados
Além de no âmbito político, a IA também pode ser empregada para manipulações financeiras. “Alertei o Congresso sobre essa possibilidade em 18 de maio de 2023. Quatro dias depois, uma imagem falsa do Pentágono pegou a internet de surpresa, causando uma queda temporária nas ações”, diz.
Desinformação Acidental
As IA podem, inadvertidamente, criar e disseminar informações erradas. Um estudo realizado na Universidade de Stanford revelou que as respostas de modelos de linguagem para questões médicas são frequentemente inconsistentes e incorretas.
Difamação
Casos de desinformação que prejudicam a reputação de indivíduos são alarmantes. Um acontecimento sério envolveu o ChatGPT citando falsamente um professor de direito em vínculos a um caso de assédio sexual com base em um artigo que nunca existiu.
Deepfakes Não Consensuais
A tecnologia de deepfake avança rapidamente. Exemplo recente: estudantes começaram a usar IA para criar imagens sexualmente explícitas e não autorizadas de colegas, transformando essa prática em uma séria questão ética.
Facilitação de Crimes
Criminosos já estão utilizando IA para realizar fraudes, como clonagem de voz para extorquir dinheiro. Um caso específico envolveu a simulação da voz de uma criança que ligou para os pais, simulando um sequestro e exigindo um resgate em bitcoins.
Cibersegurança
Embora possa contribuir para a descoberta de falhas em sistemas, a IA também apresenta riscos. Ela pode escanear rapidamente milhões de linhas de código e identificar vulnerabilidades, uma tarefa que antes demandava especialistas.
Discriminação e Preconceito
Os vieses em sistemas de IA são problemas persistentes. Um estudo de 2013 mostrou que pesquisas com nomes afro-americanos nos anúncios do Google geravam resultados discriminatórios.
Privacidade e Vazamento de Dados
Marcus menciona o livro *A Era do Capitalismo da Vigilância*, onde se discute o esculacho da experiência humana por empresas em troca de dados comportamentais que são vendidos a quem pagar mais.
Uso Não Autorizado de Propriedade Intelectual
A utilização de conteúdos protegidos por direitos autorais sem consentimento é uma preocupação real. Marcus se refere a isso como o “Grande Roubo de Dados”, que transfere recursos de muitos para algumas grandes empresas.
Dependência Excessiva de Sistemas Não Confiáveis
Confiar cegamente na IA em situações críticas é arriscado. Imagina um carro autônomo que depende de uma IA para determinar a localização de outro veículo — ou pior, uma arma automatizada que poderia criar inimigos fictícios e causar um desastre.
Impactos Ambientais
O treinamento de modelos de IA consome uma quantidade enorme de energia. A criação de uma única imagem pode demandar o mesmo que carregar um celular. Com a crescente utilização dessas tecnologias, o impacto ambiental poderá ser devastador.
Convido você, leitor, a refletir sobre essas questões. Compartilhe sua opinião sobre a IA e os desafios que ela nos apresenta. Como você vê o papel da sociedade nesse processo? É essencial que todos tenhamos voz e participemos ativamente dessas discussões!
