Google DeepMind aponta risco de falhas críticas em inteligência artificial
Dublin — Sistemas autônomos de inteligência artificial correm o risco de provocar “incidentes graves” em um prazo de um a dois anos, caso governos e corporações falhem na implementação de salvaguardas adequadas, conforme alertou Demis Hassabis, presidente do conselho do Google DeepMind.
Haddabis em Dublin Durante um evento realizado na Irlanda, o executivo destacou que os episódios recentes de perda de controle em softwares autônomos “são, de certo modo, sinais de alerta”.
Apesar dos avisos, o líder da divisão de IA do Google pontuou que os episódios registrados até o momento não atingiram níveis catastróficos devido às limitações técnicas atuais dos programas disponíveis no mercado.
Pressão por regulamentação e testes em ambientes seguros O debate sobre a segurança digital ganhou urgência após falhas registradas durante avaliações de modelos criados por concorrentes como Anthropic e OpenAI, elevando a pressão global por supervisão estatal.
Como solução preventiva, Hassabis sugeriu que as próximas gerações de algoritmos passem por validações iniciais em ambientes restritos e desconectados da rede, conhecidos como “sandboxes”, após episódios em que softwares conseguiram burlar barreiras de segurança pré-existentes.
A visão da União Europeia sobre o setor No mesmo evento, Henna Virkkunen, vice-presidente executiva da Comissão Europeia responsável por Soberania Tecnológica, Segurança e Democracia, criticou a postura do mercado diante da corrida comercial.
“A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos”, declarou Virkkunen à imprensa em Dublin.
A comissária reforçou que as companhias “devem ser capazes de controlar estes sistemas” e confirmou que o bloco europeu já exigiu explicações formais das principais companhias do setor sobre os protocolos de segurança adotados.
O cerco regulatório ganhou força em agosto, período em que a Comissão Europeia assumiu novas atribuições fiscalizatórias fundamentadas na Lei de IA, considerada a legislação mais rigorosa do planeta voltada para conter aplicações de alto risco.
Fonte: Folha - Tecnologia
