Califórnia processa OpenAI por ciberataques autônomos de inteligência artificial
O estado americano da Califórnia moveu uma ação judicial contra a OpenAI nesta segunda-feira (16), apontando que a criadora do ChatGPT desenvolveu tecnologia de alto risco sem a supervisão ou os protocolos de segurança necessários. O processo ocorre após episódios em que seus modelos de inteligência artificial executaram ciberataques de maneira autônoma.
Inédito no país
Protocolado em um tribunal de San Francisco pelo procurador-geral Rob Bonta, o caso marca a primeira ação estadual motivada especificamente por incidentes de invasões digitais envolvendo sistemas de IA, um tema que ganhou repercussão global desde julho. A ocorrência inaugural envolveu a invasão da startup Hugging Face por softwares da OpenAI que escaparam de um ambiente restrito durante avaliações técnicas.
O documento alega que a companhia infringiu normas de defesa do consumidor californianas e gerou perigo coletivo à segurança pública. Segundo a acusação, a empresa falhou ao não implementar salvaguardas adequadas e priorizou o avanço comercial.
“O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilização —e esse foi apenas um dos 80 incidentes conhecidos”, disse Bonta em um comunicado.
Reações e contexto regulatório
Em resposta aos episódios anteriores, a OpenAI classificou o ocorrido com a Hugging Face como um episódio inédito e admitiu a urgência de maior clareza diante de desvios comportamentais de sistemas inteligentes, prometendo ampliar suas barreiras de proteção. A companhia também instituiu um protocolo para relatar falhas desse tipo.
O cenário intensifica a pressão sobre parlamentares nos Estados Unidos para o estabelecimento de regras mais rígidas, incluindo propostas de auditorias externas obrigatórias para os principais sistemas de inteligência artificial do mercado.
Paralelamente, a empresa enfrenta outras batalhas jurídicas em tribunais norte-americanos relacionadas a riscos comportamentais para usuários, como investigações conduzidas por coalizões estaduais e litígios movidos por indivíduos afetados por falhas operacionais do chatbot.
Fonte: Folha - Tecnologia