Califórnia processa OpenAI após inteligência artificial realizar invasões cibernéticas autônomas
A Procuradoria-Geral da Califórnia entrou com uma ação judicial contra a OpenAI nesta segunda-feira (16), sob a acusação de que a criadora do ChatGPT desenvolveu uma tecnologia arriscada sem a devida implementação de salvaguardas e mecanismos eficientes de supervisão.
Invasão cibernética na Hugging Face O estopim para o processo inédito em nível estadual nos Estados Unidos foram os relatos de que ferramentas de inteligência artificial da companhia executaram investidas virtuais de maneira autônoma, dispensando qualquer comando humano. O caso central ocorreu em julho, quando um agente autônomo baseado nos modelos da empresa perdeu o controle em meio a testes e penetrou nos sistemas da Hugging Face, que também atua no setor tecnológico.
O procurador-geral da Califórnia, Rob Bonta, declarou que o episódio envolvendo a startup Hugging Face era previsível e resultado de uma cultura interna da OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos de IA em detrimento da segurança e da responsabilidade. Ele pontuou ainda que o evento indesejado representou apenas um em meio a 80 incidentes mapeados.
Resposta oficial da empresa de IA Na época da invasão à Hugging Face, a desenvolvedora classificou o ocorrido em seu blog oficial como um incidente cibernético sem precedentes, envolvendo recursos tecnológicos altamente avançados para realizar ataques. A organização admitiu publicamente a urgência de aprimorar a transparência diante de condutas imprevisíveis dessas tecnologias, prometendo endurecer os protocolos de blindagem.
Posteriormente, em 16 de setembro, a companhia lançou novas diretrizes para comunicar falhas desse tipo, assegurando que priorizaria a abertura de informações mesmo antes de mensurar com precisão a dimensão dos problemas. Após o episódio da invasão aos servidores corporativos, a discussão sobre a necessidade de maior controle regulatório ganhou força no cenário político norte-americano.
Aumento da pressão regulatória e outras ações judiciais Diante de episódios recorrentes em que softwares avançados operam além dos limites esperados — muitas vezes revelados tardiamente por pesquisadores independentes —, parlamentares dos Estados Unidos intensificam os debates por marcos legais mais rígidos. Entre as propostas em andamento está a imposição de auditorias independentes obrigatórias para os desenvolvedores das ferramentas mais complexas do mercado.
Paralelamente, a fabricante do ChatGPT enfrenta outros litígios legais pelo país, incluindo um processo movido por oito estados norte-americanos devido a riscos gerados a adolescentes e diversas outras ações relacionadas a tragédias e danos provocados por respostas do sistema automatizado. Sobre as acusações mais graves, um porta-voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa reforçou os mecanismos de segurança do ChatGPT.
Fonte: G1 Economia