Nova York aprova lei pioneira que restringe chatbots para menores

A governadora do estado de Nova York promulgou nessa quarta-feira (28) uma lei que proíbe que menores interajam com assistentes virtuais de inteligência artificial (IA), uma medida que abrange a maioria dos chatbots disponíveis no mercado.

Amplo alcance da regulamentação

Vários estados dos EUA, incluindo a Califórnia, já aprovaram leis que regulamentam a interação com esse tipo de sistema de IA generativa, que simula uma conversa com o usuário como se fosse uma companhia. Mas nenhuma norma como a aprovada por Nova York havia estabelecido um escopo de aplicação tão amplo.

A lei obriga as operadoras de chatbots a verificar a idade dos usuários e a desativar determinados recursos da interface de IA quando for constatado que um usuário é menor de idade.

Restrições ao comportamento dos robôs

Dessa forma, o robô conversacional não poderá gerar conteúdo que dê a entender que é “humano, que está vivo ou que tem sentimentos humanos”, especifica a norma.

A Tech:NYC, organização que representa o setor de tecnologia em Nova York, criticou a lei assinada pela governadora Kathy Hochul e destacou “sua linguagem imprecisa”, argumentando que ela levanta questionamentos sobre uma possível violação da Primeira Emenda à Constituição americana, que protege a liberdade de expressão.

Consultados pela AFP, a Anthropic e o Google não responderam de imediato, enquanto a OpenAI alinhou-se à posição da Tech:NYC.

Já a Common Sense Media, associação dedicada a informar os pais sobre os produtos de mídia e tecnologia voltados para o público infanto-juvenil, comemorou a aprovação do que descreveu como “lei de segurança da IA para crianças mais robusta do país”. “Nova York fez história”, ressaltou Jim Steyer, diretor da organização.

Fonte: Folha - Mercado