Anthropic proíbe comportamento cruel de usuários com inteligência artificial Claude
A Anthropic anunciou nesta quinta-feira (8) que proibirá usuários de seu assistente de IA, Claude, de “tratá-lo” com crueldade desnecessária, em meio a um crescente debate filosófico sobre a possibilidade de a inteligência artificial ser consciente.
Novas diretrizes para os usuários A empresa atualizou sua política de uso para incluir “a proibição de comportamento contínuo e desnecessariamente abusivo ou cruel contra nossos modelos”.
A companhia também destacou que “a capacidade de Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação (da política)” da política.
Debate sobre o bem-estar dos modelos de inteligência artificial A política atualizada não menciona explicitamente o chamado “bem-estar dos modelos”, conceito segundo o qual sistemas de IA poderiam merecer tipos de proteção normalmente reservados a seres vivos. No entanto, a Anthropic e seus executivos já discutiram abertamente essa ideia, e a empresa não respondeu imediatamente a um pedido de comentário.
No ano passado, a companhia informou que concedeu ao Claude a capacidade de encerrar conversas em casos raros e extremos de “interações persistentemente prejudiciais ou abusivas por parte de usuários”. Posteriormente, em fevereiro, seu CEO Dario Amodei declarou ao New York Times que não tinha certeza de que modelos de IA pudessem ser conscientes.
Perspectivas do mercado de tecnologia Para Jackson Stakeman, gerente-geral da Sparq, fornecedora de serviços de IA, questionar se a inteligência artificial é consciente pode ser a pergunta errada. “A consciência é uma armadilha. Não podemos prová-la nos outros. Debatê-la no caso da IA nos fará andar em círculos”, avaliou Stakeman.
O especialista acrescentou ainda que “o espelho é uma metáfora melhor. Esses sistemas refletem em larga escala aquilo que colocamos neles. Isso, por si só, já é motivo suficiente para a mudança de política” da Anthropic.
Fonte: Folha - Tecnologia
