Anthropic bane tratamento cruel a inteligência artificial e atualiza regras

A criadora do assistente virtual Claude, localizada em San Francisco, divulgou nesta quinta-feira (8) novas diretrizes que vedam condutas abusivas ou violentas direcionadas à sua tecnologia. A medida surge no momento em que especialistas discutem profundamente se a inteligência artificial possui algum nível de senciência.

O impacto das novas regras na prática A empresa atualizou sua política de uso para incluir “a proibição de comportamento contínuo e desnecessariamente abusivo ou cruel contra nossos modelos”.

A companhia explicou que “A capacidade de Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação (da política)” da diretriz.

Discussões sobre senciência e reflexo humano Mesmo sem citar diretamente o bem-estar dos algoritmos, os líderes da organização já debateram publicamente a noção de que sistemas tecnológicos poderiam exigir salvaguardas equivalentes às aplicadas a seres vivos. Anteriormente, em fevereiro, o CEO Dario Amodei declarou ao New York Times que não tinha certeza de que modelos de IA pudessem ser conscientes.

Por outro lado, Jackson Stakeman, gerente-geral da Sparq, aponta que questionar a senciência das máquinas desvia o foco do problema real. “A consciência é uma armadilha. Não podemos prová-la nos outros. Debatê-la no caso da IA nos fará andar em círculos”, avaliou Stakeman.

Ele complementa que “O espelho é uma metáfora melhor. Esses sistemas refletem em larga escala aquilo que colocamos neles. Isso, por si só, já é motivo suficiente para a mudança de política” da Anthropic.

Conclusão As restrições reforçam o controle sobre interações tóxicas com o bot, que desde o ano passado já contava com autonomia para interromper conversas em cenários extremos de toxicidade por parte do público.

Fonte: Folha - Mercado