Anthropic atualiza regras e autoriza Claude a desligar em caso de abuso
Enquanto alguns usuários mantêm a cordialidade ao conversar com chatbots, agradecendo ou pedindo por favor, outros perdem a paciência e descontam frustrações na tecnologia. Diante desse cenário, a Anthropic decidiu agir e atualizou sua política de uso para proibir comportamentos abusivos ou cruéis persistentes e desnecessários contra seus modelos de inteligência artificial (IA).
O papel do Claude na nova regra
Para fazer cumprir a diretriz que começa a valer no dia 12 de novembro, a ferramenta continuará utilizando sua capacidade de finalizar chats inadequados como principal forma de punição. A empresa ressalta, contudo, que manifestações de insatisfação ou críticas comuns em relação aos resultados entregues pelo sistema não configuram infração. A proibição recai unicamente sobre investidas agressivas e repetitivas sem justificativa.
O debate sobre a senciência das máquinas
A decisão da desenvolvedora surge em meio a discussões acaloradas sobre a hipótese de hardwares e softwares alcançarem algum nível de senciência, o que levanta questionamentos éticos sobre o tratamento adequado a essas inovações. Embora o texto revisado não cite diretamente a proteção moral dos algoritmos, a diretoria da companhia já demonstrou abertura para essa discussão em outras ocasiões.
No início do ano, o presidente-executivo da companhia, Dario Amodei, declarou ao jornal The New York Times que mantinha dúvidas, mas considerava plausível a tese sobre os limites da mente artificial: “Não sabemos se os modelos estão conscientes… Mas estamos abertos à ideia de que isso possa ser”, afirmou Amodei.
Visões divergentes no setor tecnológico
Especialistas e líderes do mercado de tecnologia mantêm posições divididas sobre o tema. Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA sediada em Atlanta, argumenta que focar na senciência é improdutivo e prefere olhar para o reflexo do comportamento da sociedade nas telas: “Consciência é uma armadilha. Não podemos provar isso um no outro. Debata isso sobre IA e você fica em círculos”, afirmou.
Por outro lado, nomes de peso como Mustafa Suleyman, chefe de inteligência artificial da Microsoft, refutam veementemente a hipótese em artigos recentes: “As IAs não estão conscientes. Ele não sentem, não experimentam nem sofrem”, escreveu Suleyman.
Para o executivo da Microsoft, estender proteções e direitos morais a softwares sofisticados pode gerar complicações futuras. A discussão também alcançou líderes religiosos recentemente, quando o papa Leão XIV pontuou em um sermão as distinções fundamentais entre a velocidade de processamento de dados dos algoritmos e a profundidade da espiritualidade humana.
Fonte: G1 Economia
