A empresa de tecnologia Anthropic fechou uma parceria com a Accenture para permitir que avaliadores externos trabalhem dentro de seus escritórios. A iniciativa busca testar e garantir a segurança da inteligência artificial de seus modelos mais avançados, atendendo a uma proposta de seu CEO, Dario Amodei, para monitorar o ritmo de desenvolvimento da tecnologia.
Parceria bilionária com a Accenture
O acordo prevê um investimento conjunto de US$ 1 bilhão (R$ 5,3 bilhões) nos próximos cinco anos. Especialistas da Faculty, divisão de IA da Accenture, terão acesso em nível de funcionário à Anthropic para realizar testes de salvaguardas, “red teams” e auditorias de comportamento humano. Embora a empresa planeje buscar financiamentos compartilhados ou governamentais no futuro, a própria Anthropic custeará o início das operações de auditoria dos seus modelos de IA.
Responsabilidade e segurança privada
A medida reflete um esforço de autorregulação e responsabilidade corporativa no setor tecnológico, princípios caros à liberdade econômica e ao livre mercado. Em vez de aguardar por pesadas intervenções e regulações estatais que possam sufocar a inovação e o empreendedorismo, a iniciativa privada assume o protagonismo na mitigação de riscos morais e de segurança. A Anthropic reforçou que a presença dos auditores externos não diminui sua responsabilidade final sobre a segurança dos sistemas criados.
O que acontece agora
A Accenture inicia sua integração operacional imediata na Anthropic. Ao mesmo tempo, a desenvolvedora de IA negocia a entrada de outros avaliadores independentes, como a organização sem fins lucrativos METR, estabelecendo um novo padrão voluntário de governança tecnológica.
Fonte: https://olhardigital.com.br