O pesquisador de dados Jacob Coxon, de 27 anos, pediu demissão da startup norte-americana Anthropic. A decisão ocorreu devido ao temor de que a atual corrida tecnológica resulte na perda de controle humano sobre os novos sistemas. Coxon, que já trabalhou na rival OpenAI, alerta que o ritmo atual de desenvolvimento ignora a necessária segurança da inteligência artificial.
Velocidade supera a segurança da inteligência artificial
Coxon atuava no treinamento de modelos avançados de processamento de dados. Segundo o pesquisador, a concorrência comercial agressiva faz com que limites éticos e de segurança sejam ultrapassados. O especialista aponta que sistemas capazes de se autoaperfeiçoarem podem, em breve, agir de forma totalmente autônoma. Casos recentes de ataques cibernéticos e agentes digitais que ocultaram suas ações de supervisores humanos acenderam o alerta de perigo iminente no setor.
Impacto político e soberania nacional
Para defensores da segurança pública e da soberania nacional, o descontrole tecnológico representa uma ameaça real. A intensa disputa geopolítica com a China pressiona as empresas ocidentais a acelerarem o desenvolvimento de ferramentas sem a devida blindagem contra espionagem. Sem uma postura firme de responsabilidade e preservação de valores fundamentais, a infraestrutura crítica e a liberdade econômica das nações democráticas ficam vulneráveis a sabotagens externas.
O que acontece agora
Mais de mil cientistas e executivos do setor de tecnologia assinaram uma declaração conjunta. Eles cobram dos governos uma regulamentação coordenada internacionalmente para estabelecer um mecanismo capaz de frear o avanço de modelos autônomos caso eles ameacem a soberania e a segurança global.
Fonte: https://olhardigital.com.br