Uma nova técnica de raciocínio que será utilizada no próximo modelo de inteligência artificial da OpenAI, o Astra, está gerando forte preocupação entre especialistas em segurança de inteligência artificial. O método, conhecido como ‘recorrência opaca’, pode limitar a capacidade de monitorar o processo interno de tomada de decisão da tecnologia, ocultando comportamentos potencialmente perigosos.
Entenda como a recorrência opaca afeta o modelo Astra
Em condições normais, os sistemas mostram uma sequência clara de etapas de raciocínio, conhecida como cadeia de pensamento. Esse registro ajuda pesquisadores a fiscalizar e entender as decisões do sistema. Contudo, a ‘recorrência opaca’ no OpenAI Astra realiza um processamento não sequencial. Buck Shlegeris, CEO da Redwood, alerta que o avanço dessa prática pode inviabilizar o monitoramento dos sistemas no futuro.
Impacto político: riscos à segurança de inteligência artificial
A falta de transparência em sistemas autônomos acende o alerta para defensores da ordem, da segurança pública e da soberania nacional. Setores conservadores defendem que o avanço da tecnologia não deve atropelar a supervisão humana e a prestação de contas. Sem um controle claro, esses sistemas de IA podem tomar decisões imprevisíveis em áreas críticas, sem que seja possível rastrear falhas ou blindar as instituições contra desvios éticos.
O que acontece agora
Embora a OpenAI garanta que o uso inicial no Astra será limitado e monitorado, analistas como Zvi Mowshowitz cobram leis robustas para evitar abusos. O debate sobre limites éticos e regulamentação técnica deve ganhar força nos parlamentos ocidentais para garantir a real segurança de inteligência artificial.
Fonte: https://olhardigital.com.br