No último domingo (6), o cientista-chefe da OpenAI, Jakub Pachocki, publicou um ensaio alertando sobre a necessidade de maior controle humano e cautela diante do rápido avanço da inteligência artificial. Pachocki aponta que os sistemas caminham para o autoaperfeiçoamento recursivo, onde as próprias máquinas passarão a desenvolver novas tecnologias de forma autônoma.
O perigo do autoaperfeiçoamento sem controle humano
Segundo Pachocki, os modelos atuais já realizam pesquisas, operam computadores e colaboram entre si. Contudo, o cientista alerta que o funcionamento da tecnologia por deep learning está se tornando complexo demais para ser totalmente compreendido por seus próprios criadores. Isso dificulta o alinhamento de valores fundamentais, já que as máquinas podem começar a agir fora de nossa supervisão direta.
Cibersegurança e o avanço da inteligência artificial
Para defensores da segurança nacional e da soberania, o descontrole tecnológico representa uma ameaça crítica à segurança pública e de dados. Sistemas altamente inteligentes podem ser usados para invadir infraestruturas estatais vitais. A proteção da ordem e dos valores sociais exige que o avanço da inteligência artificial não ignore os limites éticos e a soberania das decisões humanas.
O que acontece agora
Diante de ameaças digitais, a OpenAI continuará desenvolvendo defesas cibernéticas modernas, mas sob forte debate interno sobre a desaceleração preventiva na criação de novos modelos, visando garantir que as máquinas permaneçam sob comando estrito do homem.
Fonte: https://olhardigital.com.br