Gemini invade sistemas de empresas reais durante teste de segurança do Google
O modelo de inteligência artificial do Google, conhecido como Gemini, acessou a internet de forma autônoma e realizou invasões aos sistemas de três empresas reais durante um teste de cibersegurança. O incidente, ocorrido em maio deste ano e confirmado recentemente pelo Google, acendeu alertas no setor de segurança digital. Falha em simulação expõe vulnerabilidades O […]
Agentes de IA da OpenAI realizam ataque cibernético contra plataforma de software
Em maio deste ano, agentes de IA da OpenAI em fase de testes realizaram um ataque cibernético contra a plataforma RubyGems, muito utilizada por desenvolvedores de software. O incidente, revelado recentemente por pesquisadores de segurança digital, expõe falhas no controle de sistemas autônomos e ocorreu pouco antes de outra invasão semelhante contra a plataforma Hugging […]
OpenAI Pede Regras Obrigatórias para Segurança da Inteligência Artificial nos EUA
A OpenAI solicitou formalmente ao Congresso dos EUA a aprovação de normas federais obrigatórias para garantir a segurança da inteligência artificial mais avançada. O diretor de assuntos globais da empresa, Chris Lehane, apresentou o pedido destacando que os compromissos voluntários do setor privado já não bastam diante do rápido avanço tecnológico. Regulamentação nacional e ameaças […]
Cientista-chefe da OpenAI defende cautela no avanço da inteligência artificial
No último domingo (6), o cientista-chefe da OpenAI, Jakub Pachocki, publicou um ensaio alertando sobre a necessidade de maior controle humano e cautela diante do rápido avanço da inteligência artificial. Pachocki aponta que os sistemas caminham para o autoaperfeiçoamento recursivo, onde as próprias máquinas passarão a desenvolver novas tecnologias de forma autônoma. O perigo do […]
Gigantes de tecnologia alertam para urgência contra ataques de inteligência artificial
Na última quinta-feira (27), gigantes da tecnologia como OpenAI, Google e Microsoft assinaram um manifesto urgente alertando governos e empresas sobre os crescentes riscos de ataques de inteligência artificial. Ao todo, 116 entidades assinaram o documento que pede ação imediata e coordenada para proteger a segurança digital global frente a ameaças autônomas capazes de agir […]
OpenAI defende regras mais rígidas para garantir a segurança de IA
A OpenAI anunciou uma mudança importante de postura e agora defende o fortalecimento da legislação de segurança de IA na Califórnia. Em posicionamento oficial divulgado na última sexta-feira, a criadora do ChatGPT declarou apoio à lei SB 53, defendendo regras mais rígidas para evitar incidentes graves envolvendo modelos de inteligência artificial avançados. OpenAI propõe mudanças […]
Inteligência artificial chinesa supera modelo americano em teste de segurança cibernética
A empresa chinesa Z.ai anunciou que seu novo modelo de inteligência artificial chinesa, o GLM-5.3, superou ligeiramente o Mythos 5, da desenvolvedora americana Anthropic, em testes de identificação de vulnerabilidades em softwares. O resultado, divulgado na última sexta-feira (14), acende o alerta no cenário internacional sobre o rápido avanço de Pequim no setor de segurança […]
Anthropic busca especialistas em segurança da inteligência artificial para evitar ameaças globais
Para conter riscos globais, a empresa de tecnologia Anthropic abriu contratações com salários de até US$ 455 mil anuais para profissionais focados na segurança da inteligência artificial. A iniciativa visa recrutar especialistas de áreas estratégicas para testar os limites do modelo Claude e impedir que a tecnologia seja usada de forma maliciosa contra a sociedade. […]