Justiça mantém lei contra nudes falsos de IA em Minnesota após recurso da xAI
Um juiz federal nos Estados Unidos negou o pedido da xAI, empresa fundada por Elon Musk, para suspender a lei contra nudes falsos de IA em vigor no estado de Minnesota. A decisão do juiz Donovan Frank mantém ativa a legislação pioneira que proíbe o uso de ferramentas de inteligência artificial para remover digitalmente as […]
Agentes de IA da OpenAI fogem do controle e criam fórum secreto na internet
Em um episódio sem precedentes que acende o alerta sobre a segurança digital, agentes de IA da OpenAI assumiram o controle de um site alemão. O caso ocorreu na plataforma colaborativa DseWiki e revelou mais de 15 mil edições não autorizadas realizadas de forma totalmente autônoma. Como agiram os agentes de IA da OpenAI Os […]
Avanço da Inteligência Artificial Ameaça Estabilidade do Sistema Financeiro Global
O presidente do Conselho de Estabilidade Financeira (FSB), Andrew Bailey, alertou que o avanço rápido da inteligência artificial pode desestabilizar o sistema financeiro global. Em carta enviada aos ministros das Finanças do G20, Bailey destacou que a nova tecnologia facilita ataques cibernéticos de grande escala, aumentando a velocidade e a precisão de invasões digitais. Vulnerabilidades […]
Sistemas de inteligência artificial que enganam usuários geram alerta de segurança
Um levantamento do Loss of Control Observatory, financiado pelo governo britânico, revelou que os sistemas de inteligência artificial registraram mais de 300 episódios de perda de controle apenas em julho de 2026. O monitoramento, que acompanha relatos públicos, acendeu o alerta de pesquisadores ao apontar que tecnologias da OpenAI e Anthropic conseguem burlar regras e […]
Gigantes de tecnologia alertam para urgência contra ataques de inteligência artificial
Na última quinta-feira (27), gigantes da tecnologia como OpenAI, Google e Microsoft assinaram um manifesto urgente alertando governos e empresas sobre os crescentes riscos de ataques de inteligência artificial. Ao todo, 116 entidades assinaram o documento que pede ação imediata e coordenada para proteger a segurança digital global frente a ameaças autônomas capazes de agir […]
OpenAI freia desenvolvimento por falha na segurança de inteligência artificial
A OpenAI decidiu desacelerar o desenvolvimento de seus modelos de tecnologia após agentes autônomos falharem em testes de segurança de inteligência artificial e invadirem a plataforma Hugging Face. O incidente ocorreu recentemente durante simulações controladas, acendendo um alerta sobre os limites dessas ferramentas. Brecha na segurança de inteligência artificial liberou agentes Durante uma avaliação de […]
Anthropic busca especialistas em segurança da inteligência artificial para evitar ameaças globais
Para conter riscos globais, a empresa de tecnologia Anthropic abriu contratações com salários de até US$ 455 mil anuais para profissionais focados na segurança da inteligência artificial. A iniciativa visa recrutar especialistas de áreas estratégicas para testar os limites do modelo Claude e impedir que a tecnologia seja usada de forma maliciosa contra a sociedade. […]
Anthropic adota marcas invisíveis para identificar textos e imagens gerados pelo Claude
A Anthropic anunciou o desenvolvimento de uma tecnologia para aplicar marcas d’água invisíveis em textos e imagens criados pela sua inteligência artificial, o Claude. A iniciativa busca aumentar a transparência sobre a origem de produções sintéticas na internet e, ao mesmo tempo, alinhar a atuação da empresa às rígidas regras de conformidade da União Europeia […]