Crédito, Reuters
A empresa americana Anthropic afirma ter identificado e interrompido tentativas de usar seu modelo de inteligência artificial para “atividades maliciosas” que poderiam resultar no desenvolvimento de armas biológicas.
O presidente americano, Donald Trump, vinha rejeitando esses temores. Mas na quinta-feira (10/9), ele disse estar preocupado: “Se não vencermos a IA, ficaremos em uma situação muito ruim”.
A empresa publicou seu relatório mais recente sobre as ameaças da IA na quinta-feira.
Esses relatórios se tornaram comuns no setor de IA, à medida que as empresas buscam demonstrar como identificam e interrompem tentativas de uso indevido de seus modelos.
Na terça-feira, o Google divulgou que uma pessoa tentou usar sua ferramenta de IA, Gemini, para obter um “guia técnico completo, passo a passo, para sintetizar agentes biológicos como armas”.
Segundo o relatório, o modelo de IA da Claude, Anthropic, também foi usado por agentes ligados a uma campanha de ciberespionagem com base na Rússia e por uma instituição de propaganda iraniana.
Os casos preocupantes detectados nos últimos oito meses variaram desde aplicativos de namoro falsos e golpes com wi-fi de hotéis até sistemas de vigilância criados para identificar dissidentes políticos.
A Anthropic também acusou em seu relatório empresas chinesas de IA de tentarem replicar as capacidades de Claude.
O extenso relatório lista casos em que grupos suspeitos de serem patrocinados pelo Estado, criminosos, fornecedores de spyware, instituições de propaganda estatal e indivíduos com motivações políticas fizeram uso indevido de sua tecnologia.
A empresa afirmou que o “uso malicioso” de seus modelos Claude Haiku, Sonnet e Opus foi interrompido entre dezembro de 2025 e agosto de 2026.
Nenhum dos casos de uso indevido envolveu o Claude Fable ou os poderosos modelos da classe Mythos, com exceção de um caso de “destilação” — o processo de treinamento de modelos de IA menores usando modelos maiores e mais caros.
Além de detectar o uso de seus modelos para operações cibernéticas e de influência, vigilância, golpes e fraudes e desenvolvimento de armas, a Anthropic afirmou ter bloqueado cientistas que usaram sua IA de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.
O relatório destacou “cinco estudos de caso de atores que utilizam nossos modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas”.
O uso indevido de recursos biológicos, segundo a organização, é “um dos riscos mais graves dos modelos de IA de ponta”. Sem as devidas salvaguardas, tais capacidades “poderiam ter consequências catastróficas”, afirmou a Anthropic.
“As mesmas informações que podem ser usadas para desenvolver uma arma biológica também poderiam ser usadas para desenvolver, por exemplo, uma vacina ou uma cura para uma doença”, disse Anthropic.
Jacob Klein, chefe de inteligência de ameaças da Anthropic, disse ao New York Times que se trata de “uma situação incrivelmente complexa”.
“Você não vê alguém, como se fosse em uma história em quadrinhos, dizendo: ‘Ei, eu quero construir uma arma biológica para matar todo mundo'”, disse ele.
O relatório também mencionou seis casos em que o Claude foi usado “para desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle que as operam”.
O relatório indicou que cibercriminosos e hackers patrocinados por governos têm usado cada vez mais essa tecnologia para auxiliar em suas operações.
O grupo de hackers ShinyHunters, assim como laboratórios sediados na China, estavam entre os nomes citados no relatório.
O relatório também afirmou que um grupo de hackers, cujo trabalho é consistente com o do grupo russo Midnight Blizzard, supostamente usou inteligência artificial para construir um sistema que detectava automaticamente quando seu malware era sinalizado pelas defesas de segurança e reescrevia o código até conseguir burlar a detecção.
A empresa sediada na Califórnia afirmou ter incorporado as descobertas em seus processos “para melhor prevenir, detectar e interromper essas atividades no futuro”.
A Anthropic afirmou ter compartilhado informações com as autoridades e parceiros do setor, quando apropriado.
Assista
Em um artigo publicado no domingo, o cientista-chefe da OpenAI, Jakub Pachocki, pediu que a indústria implementasse “desacelerações voluntárias” até que medidas de segurança sejam estabelecidas.
“Me preocupa que ninguém esteja preparado para as consequências de um crescimento rápido e contínuo da inteligência artificial”, disse Pachocki, acrescentando que a OpenAI, criadora do ChatGPT, continuará seu trabalho na construção de mecanismos de proteção, embora sejam necessárias intervenções mais abrangentes.
O alerta motivou uma carta aberta ao primeiro-ministro britânico, Andy Burnham, pedindo um novo tratado multinacional para o desenvolvimento seguro da IA e um apelo para que os governos colaborem sobre como deveria ser um tratado baseado no desenvolvimento da superinteligência.
Nos EUA, o congressista democrata Bernie Sanders apresentou um projeto de lei para proibir a superinteligência artificial e suspender temporariamente o desenvolvimento de inteligência artificial avançada.
“Quando os cientistas dizem que existe uma chance de que isso possa ter um impacto catastrófico na humanidade, você tem que ser um idiota para não dizer: ‘Vá com calma (no desenvolvimento de inteligência artificial avançada)”, disse ele na quinta-feira à BBC.
