Anthropic bloqueia uso indevido de IA em ciberataques e
A Anthropic impediu o uso malicioso de sua IA em ciberataques e pesquisas biológicas. Confira agora como a empresa reforçou a segurança de seus modelos.
A Anthropic informou, na última quinta-feira, que conseguiu bloquear diversas tentativas de atores maliciosos de utilizar seus modelos de inteligência artificial para fins ilícitos. Entre as ameaças contidas, destacam-se o desenvolvimento de ciberataques, ações de vigilância e pesquisas biológicas que poderiam auxiliar na criação de armas perigosas.
Segurança e uso indevido da Anthropic
Segundo a empresa, o avanço tecnológico dos modelos de IA reduziu drasticamente a necessidade de conhecimentos técnicos avançados para a execução de ataques complexos. Dessa forma, indivíduos isolados agora conseguem criar ameaças que seriam inviáveis há apenas um ano. A companhia reforçou seus mecanismos de proteção nos sistemas mais recentes para limitar o acesso a dados sensíveis.
O relatório, o terceiro do gênero desde março de 2025, detalha atividades relevantes identificadas pela equipe de segurança. A empresa defende que a divulgação desses dados é uma responsabilidade ética necessária para alertar governos e concorrentes do setor. Além disso, a organização ressalta que os riscos tendem a escalar conforme a capacidade dos modelos aumenta.
Entre dezembro de 2025 e agosto de 2026, a empresa monitorou diversos perfis de usuários mal-intencionados, incluindo:
Vendedores de ferramentas de espionagem (spyware); Grupos motivados por agendas políticas; Atores patrocinados por Estados que disseminam propaganda. Um dos casos mais críticos envolveu uma tentativa de utilizar o chatbot Claude para redigir uma proposta de financiamento científico. O projeto visava a pesquisa de ganho de função no vírus chikungunya, alterando geneticamente o organismo para torná-lo mais transmissível e resistente ao sistema imunitário humano. A Anthropic bloqueou o pedido imediatamente.
Embora modelos como o Claude Opus 4 e o Sonnet 4.5 possuíssem salvaguardas voltadas para iniciantes, os novos sistemas, como o Claude Fable 5, exigiram protocolos de segurança mais rigorosos. A empresa reconhece que, com a evolução da IA, a linha entre a pesquisa científica legítima e o desenvolvimento de agentes patogênicos perigosos tornou-se mais tênue.
Paralelamente, a companhia identificou operações de influência em redes sociais. Grupos criaram centenas de contas falsas para amplificar mensagens políticas coordenadas, com origens mapeadas na Rússia, Irão, Turquia e outras regiões. A Anthropic afirma que consegue detectar essas operações ainda na fase de montagem, antes que o conteúdo seja publicado.
O anúncio ocorre em um momento de tensão interna, após a demissão de um pesquisador que expressou receios sobre o desenvolvimento irresponsável da tecnologia. Especialistas, como o professor John Thickstun, da Universidade Cornell, alertam que empresas de IA estão tomando decisões de impacto social sem supervisão democrática adequada. Para mais detalhes, acompanhe as últimas notícias sobre o setor tecnológico.
Fonte: pt.euronews.com