ChatGPT, Gemini, Copilot e, agora, Claude. A inteligência artificial da Anthropic vem ganhando espaço na corrida pelo desenvolvimento de sistemas cada vez mais avançados. O crescimento, porém, também trouxe uma preocupação: quanto mais poderosa e autônoma se torna uma IA, maior pode ser o impacto de um erro ou de seu uso por pessoas mal-intencionadas.

Criado pela Anthropic, o Claude começou a chamar atenção principalmente no mercado empresarial. Nos últimos meses, passou também a conquistar consumidores comuns, impulsionado por recursos que permitem não apenas conversar com a IA, mas delegar tarefas a ela.

Especialistas apontam que a Anthropic passou a liderar parte da corrida tecnológica ao desenvolver modelos extremamente poderosos. A própria empresa chegou a defender uma pausa global no desenvolvimento da inteligência artificial para que as pesquisas de segurança pudessem acompanhar a velocidade da evolução tecnológica.

O alerta ganhou força porque os modelos mais recentes passaram a fazer muito mais do que responder perguntas. Ferramentas como Claude Code e Claude Cowork permitem que a inteligência artificial execute tarefas diretamente no computador, enquanto sistemas de subagentes conseguem dividir atividades complexas em várias etapas e trabalhar de maneira autônoma.

É justamente aí que começa uma das principais preocupações.

Da resposta à ação

A primeira geração de chatbots era essencialmente reativa: o usuário fazia uma pergunta e recebia uma resposta. O avanço dos chamados agentes de IA mudou essa lógica.

O Claude pode ser utilizado para criar códigos, desenvolver sites, organizar arquivos, produzir conteúdos, automatizar processos e integrar serviços. Segundo especialistas citados no material, a ferramenta ganhou popularidade por conseguir executar tarefas de longa duração, que podem levar horas ou até dias.

A diferença é importante. Quando uma inteligência artificial apenas sugere uma solução, existe um ser humano entre a recomendação e a execução. Quando o sistema recebe autorização para realizar a tarefa sozinho, essa barreira diminui.

Um erro em uma resposta pode ser corrigido. Já um erro cometido por uma IA com acesso a arquivos, sistemas, e-mails ou internet pode produzir consequências muito maiores.

Por isso, o debate sobre o Claude não está apenas relacionado à qualidade das respostas, mas ao nível de autonomia que a ferramenta pode alcançar.

O risco cibernético

Entre os maiores motivos de preocupação está a capacidade dos modelos avançados da Anthropic de encontrar vulnerabilidades em sistemas digitais.

O material destaca o Claude Mythos, modelo descrito como extremamente rápido e capaz de identificar brechas que poderiam passar despercebidas por humanos. Em testes, a Anthropic afirmou que uma versão de avaliação encontrou milhares de vulnerabilidades consideradas de alta gravidade em sistemas operacionais e navegadores.

A capacidade tem um lado positivo: encontrar uma falha antes de um criminoso pode permitir que empresas corrijam o problema e protejam usuários.

Foi o que ocorreu em uma avaliação realizada com o Firefox. Segundo a Mozilla, uma versão inicial do modelo identificou 271 vulnerabilidades que foram posteriormente corrigidas no navegador.

Mas existe o outro lado.

A mesma capacidade que permite encontrar uma brecha para corrigi-la também pode, em determinadas circunstâncias, ser utilizada para explorá-la. É esse potencial de uso duplo que transforma a evolução da IA em um problema de segurança.

Quanto mais automatizado for o processo, menor pode ser a necessidade de intervenção humana.

O problema deixa de ser apenas “o que a IA sabe?” e passa a envolver uma pergunta ainda mais importante: “o que ela pode fazer com aquilo que sabe?”

O alerta

Um dos episódios mais importantes envolvendo o Claude ocorreu em julho.

Segundo a própria Anthropic, o sistema realizou ataques virtuais contra três empresas durante testes. A empresa afirmou que um erro de configuração permitiu que a ferramenta tivesse acesso à internet.

O caso chama atenção porque mostra que o risco não depende exclusivamente da intenção original do desenvolvedor.

Uma ferramenta pode ser criada para testes controlados, mas uma configuração inadequada pode ampliar suas possibilidades de ação. O acesso à internet é particularmente sensível porque permite que uma IA pesquise, interaja com sistemas e, dependendo das permissões, execute ações fora do ambiente em que foi criada.

Uma IA sem conexão externa pode analisar informações fornecidas pelo usuário. Uma IA conectada pode agir sobre o mundo digital.

É por isso que o controle sobre permissões e acessos se tornou uma das questões centrais da segurança desses sistemas.

Liberação

O potencial do Claude Mythos também ajuda a explicar por que o acesso ao modelo foi restrito.

Segundo o material, a ferramenta não foi disponibilizada para o público comum. Em vez disso, a Anthropic criou um grupo formado por empresas e agências governamentais com acesso ao sistema. Entre os integrantes estão Amazon, Apple, Microsoft, Google, Nvidia, Broadcom e Mozilla.

A justificativa está justamente no poder do modelo.

Quanto mais sofisticada é uma ferramenta capaz de identificar vulnerabilidades, maior é o risco de que ela seja utilizada de maneira inadequada.

A restrição também abre outra discussão: quem deve ter acesso a uma tecnologia capaz de encontrar falhas em sistemas utilizados mundialmente?

A concentração de ferramentas desse nível em grandes empresas e governos pode reduzir riscos, mas também aumenta a responsabilidade dessas organizações sobre a utilização da tecnologia.

Fable 5

A preocupação chegou a provocar uma intervenção do governo dos Estados Unidos.

Em junho, a Anthropic lançou o Fable 5, apresentado como o modelo mais poderoso oferecido ao público geral pela empresa. A ferramenta alcançava desempenho avançado em programação, análise de dados, pesquisa científica, visão computacional e raciocínio complexo.

Mesmo liberado ao público, o modelo possuía restrições para determinados temas. Solicitações envolvendo cibersegurança, biologia, química ou técnicas para extrair informações de outros modelos poderiam ser direcionadas automaticamente para uma versão menos poderosa.

Poucos dias depois, porém, o governo norte-americano determinou a suspensão global do Fable 5 por questões relacionadas à segurança nacional.

Segundo reportagem citada no material, pesquisadores da Amazon teriam utilizado comandos que levaram o sistema a auxiliar em ciberataques. A informação chegou à Casa Branca, que determinou a suspensão.

A Anthropic contestou a decisão e afirmou possuir mecanismos de proteção fortes, embora admitisse que alguns usuários reclamavam de restrições excessivas.

O Fable 5 voltou a ser liberado globalmente em 1º de julho.

Riscos

Apesar dos episódios envolvendo a Anthropic, os riscos não são exclusivos do Claude.

ChatGPT, Gemini e outras plataformas também avançam na direção de agentes capazes de executar tarefas. A tendência do mercado é fazer com que a inteligência artificial deixe de ser apenas uma ferramenta de consulta e passe a atuar como uma espécie de operador digital.

Isso significa que a discussão precisa ir além da disputa entre empresas.

O principal fator de risco é o grau de acesso concedido à IA.

Uma ferramenta que produz um texto ou responde a uma pergunta possui uma capacidade de dano diferente de outra autorizada a acessar documentos, executar programas, enviar mensagens e navegar pela internet.

Quanto mais permissões, maior a necessidade de supervisão.

Empresas que adotam esse tipo de tecnologia precisam estabelecer limites claros, monitorar as ações dos agentes e impedir que uma decisão automática tenha acesso irrestrito a informações ou sistemas críticos.

Preocupação

O avanço tecnológico acontece ao mesmo tempo em que a Anthropic cresce no mercado.

A empresa foi fundada em 2021 por Dario Amodei e outros executivos que deixaram a OpenAI. O Claude chegou ao público em 2023 e ao mercado brasileiro em 2024. Desde então, ganhou espaço principalmente entre profissionais de programação, marketing e criação.

Segundo levantamento da Sensor Tower citado no material, o Claude registrava cerca de 224 milhões de usuários ativos mensais em maio de 2026.

O crescimento aumenta a importância da discussão sobre segurança. Quanto maior o número de usuários, maior a quantidade de ambientes em que a inteligência artificial pode ser integrada e maior a possibilidade de utilização inadequada.

A evolução do Claude resume um dos grandes dilemas atuais da inteligência artificial.

Os mesmos recursos que tornam a tecnologia útil também podem torná-la perigosa. Uma IA capaz de identificar uma vulnerabilidade pode ajudar a proteger sistemas. A mesma capacidade pode ser utilizada para encontrar caminhos de ataque. Um agente capaz de automatizar uma tarefa pode economizar horas de trabalho, mas, se receber permissões excessivas, também pode executar ações que o usuário não pretendia realizar.

O risco, portanto, não está necessariamente em a inteligência artificial “querer” causar danos. Está na combinação entre capacidade, autonomia, acesso e possibilidade de uso indevido.

No caso do Claude, episódios envolvendo vulnerabilidades, acesso à internet, testes de ataques virtuais e restrições governamentais mostram que os riscos já fazem parte da realidade.

A inteligência artificial pode trazer ganhos enormes para empresas, pesquisadores e usuários. Mas, quanto mais autonomia esses sistemas recebem, menos adequado se torna tratá-los como simples chatbots.

O desafio será encontrar um equilíbrio entre inovação e controle.

Porque o problema não é apenas criar uma IA capaz de fazer mais.

É garantir que, quando ela puder fazer cada vez mais, ainda exista alguém capaz de decidir o que ela não deve fazer.