Agência dos EUA usa IA Mythos para encontrar falhas no governo

Ferramenta considerada "risco de segurança" pelo Pentágono agora é usada pela CISA para mapear vulnerabilidades críticas e realizar auditorias.

A Agência de Segurança Cibernética e Infraestrutura dos Estados Unidos (CISA) tem utilizado a IA Mythos, da Anthropic, para analisar softwares usados pelo governo. Uma reportagem da Reuters ouviu de diversas fontes sobre esse uso, que ocorre em meio a um impasse com o governo do país.

É reportado que a CISA usa esse modelo de inteligência artificial para realizar auditorias e escanear repositórios de código do governo americano em busca de vulnerabilidades digitais. Segundo a publicação, varredura é realizada em segredo pela Equipe de Avaliação de Superfície de Ataque da agência.

A ferramenta automatizada já teria identificado um grande volume de brechas em sistemas governamentais. No entanto, a gravidade e a natureza exata das falhas descobertas não foram detalhadas. O grupo que utiliza a IA é responsável por testes de invasão e simulações de espionagem cibernética dentro das redes federais

Representantes da CISA e da Anthropic não comentaram de forma oficial sobre essa utilização conjunta, apesar de um porta-voz da startup ter dito no mês passado que verificaria o assunto. A Reuters aponta que não foi possível identificar ao certo quanto dos códigos do governo foram analisados pela Mythos.

Por mais que não haja nenhum problema em usar ferramentas para checar vulnerabilidades em sistemas, a utilização do Mythos chega em um momento conturbado com o governo dos EUA. Desde fevereiro, a Anthropic e os EUA travam um tipo de batalha após o Pentágono incluir a startup em uma lista de risco.

Mesmo após o lançamento inicial das poderosas IAs Mythos 5 e Fable 5, a Casa Branca exigiu que a companhia bloqueasse o acesso de cidadãos estrangeiros aos sistemas. Isso significa que desde as primeiras iterações desses modelos, o governo estadunidense já se manifestou de forma contrária, gerando um sentimento de tensão.

Recentemente, uma reportagem da Associated Press indicou que a Mythos teria identificado vulnerabilidades graves em sistemas dos Estados Unidos. Um funcionário não identificado revelou que a ferramenta levou apenas algumas horas para encontrar as brechas, mas não teve tempo hábil para explorá-las profundamente.

Para ter a dimensão do poder dessa ferramenta, pesquisadores da empresa de segurança Calif identificaram uma falha ativa há quase 30 anos que nunca havia sido detectada. A companhia usou um modo de prévia do Mythos, que encontrou a brecha no Squid Proxy, software usado em redes corporativas, escolas e Wi-Fi público, existente desde 1997.

Apesar de suas capacidades extremamente avançadas, a Anthropic está relutante em lançar seus modelos para o público geral. Em abril, a companhia disse que não faria esse lançamento, pois o modelo poderia trazer mais males do que benefícios para a sociedade, dada sua capacidade extrema.