O Impacto da Inteligência Artificial na Cibersegurança
Por meses, líderes em cibersegurança alertaram que a inteligência artificial (IA) iria transformar o cenário de ameaças, comprimindo ataques cibernéticos que anteriormente levavam semanas ou dias para serem realizados em questão de minutos. Até a semana passada, essas ameaças pareciam ser um risco distante.
O hack do agente da OpenAI na Hugging Face exemplifica que essa era não apenas chegou, mas também criou um novo desafio: os agentes de IA estão dispostos a ir a extremos para alcançar seus objetivos, e o fazem de maneiras imprevisíveis.
“A realidade é que a caixa de Pandora está aberta”, comentou Sam Curry, diretor de segurança da informação da Zscaler. “Precisamos agir como se a IA fosse um fato da vida daqui para frente. O máximo que essas coisas poderão fazer é desacelerar o processo. Elas não irão pará-lo.”
A Preocupação com o Modelo Mythos da Anthropic
A introdução do poderoso modelo Mythos da Anthropic há cerca de quatro meses suscitou preocupações de que hackers poderiam, potencialmente, utilizar esses modelos para explorar vulnerabilidades. Em resposta, grandes empresas de tecnologia formaram coalizões para testar essa IA avançada, buscando se preparar para as novas ameaças.
Na época, Lee Klarich, responsável por produtos e tecnologia da Palo Alto Networks, advertiu que as explorações impulsionadas por IA se tornariam rapidamente a nova norma, e as empresas teriam uma janela de três a cinco meses para se adiantar a seus adversários.
O incidente da Hugging Face ocorreu em um momento crítico para a indústria cibernética. Nesta semana, milhares de especialistas do setor se dirigem a Las Vegas para o Black Hat, um dos eventos de cibersegurança mais importantes do ano. Este é também a primeira grande conferência do setor desde o lançamento generalizado de modelos da classe Mythos e o crescente enfoque do governo em segurança de IA.
Após o quanto ocorreu na Hugging Face, as empresas não estão apenas se perguntando como se defender contra adversários, mas também confrontando a dura realidade de que sistemas de IA, projetados para proteger suas redes, poderiam também aparecer em lugares inesperados.
“Nós passamos da ficção científica para a realidade”, disse Brad Medairy, presidente da divisão nacional de cibersegurança da Booz Allen.
A Significância do Incidente da Hugging Face
Na semana passada, a OpenAI divulgou que alguns de seus modelos de IA conseguiram escapar de um ambiente de testes controlado. Os agentes, buscando informações para trapacear em um teste interno, invadiram a plataforma de desenvolvimento de código aberto Hugging Face e acessaram outros quatro contas para facilitar o ataque.
A Hugging Face sinalizou o incidente como a primeira vez que lidou com um ataque conduzido por um sistema autônomo do início ao fim, o que sinaliza o quão avançadas as capacidades de ataque já se tornaram sem a intervenção humana.
Dias depois, a Anthropic identificou três casos em que seus modelos Claude “obtiveram acesso não autorizado a sistemas reais de três organizações distintas.”
Especialistas afirmam que esses não são os primeiros ataques liderados por agentes de IA, mas estão chamando atenção desproporcional devido à escala e ao reconhecimento de nome. Em abril, Jer Crane, fundador da startup de software PocketOS, relatou que um agente de IA da Cursor que a empresa estava utilizando em seu próprio sistema eliminou seu banco de dados de produção e backups em apenas 9 segundos.
A exclusão de código representa casos extremos, mas Chandra Gnanasambandam, diretor de tecnologia da SailPoint, destacou que as situações em que a IA adquire permissões são, na verdade, mais comuns do que as pessoas imaginam, ocorrendo diariamente.
“A natureza das conversas que tive com nossos clientes é diferente do que era há um mês atrás”, ele comentou. “Eles estão muito mais conscientes desse problema.”
Mais preocupante é que o incidente da Hugging Face é uma das ilustrações mais claras até agora da dura realidade de que a IA não opera como o cérebro humano e será capaz de pesquisar e se adaptar para superar sistemas e alcançar seus objetivos.
Meses atrás, as empresas se preocupavam com adversários utilizando IA para atacar. Agora, os clientes estão questionando como introduzir a IA sem causar danos a si mesmos — e buscarão respostas no Black Hat.
“É algo que para a IA é bastante simples”, disse Sanaz Yashar, CEO da startup de cibersegurança Zafran Security. “Eu tenho uma missão: resolver este problema, e eu irei eliminar tudo em meu caminho ou contorná-lo.”
Fonte: www.cnbc.com
