Pesquisa de Tenable Research revela que ferramentas populares de IA em nuvem são altamente vulneráveis

Análise descobre que 70% das cargas de trabalho na nuvem que usam serviços de IA contêm vulnerabilidades não corrigidas

A Tenable, empresa de gerenciamento de exposição cibernética, lança seu Relatório Tenable 2025: Riscos da IA na Nuvem. A pesquisa mostra como a IA baseada na nuvem é propensa a combinações tóxicas evitáveis que tornam dados e modelos de IA confidenciais vulneráveis à manipulação, à adulteração e ao vazamento de dados.

Inegavelmente, a nuvem e a IA estão transformando o ambiente organizacional. No entanto, ambas apresentam riscos cibernéticos complexos quando combinadas. O relatório destaca o estado atual dos riscos de segurança em ferramentas e estruturas de desenvolvimento de IA em nuvem e em serviços de IA oferecidos pelos três principais provedores: Amazon Web Services (AWS), Google Cloud Platform (GCP) e Microsoft Azure. As principais constatações do relatório incluem:

Cargas de trabalho de IA na nuvem não são imunes a vulnerabilidades: aproximadamente 70% das cargas de trabalho de IA na nuvem contêm pelo menos uma vulnerabilidade não corrigida. Em particular, a Tenable Research descobriu a CVE-2023-38545, uma vulnerabilidade crítica do cURL, em 30% das cargas de trabalho de IA na nuvem. (*cURL, ferramenta open source para transferência de dados entre servidor/cliente – vulnerabilidade permite que invasores executem remotamente código arbitrário e obtenham acesso completo aos sistemas afetados)
Existem configurações incorretas na nuvem no estilo Jenga®¹ em serviços de IA gerenciados: 77% das organizações têm a conta de serviço padrão do Compute Engine com privilégios excessivos configurada no Google Vertex AI Notebooks. Isso significa que todos os serviços criados neste Compute Engine padrão estão em risco. Utilizando o conceito de Jenga, um bloco mal configurado na torre de aplicações pode causar uma falha catastrófica e/ou abrir portas para invasores.
Os dados de treinamento de IA são suscetíveis ao envenenamento, o que ameaça distorcer os resultados do modelo: 14% das organizações que usam o Amazon Bedrock (plataforma de inteligência artificial criada pela Amazon) não bloqueiam explicitamente o acesso público a pelo menos um bucket (refere-se a um ambiente virtual onde é possível armazenar e gerenciar dados de forma organizada) de treinamento de IA e 5% têm pelo menos um bucket excessivamente permissivo.
As instâncias de notebook do Amazon SageMaker (serviço de aprendizagem de máquina gerenciado pela AWS) concedem acesso root (acesso raiz, ou acesso completo, na origem) por padrão: como resultado, 91% dos usuários do Amazon SageMaker têm pelo menos um notebook que, se comprometido, pode conceder acesso não-autorizado a qualquer usuário, resultando na possível modificação de todos os arquivos nele.

“Quando falamos sobre o uso de IA na nuvem, há mais em jogo do que dados confidenciais. Se um agente de ameaça manipular os dados ou o modelo de IA, pode haver consequências catastróficas de longo prazo, tais como: a integridade de dados e a segurança de sistemas críticos comprometidas e a degradação da confiança do cliente”, disse Liat Hayun, VP of Research and Product Management, Cloud Security, Tenable. “As medidas de segurança da nuvem devem evoluir a fim de atender aos novos desafios da IA e encontrar o equilíbrio delicado entre proteger ataques complexos aos dados de IA e permitir que as organizações alcancem uma inovação responsável em IA.”

Arthur Capella, diretor-geral da Tenable do Brasil, destaca que “A integração entre nuvem e IA é, sem dúvida, um caminho sem volta no ambiente corporativo. Nesse sentido, é importante que haja conscientização sobre a segurança cibernética, pois é preciso planejar e proteger a interação entre diferentes ambientes e tecnologias. A integração da IA em ambientes de nuvem requer uma abordagem robusta a fim de prevenir ataques, vazamentos e garantir a integridade dos dados para que a segurança e a inovação caminhem lado a lado”.

¹ O conceito de estilo Jenga®, utilizado pela Tenable, identifica a tendência dos provedores de nuvem de compilar um serviço sobre o outro, com blocos de construção “nos bastidores”, herdando padrões arriscados de uma camada para a outra. Essas configurações incorretas na nuvem, especialmente em ambientes de IA, podem ter implicações de risco graves se exploradas por usuários não-autorizados.