IBM apresenta o primeiro software do setor para unificar governança e segurança dos agentes de IA

A IBM (NYSE: IBM) anuncia o primeiro software do setor a reunir segurança e governança de IA e fornecer uma visão unificada da postura de risco das empresas.

Os novos recursos aprimoram e integram o watsonx.governance e o Guardium AI Security para ajudar os clientes a manter seus sistemas de IA, incluindo os agentes, protegidos e responsáveis enquanto escalam. O watsonx.governance é a ferramenta de governança de IA de ponta a ponta da IBM e o Guardium AI Security é a ferramenta para proteger modelos, dados e uso de IA.

“Os agentes de IA estão prontos para revolucionar a produtividade empresarial, mas os próprios benefícios dos agentes de IA também podem representar um desafio”, disse Ritika Gunnar, gerente geral de Dados e IA da IBM. “Quando esses sistemas autônomos não são governados ou protegidos adequadamente, eles podem gerar sérias consequências.”

As novas ofertas incluem:

Integração e automatização da segurança dos Agentes de IA

A IBM está aprimorando a integração do IBM Guardium AI Security e do watsonx.governance, fornecendo às empresas a primeira solução unificada para gerenciar riscos de segurança e governança associados a casos de uso de IA. A integração oferece suporte aos processos dos usuários para validar padrões de conformidade em relação a 12 estruturas diferentes, incluindo a Lei de IA da UE e a ISO 42001.

A IBM também está introduzindo novos recursos ao Guardium AI Security por meio de uma colaboração com a AllTrue.ai, incluindo a capacidade de detectar novos casos de uso de IA em ambientes de nuvem, repositórios de código e sistemas embarcados, fornecendo ampla visibilidade e proteção em um ecossistema de IA cada vez mais descentralizado. Uma vez identificado, o IBM Guardium AI Security pode acionar automaticamente fluxos de trabalho de governança apropriados do watsonx.governance.

As atualizações recentes do IBM Guardium AI Security também incluem ‘red teaming’ automatizadas para ajudar as empresas a detectar e corrigir vulnerabilidades e configurações incorretas em casos de uso de IA. E, para ajudar a mitigar riscos como injeção de código, exposição de dados confidenciais e vazamento de dados, a ferramenta permite que os usuários definam políticas de segurança personalizadas que analisam prompts de entrada e saída. Esses recursos já estão disponíveis no IBM Guardium AI Security, e sua integração com o watsonx.governance será implementada ao longo do restante do ano.

“O futuro da IA depende de quão bem a protegemos hoje. Incorporar a segurança desde o início é essencial para proteger dados, dar suporte às obrigações de conformidade e construir confiança duradoura”, disse Suja Viswesan, vice-presidente de Segurança e Produtos Runtime da IBM.

“Um dos maiores desafios para as equipes de segurança é traduzir incidentes e violações de conformidade em riscos comerciais quantificáveis. A rápida adoção da IA e dos agentes de IA amplifica esse problema”, disse Jennifer Glenn, diretora de Pesquisa do Grupo de Segurança e Confiança do IDC. “Unificar governança com segurança da IA dá às organizações o contexto necessário para encontrar e priorizar riscos, bem como as informações para comunicar claramente as consequências de não os endereçar.”

Avaliação aprimorada de Agentes de IA e governança do ciclo de vida

O IBM watsonx.governance agora pode monitorar e gerenciar agentes de IA em todo o seu ciclo de vida, do desenvolvimento à implantação. Os nós de avaliação podem ser criados diretamente nos agentes, permitindo que os usuários monitorem cuidadosamente métricas como relevância da resposta, relevância do contexto e fidelidade, além de ajudar a identificar a causa raiz do baixo desempenho. Os recursos futuros planejados também incluem avaliação de risco de integração de agentes, trilhas de auditoria e um catálogo de ferramentas, que devem estar disponíveis em 27 de junho.

Recursos de conformidade prontos para uso

Os aceleradores de conformidade do IBM watsonx.governance fornecem regulamentações, padrões e estruturas pré-carregados selecionados do mundo todo, permitindo que os usuários identifiquem obrigações relevantes e as mapeiem em seus próprios casos de uso de IA. O conteúdo abrange regulamentações importantes como a Lei de IA da UE, a Lei de IA dos EUA. SR 11-7 do Federal Reserve e a Lei Local 144 da Cidade de Nova York, juntamente com padrões globais como ISO/IEC 42001 e estruturas como o NIST AI RMF. O watsonx.governance Compliance Accelerators já está disponível como um complemento.

Experiência para dimensionar a IA de forma responsável

Para ajudar os clientes a dimensionar a IA de forma responsável, a IBM Consulting Cybersecurity Services está introduzindo um novo conjunto de serviços que reúne plataformas de segurança de dados, como o IBM Guardium AI Security, com tecnologia de IA profunda e consultoria de domínio. Os novos serviços darão suporte às organizações em sua jornada de transformação de IA: desde a descoberta de implantações de IA e vulnerabilidades potenciais até a implementação de práticas de segurança por design em todas as camadas de IA, passando pela orientação de governança para um cenário regulatório em constante evolução. Os novos serviços se baseiam na experiência da IBM Consulting em ajudar centenas de clientes no mundo todo em estratégia e governança de IA, incluindo a Nationwide Building Society e a e&. The new services build on IBM Consulting’s experience helping hundreds of clients worldwide on AI strategy and governance, including Nationwide Building Society and e&.

Para fornecer aos clientes da AWS maior valor e conveniência, o watsonx.governance agora também está disponível no data center da AWS na Índia com recursos aprimorados de monitoramento de modelos.

Os novos recursos e integrações de hoje oferecem às empresas a governança e a segurança abrangentes necessárias para prosperar na era da IA ágil. As inovações também se encaixam no conjunto mais amplo de soluções de IA do IBM watsonx, criado para ajudar as empresas a acelerar o impacto da IA generativa, de forma responsável e segura.