IBM unifica governança e segurança dos agentes de IA

A IBM anunciou o seu primeiro software do setor a reunir segurança e governança de IA e fornecer uma visão unificada da postura de risco das empresas.

Os novos recursos aprimoram e integram o watsonx.governance e o Guardium AI Security para ajudar os clientes a manter seus sistemas de IA, incluindo os agentes, “protegidos e responsáveis enquanto escalam”.

O watsonx.governance é a ferramenta de governança de IA de ponta a ponta da IBM e o Guardium AI Security é a ferramenta para proteger modelos, dados e uso de IA.

“Os agentes de IA estão prontos para revolucionar a produtividade empresarial, mas os próprios benefícios dos agentes de IA também podem representar um desafio”, disse Ritika Gunnar, gerente geral de Dados e IA da IBM.

“Quando esses sistemas autônomos não são governados ou protegidos adequadamente, eles podem gerar sérias consequências”, acrescentou ainda.

As novas ofertas incluem integração e automatização da segurança dos Agentes de IA.

A IBM está ainda aprimorando a integração do IBM Guardium AI Security e do watsonx.governance, fornecendo às empresas “a primeira solução unificada para gerenciar riscos de segurança e governança associados a casos de uso de IA”.

A integração oferece suporte aos processos dos usuários para validar padrões de conformidade em relação a 12 estruturas diferentes, incluindo a Lei de IA da UE e a ISO 42001.

A IBM também está introduzindo novos recursos ao Guardium AI Security por meio de uma colaboração com a AllTrue.ai, incluindo a capacidade de detectar novos casos de uso de IA em ambientes de nuvem, repositórios de código e sistemas embarcados, fornecendo ampla visibilidade e proteção em um ecossistema de IA cada vez mais descentralizado.

Uma vez identificado, o IBM Guardium AI Security pode acionar automaticamente fluxos de trabalho de governança apropriados do watsonx.governance.

As atualizações recentes do IBM Guardium AI Security também incluem ‘red teaming’ automatizadas para ajudar as empresas a detectar e corrigir vulnerabilidades e configurações incorretas em casos de uso de IA.

E, para ajudar a mitigar riscos como injeção de código, exposição de dados confidenciais e vazamento de dados, a ferramenta permite que os usuários definam políticas de segurança personalizadas que analisam prompts de entrada e saída.

Esses recursos já estão disponíveis no IBM Guardium AI Security, e sua integração com o watsonx.governance será implementada ao longo do restante do ano.

“Um dos maiores desafios para as equipes de segurança é traduzir incidentes e violações de conformidade em riscos comerciais quantificáveis. A rápida adoção da IA e dos agentes de IA amplifica esse problema”, disse Jennifer Glenn.

A diretora de Pesquisa do Grupo de Segurança e Confiança do IDC acrescenta ainda que “unificar governança com segurança da IA dá às organizações o contexto necessário para encontrar e priorizar riscos, bem como as informações para comunicar claramente as consequências de não os endereçar.”