A Lacuna de Segurança em Aplicações de IA: Repensando a Proteção de APIs para uma Nova Era

Segurança de Aplicações na Era da IA: Uma Necessidade de Reestruturação

A integração da Inteligência Artificial (IA) em aplicações aumentou significativamente a complexidade da segurança de aplicações. Embora as aplicações de IA compartilhem vulnerabilidades fundamentais com as aplicações tradicionais e possam se beneficiar das ferramentas de cybersecurity existentes, essas ferramentas são frequentemente insuficientes para o cenário de IA.

A segurança moderna de IA exige ferramentas e práticas especializadas. Isso inclui firewalls de modelos de IA que detectam prompt injection e exfiltração, scanners de vulnerabilidades de modelos e simuladores de ataque. Também é essencial o rastreamento de linhagem de dados e modelos para proveniência e explicabilidade (explainability), bem como plataformas de observabilidade para monitorar o comportamento e o desvio (drift) da IA.

Além disso, ferramentas especializadas abrangem frameworks de governança de IA, como o NIST AI RMF e a ISO/IEC 42001, e pipelines de validação contínua para retreinamento e testes adversariais. Independentemente de a IA ser utilizada dentro das aplicações ou para o desenvolvimento delas — ou ambos — é crucial atualizar os planos de segurança para abordar os novos vetores de ataque impulsionados pela IA.

Um relatório recente destaca que 75% das organizações entendem que o rápido crescimento da IA em suas empresas expõe as limitações dos processos de governança legados. A rápida adoção da IA em aplicações de produção indica que esses novos riscos estão sendo negligenciados.

Ademais, as próprias APIs se tornaram mais arriscadas na era da IA. Um estudo recente sublinhou esse risco, revelando que 57% das APIs baseadas em IA eram acessíveis externamente, e 89% utilizavam métodos de autenticação inseguros, como chaves estáticas. Esses novos vetores de ataque exigem que as organizações repensem sua postura de segurança de aplicações no que diz respeito à IA e adotem novas soluções.

O Risco do AI Sprawl e a Proliferação de APIs

Para que as aplicações de IA Generativa (GenAI) ofereçam valor de negócio real, elas precisam de acesso aos dados proprietários da sua empresa. Sem isso, os modelos recorrem aos dados públicos nos quais foram treinados — o que significa que você obterá as mesmas ideias genéricas que seus concorrentes. Se todos estão começando com as mesmas novas ideias, a vantagem competitiva desaparece. Isso é exatamente como contratar um consultor externo e se recusar a mostrar-lhe como sua empresa realmente opera.

APIs são a maneira predominante de fornecer às aplicações GenAI acesso a esses dados cruciais. Isso está levando a uma proliferação massiva de endpoints customizados que estão pulando verificações rigorosas de segurança, governança e análise de custos. Esse fenômeno não é novo. Na verdade, é o padrão clássico de adoção empresarial, no qual as equipes priorizam recursos e velocidade em detrimento da segurança e da supervisão.

Esse AI sprawl (proliferação descontrolada de IA) está introduzindo problemas de segurança imediatos e graves. Felizmente, esses problemas podem ser resolvidos com uma abordagem comprovada e ferramentas existentes. Mas, primeiro, devemos reconhecer a escala do risco que eles representam.

A explosão de vulnerabilidades é impressionante: um estudo recente revelou que 439 CVEs (Common Vulnerabilities and Exposures) relacionadas à IA surgiram em 2024 — um aumento de 1.025% em relação a 2023. Quase todas essas novas vulnerabilidades (98,9%) estavam diretamente ligadas a APIs. Isso ressalta a expansão rápida e insegura da IA, tornando a segurança robusta de API um requisito inegociável.

Por exemplo, muitas equipes estão atualmente usando o Model Context Protocol (MCP) para atuar como esse tipo de API para LLMs. O próprio MCP possui pouca segurança integrada, muito menos os complexos controles de acesso e conteúdo necessários para dados empresariais. Este é um excelente exemplo de onde ter um API gateway traz imediatamente toda a governança, fiscalização (enforcement) e controle de conteúdo necessários.

O Papel Vital dos API Gateways para a Segurança de IA

Para garantir que você esteja gerenciando vulnerabilidades de segurança, você pode reescrever suas APIs para seguir um conjunto consistente de regras ou usar uma plataforma. Se você optar por reestruturar as APIs, é importante fazer separações claras de componentes (nouns) e ações que podem ser executadas (verbs). Isso ajudará muito com aplicações agentic (baseadas em agentes) que podem realizar tarefas autônomas de resolução de problemas.

Agentes só podem agir para resolver problemas, mas precisam ser capazes de interagir com a API de uma maneira esperada que delineie quais ferramentas e ações estão disponíveis para eles. O comportamento esperado também melhora a segurança e permite que as equipes abordem a segurança de forma consistente e conforme o prescrito.

No entanto, a reestruturação pode não ser suficiente. Para a segurança de aplicações de IA, as organizações empresariais ainda devem ter uma plataforma de aplicações de IA com um API gateway. Os gateways garantem acesso seguro, juntamente com padrões comuns de controle de acesso que constituem uma camada de segurança eficaz.

Em um nível fundamental, os gateways podem permitir que você adicione cotas e limites de tokens para aplicações de IA, evitando estourar orçamentos devido a aplicações que acabam em um ciclo infinito de especulação agentic. Em um API gateway, um agente deve ser capaz de ver os endpoints registrados para os agentes, juntamente com o contexto e as habilidades desses endpoints. As plataformas também podem utilizar workflows determinísticos para situações e casos de uso específicos de agentes.

VMware Tanzu Platform Habilita Aplicações de IA Mais Seguras

A VMware Tanzu Platform, construída sobre o Cloud Foundry, se beneficia de uma base sólida de recursos de segurança e conformidade existentes. Aprimorando essa segurança, a Tanzu Platform incorpora um API gateway de nível empresarial baseado em Spring. Este gateway oferece filtragem e roteamento robustos de tráfego, juntamente com capacidades empresariais essenciais, como segurança integrada (OAuth2/JWT, SSO, HMAC), controle avançado de tráfego (rate limiting multifatorial e traffic replay), extensões para padrões de API (OpenAPI, gRPC, GraphQL) e transformação e remoção de conteúdo de requisição/resposta.

Recentemente, lançamos a Tanzu Platform 10.3, que oferece observabilidade e controle de IA aprimorados. Ao usar o tile de serviços de IA dentro da Tanzu Platform para executar seus modelos de IA ou assistentes de codificação, você obtém capacidades cruciais como controle de acesso, rate limiting e gerenciamento de cotas. Esses recursos ajudam a garantir que apenas pessoal autorizado tenha acesso e ajudam a prevenir o gasto excessivo de recursos.

Além disso, os engenheiros de plataforma podem centralizar a inteligência de segurança e obter uma visão detalhada da exposição a riscos por meio do recém-introduzido Vulnerability Insights Dashboard no Tanzu Hub. Este dashboard fornece informações vitais, incluindo criticidade de CVE, níveis de patch e exposição ambiental para todos os componentes da Tanzu Platform, permitindo que as equipes triem, priorizem e remediem rapidamente os riscos de segurança. A plataforma também permite que as equipes baixem o Software Bill of Materials (SBOM) para todos os componentes implantados da Tanzu Platform.