Segurança de IA: como proteger a jornada de IA da empresa
Riscos, guardrails, proteção de agentes, frameworks e checklist para usar IA generativa com segurança, do inventário ao monitoramento no SOC.
Em resumo: Segurança de IA é o conjunto de controles que protege os sistemas de inteligência artificial da empresa (modelos, aplicações de IA generativa, agentes e os dados que eles usam) contra ataques, vazamento e uso indevido. Combina inventário, avaliação de risco, governança, guardrails, menor privilégio para agentes e monitoramento contínuo, com referências como OWASP, MITRE ATLAS, ISO/IEC 42001 e NIST AI RMF.
O que é segurança de IA?
Segurança de IA, ou segurança da inteligência artificial, protege os sistemas de IA da empresa contra ataques e uso indevido. Cobre quatro alvos.
Os riscos são novos porque o modelo de linguagem não separa instrução de dado: uma frase escondida num documento pode virar comando (OWASP). Um agente age com as permissões que recebeu. E o dado enviado a um app de IA sem contrato sai do alcance das políticas da empresa.
Proteção de IA e IA segura são outros nomes para o mesmo objetivo: usar IA com risco conhecido e controlado.
Segurança de IA, governança de IA e segurança feita com IA: qual a diferença?
Os três termos costumam ser confundidos: a segurança de IA protege a IA da empresa, a governança decide como ela é usada e a segurança feita com IA usa a IA para proteger a empresa, como faz um SOC.
| Aspecto | Segurança de IA | Governança de IA | Segurança feita com IA |
|---|---|---|---|
| O que é | Proteger modelos, aplicações, agentes e dados contra ataques e uso indevido | Decidir como a empresa usa IA: políticas, papéis, risco e conformidade | Usar IA para defender a empresa, como na triagem de alertas |
| Exemplos | Guardrails, DLP para IA, menor privilégio para agentes, red teaming | Comitê, política de uso aceitável, inventário, classificação de risco | Triagem com IA, resumo de casos, investigação em linguagem natural |
| Na Vortex | Assessment AI Journey e o pilar Proteção | Assessment AI Journey, CAIO as a Service e a plataforma de governança | Cyber Defense Center, o NG-SOC Convergente |
Este guia trata da segurança e da governança de IA. A IA usada pelo SOC está no guia Inteligência artificial no SOC e na página do Cyber Defense Center. Na medicina, as regras do CFM para o uso de IA estão no guia da Resolução CFM nº 2.454/2026.
Quais são os principais riscos de segurança de IA e como controlar cada um?
Os riscos de segurança de LLM e de IA generativa seguem os códigos do OWASP Top 10 para aplicações de LLM, versão 2026. Nenhum controle resolve sozinho: segundo a OWASP, a prompt injection ainda não tem prevenção confiável, e a defesa é limitar o que uma injeção consegue fazer.
| Risco | Como acontece | Controles | Guardrails |
|---|---|---|---|
| Prompt injection direta e jailbreak (LLM01) | O usuário tenta mudar o comportamento do modelo ou fazê-lo violar as regras de segurança | Papel e limites nas instruções de sistema; red teaming | Filtro de entrada contra injeção e jailbreak |
| Prompt injection indireta (LLM01) | Instruções escondidas num documento, e-mail, página ou resposta de ferramenta que o modelo lê | Conteúdo externo tratado como não confiável; menor privilégio | Rótulo de origem no conteúdo externo; aprovação humana em ação sensível |
| Vazamento de dados sensíveis (LLM02) | Dado pessoal ou estratégico vai num prompt ou upload, ou volta numa resposta | Classificação de dados; só o necessário vai ao provedor; busca com as permissões de quem pergunta | DLP para IA na entrada e na saída |
| Agência excessiva (LLM03) | O agente tem mais ferramentas, permissões ou autonomia do que a tarefa precisa | Ferramentas mínimas; menor privilégio; identidade própria do agente | Política que valida cada ação; aprovação humana no que é irreversível |
| Cadeia de suprimentos (LLM04) | Modelo, biblioteca, dados ou servidor MCP de terceiros chega adulterado ou vulnerável | Inventário de componentes (AI BOM); versões fixadas e verificadas | Lista de modelos e ferramentas permitidos |
| Envenenamento de dados e de modelos (LLM05) | Dados de treino, de ajuste fino ou da base de conhecimento são adulterados | Origem e integridade dos dados; controle de quem escreve na base e na memória | Aprovação antes de gravar na memória do agente |
| Tratamento inadequado da saída (LLM10) | A resposta vira consulta, comando ou código sem conferência | Validação da saída em código, fora do modelo | Checagem de formato; sanitização de links e comandos |
| Shadow AI | Uso de apps de IA sem aprovação, fora do inventário e dos controles | Descoberta do uso; política de uso aceitável; uma opção aprovada | Bloqueio ou alerta de app não aprovado |
A lista da OWASP tem ainda consumo sem limites (LLM06), desinformação (LLM07), exposição do contexto oculto (LLM08) e fraquezas de vetores e embeddings (LLM09). Shadow AI, na última linha, não é item dela.
O que são guardrails de IA e onde eles ficam?
Guardrails são controles técnicos em volta do modelo que limitam o que entra, o que sai e o que a IA pode fazer. Ficam fora do modelo, no código da aplicação, num gateway de IA ou na plataforma, e aplicam as políticas da empresa em cada pedido.
Nenhum é perfeito, porque filtros de linguagem podem ser contornados. A OWASP recomenda camadas e um desenho em que uma injeção bem-sucedida não vire um ataque.
Entrada
O que chega ao modelo?
Guardrails de entradaPrompt, arquivo, página, e-mail ou resposta de ferramenta.
Guardrails neste ponto
- Detecção de prompt injection e jailbreak
- DLP para IA: dado sensível mascarado ou bloqueado
- Rótulo de origem no conteúdo externo
Modelo
Com que regras ele trabalha?
Políticas e limitesAs instruções de sistema definem o papel do modelo.
Guardrails neste ponto
- Papel e restrições declarados
- Nenhum segredo nas instruções
- Só modelos aprovados, com cotas de uso
Saída
O que a resposta pode conter?
Guardrails de saídaA resposta é conferida antes de chegar a uma pessoa ou a outro sistema.
Guardrails neste ponto
- Validação do formato em código
- Bloqueio de dado sensível e de conteúdo proibido
- Sanitização de links, código e comandos
Ação
O que o agente pode executar?
Limites de açãoCada chamada passa por permissão e política.
Guardrails neste ponto
- Ferramentas mínimas e menor privilégio
- Aprovação humana no que é irreversível
- Limites de valor e de volume, com registro
Como proteger agentes de IA?
Quando o modelo vira agente, com ferramentas, memória e ações em outros sistemas, a OWASP indica somar o Top 10 para aplicações agênticas, com riscos como o sequestro do objetivo do agente (ASI01), o uso indevido de ferramentas (ASI02) e o abuso de identidade e privilégio (ASI03).
Como proteger a jornada de IA, etapa por etapa?
A proteção acompanha o uso de IA e fecha em ciclo: cada rodada mede de novo e atualiza o inventário.
- Etapa 1 Que IA existe aqui?
Descobrir e inventariar
Liste modelos, aplicações, agentes e apps de IA em uso, inclusive os sem aprovação, e os dados que cada um acessa.
Inventário de IA - Etapa 2 O que pode dar errado?
Avaliar o risco
Classifique cada caso de uso pelo dado, pela decisão que influencia e pelo que executa, com um framework como o NIST AI RMF.
Classificação de risco - Etapa 3 Quem decide?
Governar
Defina comitê, papéis, política de uso aceitável e fluxo de aprovação, com evidência para auditoria. A ISO/IEC 42001 organiza esse sistema de gestão.
Política de IA - Etapa 4 Que controles faltam?
Proteger
Aplique guardrails, DLP para IA, menor privilégio para agentes e red teaming, primeiro nos casos de maior risco.
Guardrails - Etapa 5 Os controles funcionam?
Monitorar e medir de novo
Leve a telemetria de IA ao SOC, correlacionada com IT e OT, responda pelos playbooks e repita a avaliação.
Telemetria no SOC
Quais frameworks e normas usar, e o que cada um cobre?
A ISO/IEC 42001 e o NIST AI RMF organizam a governança; a OWASP e o MITRE ATLAS descrevem ataques e controles; o EU AI Act e a LGPD obrigam; o PL 2338/2023 ainda tramita. Situação conferida nas fontes oficiais em 02/11/2026.
| Referência | O que cobre | É obrigatória? | Versão e situação |
|---|---|---|---|
| ISO/IEC 42001 | Requisitos de um sistema de gestão de IA | Não; a certificação é voluntária | Edição de dezembro de 2023 |
| NIST AI RMF | Risco de IA em quatro funções: governar, mapear, medir e gerenciar | Não | Versão 1.0, de 26/1/2023, em revisão pelo NIST |
| NIST AI 600-1 | Perfil de IA generativa: 12 riscos, como confabulação e privacidade de dados, com ações sugeridas | Não | Publicado em 26/7/2024 |
| EU AI Act (Regulamento (UE) 2024/1689) | Obrigações por nível de risco para quem oferece ou usa IA na União Europeia, inclusive de fora dela | Sim, para quem está no escopo | Em vigor desde 1º/8/2024; o Regulamento (UE) 2026/1744 adiou o alto risco para 2/12/2027 (Anexo III) e 2/8/2028 (Anexo I) |
| PL 2338/2023 | Marco legal brasileiro: níveis de risco, avaliação de impacto algorítmico no alto risco e sistema nacional coordenado pela ANPD | Ainda não é lei | Aprovado no Senado em 10/12/2024; na Câmara desde 17/3/2025, aguardando o parecer do relator na comissão especial |
| LGPD (Lei 13.709/2018) | Dado pessoal em treino, prompts e decisões: segurança (art. 46), revisão de decisão automatizada (art. 20) e incidente (art. 48) | Sim, com dado pessoal | Em vigor; incidente comunicado em três dias úteis (Resolução CD/ANPD nº 15/2024) |
| OWASP Top 10 para aplicações de LLM | Os dez riscos mais críticos de aplicações com LLM, com prevenção | Não | Versão 2026, de agosto de 2026 |
| OWASP Top 10 para aplicações agênticas | Dez riscos de agentes autônomos, de ASI01 a ASI10 | Não | Edição 2026, de 9/12/2025 |
| MITRE ATLAS | Táticas e técnicas de ataque a sistemas de IA, no modelo do MITRE ATT&CK | Não | Base aberta, atualizada pelo MITRE |
Fontes: ISO, certificação, NIST AI RMF, NIST AI 600-1, Comissão Europeia, AI Act, Regulamento (UE) 2026/1744, Câmara, Senado, LGPD, ANPD, OWASP LLM, OWASP agentes e MITRE ATLAS.
Por onde começar? Checklist de segurança de IA
Use a lista para conferir o que já existe e o que falta.
- Faça o inventário de modelos, aplicações, agentes e apps de IA, com e sem aprovação, e dos dados que cada um acessa.
- Nomeie um responsável e publique uma política de uso aceitável: ferramentas aprovadas e dados que não podem ir para a IA.
- Classifique os casos de uso por risco e comece pelos de maior impacto.
- Ligue DLP para IA em prompts, uploads e respostas e ofereça uma opção aprovada a quem usa shadow AI.
- Ponha guardrails de entrada e de saída nas aplicações próprias e valide a saída em código.
- Dê a cada agente identidade própria, menor privilégio e aprovação humana no que é irreversível.
- Inclua modelos, conjuntos de dados e servidores MCP no inventário de fornecedores.
- Faça red teaming antes de publicar e de tempos em tempos.
- Leve ao SOC os registros de prompts, respostas e ações, sem guardar dado sensível sem necessidade.
- Confira a LGPD em cada uso com dado pessoal e acompanhe o EU AI Act e o PL 2338/2023.
Como a Vortex protege a jornada de IA?
O Vortex AI Journey é a oferta da Vortex Security para governança e segurança de IA, em três pilares. A empresa pode entrar por qualquer um; o ponto de partida recomendado é o diagnóstico.
A Vortex é Líder no ISG Provider Lens 2026 em Next-Gen SOC/MDR Services (Midmarket, Brasil). Para hospitais e redes de saúde, veja também a página de cibersegurança na saúde.
Ouça no VortexCast, o podcast da Vortex
Episódio #04 29/07/2026 · 1h25IA no tribunal: segurança e confiança no futuro da Justiça
Como o Poder Judiciário está adotando a inteligência artificial, quais riscos cibernéticos vêm com ela e o que é preciso para construir um ambiente digital confiável nas instituições de justiça.
Victor El'osta, Head de Estratégia, Inovação e IA da Vortex, recebe Edivaldo Sartor, Eduardo Carvalho e Lucas Abrantes.
Assista no YouTube (abre em nova aba)
Perguntas frequentes
O que são guardrails de IA?
São controles técnicos em volta do modelo que limitam o que entra, o que sai e o que a IA pode fazer: filtros de entrada, validação da saída e limites de ação para agentes, com aprovação humana no que é irreversível. Ficam fora do modelo, no código, num gateway ou na plataforma.
Qual é a diferença entre segurança de IA e governança de IA?
A segurança de IA protege modelos, aplicações, agentes e dados contra ataques e uso indevido. A governança decide como a empresa usa IA: políticas, papéis, inventário, risco e conformidade. A governança diz o que proteger; a segurança faz valer.
O que é prompt injection?
É quando um texto que chega ao modelo muda o comportamento dele. Na direta, o usuário escreve as instruções, e o jailbreak tenta fazer o modelo violar as regras de segurança. Na indireta, as instruções vêm escondidas num documento, e-mail, página ou resposta de ferramenta. É o risco LLM01 do OWASP Top 10 para aplicações de LLM.
O que é shadow AI?
É o uso de ferramentas de IA sem aprovação da empresa, fora do inventário e dos controles. O risco principal é o vazamento de dados. O caminho é descobrir o uso, oferecer uma opção aprovada, publicar uma política e aplicar DLP para IA.
Como proteger agentes de IA?
Tratando cada agente como um usuário privilegiado: identidade própria, ferramentas mínimas e menor privilégio. Uma política fora do modelo valida cada ação, o que é irreversível espera aprovação humana, a memória é protegida e tudo fica registrado e monitorado pelo SOC.
A ISO/IEC 42001 é obrigatória?
Não. É uma norma internacional de sistema de gestão de IA, de 2023, com certificação voluntária (ISO), que clientes e contratos podem exigir. As obrigações legais vêm de leis como a LGPD e, para quem atua na Europa, o EU AI Act.
O PL 2338/2023 já é lei?
Não. O marco legal da IA foi aprovado pelo Senado em 10/12/2024 e está na Câmara desde 17/3/2025, aguardando o parecer do relator na comissão especial (Câmara, 02/11/2026). A LGPD já vale para todo uso de IA com dado pessoal.
O que é red teaming de IA?
São testes que simulam ataques ao sistema de IA, como prompt injection, jailbreak, extração de dados e abuso de ferramentas, para achar falhas antes de um atacante. O NIST AI 600-1 descreve a prática, antes e depois de o sistema entrar em uso.
Por onde começar a segurança de IA?
Pelo inventário: que modelos, aplicações, agentes e apps de IA a empresa usa, com ou sem aprovação, e que dados acessam. Depois, classifique o risco, defina política e responsáveis e proteja primeiro os casos de maior impacto. Na Vortex, o ponto de partida recomendado é o Assessment AI Journey.
Fontes
Páginas consultadas em 02/11/2026.
- OWASP Top 10 for LLM Applications 2026, agosto de 2026.
- OWASP Top 10 for Agentic Applications for 2026, 9/12/2025.
- MITRE ATLAS.
- NIST AI Risk Management Framework, AI RMF 1.0 (NIST AI 100-1), 26/1/2023.
- NIST AI 600-1: Generative Artificial Intelligence Profile, 26/7/2024.
- ISO/IEC 42001:2023 e ISO/IEC 42001 explained, ISO.
- AI Act: regulatory framework on AI, Comissão Europeia.
- Regulamento (UE) 2024/1689 e Regulamento (UE) 2026/1744, EUR-Lex.
- PL 2338/2023 na Câmara dos Deputados, ficha de tramitação.
- PL 2338/2023 no Senado Federal e notícia da aprovação, Agência Senado, 10/12/2024.
- Lei nº 13.709/2018 (LGPD), Planalto.
- Comunicação de incidente de segurança, ANPD.
Quer saber onde estão os riscos da IA na sua empresa?
Conte o momento da sua empresa com IA e um especialista da Vortex entra em contato.
Atualizado em