Conectar uma IA ao e-mail, Drive, CRM, loja ou sistema financeiro parece uma evolução natural depois que a ferramenta demonstra bons resultados em tarefas manuais.

O risco está em pular uma etapa.

Antes de perguntar o que o agente pode fazer, é preciso decidir o que ele deve ter permissão para fazer.

A OWASP descreve “Excessive Agency” como o risco de um sistema de IA possuir funcionalidade, permissões ou autonomia maiores do que as necessárias. O problema pode aparecer mesmo sem ataque: uma instrução ambígua, uma alucinação ou uma interpretação errada pode produzir uma ação real.

Por isso, segurança de agentes não começa no prompt. Começa no desenho do acesso.

Separe quatro níveis de ação

Uma forma simples de organizar permissões é dividir capacidades.

Nível 1: ler

A IA consulta informações.

Exemplos:

  • ler e-mails;
  • consultar documentos;
  • analisar métricas;
  • buscar pedidos;
  • ler agenda.

É o nível com menor capacidade de alterar o ambiente, embora ainda possa expor informações sensíveis se o acesso for amplo demais.

Nível 2: criar rascunho

A IA prepara algo, mas não executa.

Exemplos:

  • escrever resposta de e-mail;
  • montar proposta;
  • preparar postagem;
  • sugerir atualização de cadastro;
  • estruturar campanha.

Esse nível costuma oferecer grande ganho de produtividade com risco operacional menor, porque uma pessoa ainda decide o que sai do ambiente interno.

Nível 3: alterar

A IA modifica sistemas.

Exemplos:

  • mudar status de pedido;
  • editar documento;
  • atualizar CRM;
  • reagendar evento;
  • incluir informação em cadastro.

Aqui, erros já podem afetar processos e precisam de rastreabilidade.

Nível 4: produzir efeito externo

A IA envia, publica, compra, exclui, transfere ou gasta.

Esse nível deve ter controles mais fortes e, para ações relevantes, aprovação humana explícita.

Dê apenas o acesso necessário

Se o agente foi conectado para resumir e-mails, ele precisa enviar mensagens?

Se foi conectado para analisar pedidos, precisa cancelar pedidos?

Se deve ler documentos, precisa apagá-los?

A OWASP recomenda limitar extensões, funcionalidades e permissões ao mínimo necessário.

Na prática, prefira uma integração que ofereça somente leitura quando a tarefa exige apenas leitura.

“Pode fazer tudo” é mais cômodo na configuração e mais difícil de controlar depois.

Aprovação deve estar fora da interpretação do agente

Não peça apenas no prompt: “sempre me pergunte antes de apagar”.

Se a plataforma oferece confirmação obrigatória para exclusão, publicação ou pagamento, use esse controle.

A OWASP recomenda implementar autorização nos sistemas de destino e exigir aprovação humana para ações de alto impacto.

O motivo é simples: o mesmo modelo que decide o que fazer não deveria ser a única barreira que decide se tem autorização para fazê-lo.

Construa uma matriz de permissões

Uma tabela pequena pode ser suficiente.

Sistema Ler Criar rascunho Alterar Executar
E-mail sim sim não aprovação
Drive sim sim aprovação não
CRM sim sim aprovação não
Loja sim não aprovação aprovação
Pagamentos sim não não não

Essa tabela obriga a empresa a discutir limites concretos.

Também facilita revisar o ambiente quando o fornecedor adiciona novas capacidades ao agente.

Trate dinheiro como categoria especial

Um agente capaz de gerar uma campanha não precisa automaticamente poder aumentar orçamento.

Um agente que encontra uma fatura não precisa pagá-la.

Um agente que identifica cliente inadimplente não precisa emitir cobrança sem revisão.

A Meta, ao apresentar o Muse for Small Business, destacou que publicar, enviar ou gastar exige aprovação do usuário. Esse desenho representa uma boa referência prática: automação pode chegar até perto da decisão sem eliminar o ponto de controle.

Dados sensíveis exigem mapa próprio

Antes de conectar, marque quais sistemas contêm:

  • dados pessoais;
  • dados financeiros;
  • contratos;
  • documentos de clientes;
  • credenciais;
  • segredos comerciais;
  • informações de menores;
  • dados de saúde ou outras categorias sensíveis, quando aplicável.

O NIST AI RMF para IA generativa propõe gestão de risco ao longo do ciclo de vida do sistema e alinhamento às necessidades e tolerância a risco da organização.

Para um pequeno negócio, isso não precisa virar burocracia. Pode virar uma regra: dados de alto impacto recebem acesso mais restrito e revisão mais frequente.

Registre quem conectou o quê

Integrações esquecidas são um risco.

Mantenha um inventário com:

  • ferramenta de IA;
  • sistema conectado;
  • conta utilizada;
  • responsável;
  • data da conexão;
  • finalidade;
  • nível de permissão;
  • data prevista para revisão.

Quando um colaborador sai ou uma ferramenta deixa de ser usada, esse inventário mostra o que precisa ser revogado.

Revise depois de cada expansão de capacidade

Agentes mudam rápido.

Um conector que ontem apenas lia dados pode amanhã permitir edição. Uma nova versão pode adicionar ações que não existiam quando você aprovou a integração.

Por isso, não trate a autorização inicial como permanente.

Revisões trimestrais já são muito melhores do que nenhuma revisão.

Comece com um piloto reversível

A melhor primeira automação é uma tarefa que:

  • tem escopo pequeno;
  • usa dados não críticos;
  • produz saída revisável;
  • pode ser revertida;
  • possui responsável definido.

Um exemplo é resumir mensagens e criar rascunhos sem enviar.

Depois que a equipe entende o comportamento do agente, pode ampliar o acesso de forma consciente.

A regra mais útil

Antes de conceder uma permissão, complete a frase:

“A IA precisa deste acesso porque…”

Se a resposta for vaga, como “pode ser útil depois”, não conceda ainda.

A capacidade técnica de um agente pode crescer mais rápido do que a maturidade de uso da empresa. Quanto mais sistemas a IA atravessa, mais importante é tornar visível onde termina a automação e começa a responsabilidade humana.

Fontes consultadas

Vídeo relacionado

Mapeamento de dados: o que é e como fazer?

Fonte:LGPD para Cartórios