IA
Enquanto muitas empresas estão lançando intencionalmente a IA para impulsionar qualidade e eficiência, ferramentas de IA não autorizadas estão surgindo em ambientes corporativos com ainda mais velocidade. Os fornecedores de software estão incorporando a IA diretamente nos produtos que as empresas já usam (veja o caso do Microsoft Copilot e no Google Gemini), enquanto os funcionários estão entrando em ação por conta própria e instalando ferramentas às escondidas. Como resultado, as empresas estão encarando um canal de vazamento de dados mal gerenciado: a equipe cola informações de sistemas corporativos em chatbots de IA, enviando dados não apenas para o provedor de SaaS, mas diretamente para os desenvolvedores por trás do modelo de IA subjacente. Tanto os riscos quanto as estratégias de mitigação variam dependendo do tipo de sistema de IA em jogo. Dividimos esse tópico amplo, concentrando-nos fortemente em ferramentas para detectar e bloquear a IA em dois níveis distintos.
Tipos de sistemas de IA indesejados
Dependendo do tipo de IA em questão, gerenciar e bloquear seu uso requer um método diferente. É fundamental dividir a IA em quatro categorias distintas:
- Recursos de IA nativos de plataformas. Esse é o caso do Microsoft Copilot, Google Gemini e Apple Intelligence, juntamente com recursos de IA incorporados diretamente nos navegadores. O complicado sobre essas soluções é que elas são incorporadas aos elementos essenciais de rotina, estão instantaneamente disponíveis para todos os usuários (às vezes aparecendo de forma agressiva) e, o mais importante, os fornecedores tentam ativá-las por padrão.
- Complementos de IA incorporados em aplicativos de negócios. Esse grupo inclui a IA do Slack, Zoom AI Companion, a IA do Notion, o assistente Rovo do Jira e outras soluções semelhantes. Elas estão vinculadas a um único aplicativo e são completamente inseparáveis dele.
- Chatbots independentes baseados na web e em aplicativos. ChatGPT, Claude, Perplexity, Character AI, configurações locais como LM Studio, extensões de navegador e navegadores agênticos como Comet. Os aplicativos e serviços nesta categoria geralmente são adotados pelos funcionários por conta própria sem permissão e são exemplos clássicos da IA paralela.
- Agentes multifuncionais nativos da área de trabalho. Este grupo apresenta ferramentas como OpenClaw, NanoClaw, NemoClaw e outras. Elas representam a maior ameaça porque vêm com amplos direitos de acesso por padrão e processam ativamente dados não confiáveis da web aberta.
Como lidar com IA indesejada?
Cada empresa, dependendo do setor de atividade, apetite por inovação e tolerância ao risco, precisa traçar sua própria linha divisória entre casos de uso recomendados, aprovados caso a caso e os completamente proibidos para produtos de IA específicos. Setores regulamentados, como os de saúde, seguem um conjunto de regras, enquanto as empresas de varejo operam sob um playbook totalmente diferente. De qualquer forma, depois de analisar exatamente quais ferramentas de IA já entraram na organização, as políticas corporativas precisam ser ajustadas. É por isso que o imperativo de negócios número um é empregar as ferramentas de registro e segurança da informação existentes para verificar a infraestrutura corporativa.
Dependendo da estratégia escolhida, os sistemas de IA descobertos podem ser:
- Desativado ou restritos usando as configurações de política corporativa incorporadas nas próprias ferramentas
- Bloqueados no endpoint ou no nível da rede para criar uma rede de segurança contra soluções alternativas de política ou erros de configuração
- Transicionados para o acesso gerenciado, em que a ferramenta não é completamente bloqueada, mas roteada por meio de um gateway corporativo dedicado que verifica as permissões de acesso e monitora os padrões de uso
Detecção de sistemas de IA
A detecção de IA requer uma abordagem em várias camadas, pois diferentes métodos de detecção se complementam e funcionam melhor em tipos específicos de IA.
| Tecnologia | O que a solução é capaz de detectar? |
| DNS | Qualquer ferramenta de IA com um domínio identificável |
| Gateway da web ou NGFW | Qualquer ferramenta de IA com uma impressão digital de solicitação e resposta reconhecível (caminhos de endpoint da API, domínios e outros indicadores). Os filtros da web podem inspecionar o conteúdo do tráfego, e muitos gateways/NGFWs agora apresentam uma categoria dedicada para detectar e bloquear a IA generativa |
| EPP/EDR | LLMs implementados localmente (executando via Ollama, LM Studio e shells semelhantes), aplicativos de desktop nativos para ChatGPT ou Claude, navegadores de agentes e agentes de IA de código aberto. Um sinal de alerta indireto, mas forte, é a presença de Node.js, Python, Git, Docker ou outras ferramentas de conteinerização em máquinas pertencentes à equipe não técnica |
| Controle de aplicativos | Semelhante ao EPP/EDR, isso permite bloquear aplicativos indesejados imediatamente |
| Controle do navegador | Extensões de navegador com foco em IA e visitas a sites com tema de IA. Este é um salva-vidas se o gateway da web corporativo não puder inspecionar o tráfego criptografado |
| Gerenciamento de Postura de Segurança SaaS (SSPM) / Governança de Identidade | Permissões de OAuth solicitadas por aplicativos e serviços de IA, bem como quaisquer integrações de terceiros que se conectam aos principais hubs de produtividade (Microsoft 365, Google Workspace etc) |
Quase todas essas ferramentas permitem fazer mais do que apenas detectar a IA: elas permitem bloqueá-la completamente ou, no mínimo, alertar a equipe responsável.
De olho na OAuth
As soluções populares de IA administrativa, especialmente assistentes de reunião, agentes de automação de e-mail e calendário e semelhantes, obtêm acesso aos dados corporativos solicitando permissões OAuth diretamente das plataformas de comunicação, fluxo de trabalho de documentos ou videoconferência. Se um usuário tiver a oportunidade de conceder essas permissões a aplicativos de terceiros, os vazamentos de dados resultantes ignorarão completamente o perímetro da organização. Ferramentas como EDR e NGFW não detectarão nada se uma ferramenta como Read.ai capturar gravações de cada reunião realizadas no Microsoft Teams, por exemplo.
A medida mais drástica, que geralmente é a melhor, é impedir que usuários comuns concedam OAuth em primeiro lugar. Veja como lidar com a parte técnica (são necessários direitos de Administrador Global, Administrador de Aplicativos ou equivalentes):
Microsoft 365 / Entra ID
No centro de administração do Microsoft Entra, acesse Identidade > Aplicativos > Aplicativos empresariais > Consentimento e permissões > Configurações de consentimento do usuário. Nessa seção, o Consentimento do usuário para aplicativos pode ser desativado (confira guia completo da Microsoft).
Google Workspace
No Console de Administração do Google, acesse Segurança > Controle de acesso e dados > Controles de API. Em Gerenciar acesso ao aplicativo, o nível de confiança de todos os aplicativos pode ser definido: Confiável, Limitado, Dados específicos do Google ou Bloqueados. No entanto, a chave está na subseção Configurações do aplicativo não configurado, que determina o que acontece quando um usuário tenta conectar um aplicativo desconhecido. Para fechar essa brecha, selecione Não permitir que os usuários acessem aplicativos de terceiros.
Uma subseção separada, Gerenciar serviços do Google, permite ajustar exatamente como os aplicativos de terceiros interagem com os serviços do Google Workspace e do Google Cloud. Isso permite vetar o acesso para cada produto individual do Google (consulte o guia oficial do Google).
Salesforce
Em Configuração, use a caixa Busca rápida para pesquisar aplicativos conectados e selecione Gerenciar aplicativos conectados nos resultados. Embora as configurações sejam definidas para cada aplicativo externo individualmente, todos os usuários podem aprovar o acesso por padrão. Não há um botão de bloqueio geral aqui. Em vez disso, o Salesforce permite optar por usuários pré-autorizados aprovados pelo administrador (consulte o guia completo do Salesforce sobre isso).
Slack
No menu de configurações de administração, acesse Aplicativos e fluxos de trabalho -> Configurações de gerenciamento de aplicativos. Ajuste a configuração Exigir aplicativos aprovados selecionando Permitir somente aplicativos pré-aprovados. Depois de bloqueado, verifique novamente se nenhuma ferramenta de IA não autorizada foi inserida na lista de aplicativos aprovados.
