Sistema interno feito com IA: como a equipe expõe dados da empresa sem perceber

A cena é cada vez mais comum: alguém do comercial cansou de controlar os pedidos na planilha, abriu uma ferramenta de IA que cria aplicativos a partir de uma descrição, e em uma tarde tinha um painel funcionando. Mandou o link para o grupo da equipe. Todo mundo adorou.

O que ninguém perguntou: onde ficam os dados de clientes que entraram nesse painel, quem mais consegue abrir aquele link e se a tabela por trás dele está aberta para qualquer pessoa na internet. Na maioria das vezes, a resposta da última pergunta é sim.

O que mudou: qualquer pessoa cria um sistema

Por décadas, criar um sistema exigia um time técnico — e o time, por ofício, pensava em quem podia acessar o quê. Ferramentas de geração de código por IA tiraram essa barreira. Hoje, quem descreve bem o que quer recebe um aplicativo funcionando, publicado num endereço próprio, em minutos.

Isso é bom para a empresa em muitos sentidos: a equipe resolve o próprio problema, testa ideias e mostra o que precisa. Já falamos sobre o que mudou no custo de software em IA escrevendo código: o que mudou no custo de software e o que não mudou.

O ponto é que a ferramenta entrega o que foi pedido. E quase ninguém pede "controle de acesso por registro, chaves fora do navegador e banco fechado por padrão" — porque quem não é da área não sabe que precisa pedir.

A IA não esquece a segurança por descuido. Ela entrega exatamente o que foi descrito — e a segurança raramente está na descrição.

Não é hipótese: os casos que já aconteceram

Aplicativos gerados com o banco aberto. Em 2025, o pesquisador Matt Palmer analisou 1.645 aplicativos publicados na vitrine de uma plataforma popular de criação de apps por IA e encontrou 170 com tabelas que qualquer visitante conseguia ler — e, em parte deles, alterar. A falha foi registrada como CVE-2025-48757: o banco não tinha regras que limitassem o acesso de cada usuário aos próprios registros.

Conversas de IA no Google. Em julho de 2025, uma reportagem mostrou cerca de 4.500 conversas compartilhadas do ChatGPT indexadas pelo Google, algumas com nomes, lugares e detalhes pessoais. As pessoas tinham marcado uma opção para tornar o link encontrável. A OpenAI retirou o recurso em agosto.

Código-fonte colado no chat. Em 2023, engenheiros da Samsung colaram código interno e anotações de reunião num assistente de IA para pedir ajuda. A empresa restringiu o uso dessas ferramentas logo depois.

Em nenhum dos casos houve ataque sofisticado. Houve gente bem-intencionada usando uma ferramenta útil sem saber o que ela fazia com os dados.

O relatório Cost of a Data Breach 2025, da IBM, mediu o efeito: uma em cada cinco organizações relatou vazamento ligado a shadow AI — o uso de IA fora do controle da empresa —, e só 37% tinham política para identificar ou gerenciar esse uso. No Brasil, segundo a edição local do mesmo estudo, o custo médio de um vazamento chegou a R$ 7,19 milhões.

Como o vazamento acontece, na prática

Quase sempre por um destes caminhos, e muitas vezes por mais de um ao mesmo tempo:

Link aberto sem login. O sistema é publicado num endereço público, e quem tem o link vê tudo. Links se espalham: vão para grupos, e-mails, prints, e às vezes para buscadores.

Banco sem regra por registro. O aplicativo tem login, mas o banco de dados por trás responde a qualquer consulta. Quem abre o código da página descobre como pedir a tabela inteira.

Chave dentro da página. A senha de acesso ao banco ou a uma API vai junto com o código que roda no navegador. Qualquer pessoa com conhecimento básico consegue lê-la.

Dados reais desde o primeiro teste. Para ver se funciona, a pessoa importa a planilha de clientes verdadeira. O sistema de teste vira, sem ninguém decidir, um sistema com dados pessoais em produção.

Ninguém sabe que existe. O sistema não está em nenhum inventário, não tem responsável técnico e continua no ar depois que a pessoa que o criou sai da empresa.

O que a LGPD diz quando quem vazou foi alguém de dentro

Para a Lei Geral de Proteção de Dados, quem responde pelo tratamento é a empresa — o controlador. Não importa se o sistema foi aprovado pela diretoria ou montado por um estagiário numa tarde: os dados de clientes que estão nele são da responsabilidade da empresa.

Isso inclui adotar medidas de segurança para proteger os dados e, quando um incidente puder causar risco ou dano relevante aos titulares, comunicar a ANPD e as pessoas afetadas. O prazo para comunicar a ANPD é de três dias úteis a partir de quando a empresa toma conhecimento. Explicamos o processo completo em Vazamento de dados e LGPD: o que fazer antes e depois.

"Foi um funcionário, não um hacker" não é defesa. Para a lei e para o cliente, o dado vazou da empresa.

Proibir não funciona. O que funciona

A reação instintiva é proibir ferramentas de IA. Ela tem dois problemas: a equipe continua usando, só que no celular pessoal e longe de qualquer controle; e a empresa perde o ganho real que essas ferramentas trazem. O caminho que funciona tem quatro partes:

Uma política de uma página. O que pode e o que não pode, em linguagem simples: dados de clientes não entram em ferramenta sem contrato corporativo; nada vai para a internet sem revisão; quem criou avisa.

Ferramentas aprovadas. Versões corporativas, com contrato que diga o que o fornecedor faz com os dados e com a opção de não usar o conteúdo para treinar modelos. Se a empresa não oferece um caminho oficial, a equipe cria o próprio.

Inventário sem punição. Uma lista do que já foi criado, com quem é o responsável e que dados usa. Perguntar com tom de caça às bruxas garante que ninguém conte nada.

Revisão antes de publicar. Todo sistema com dado da empresa passa por alguém técnico antes de ir para a internet: login, regras de acesso no banco, chaves fora do navegador, dados de teste no lugar dos reais.

Checklist para o que já está no ar

Se a equipe já criou sistemas com IA, estas perguntas separam o que é seguro do que precisa de atenção hoje:

Abrir o endereço numa aba anônima mostra algum dado sem pedir login?

Um usuário logado consegue ver registros de outro usuário trocando um número no endereço?

Existe alguma chave, senha ou token no código que o navegador carrega?

O banco de dados tem regras de acesso por registro ativadas e testadas?

Os dados lá dentro são reais? Precisam ser?

A conta da plataforma é da empresa, ou de um e-mail pessoal de quem criou?

Se quem criou sair amanhã, alguém sabe que esse sistema existe?

Qualquer "sim" nas três primeiras perguntas, ou "não" na quarta, é motivo para tirar o sistema do ar até corrigir. Os critérios técnicos completos estão em Segurança em plataformas com IA: o que verificar antes de produção.

Quando o sistema da equipe deve virar sistema da empresa

Muitas vezes, o aplicativo que alguém montou numa tarde é a melhor especificação que a empresa já teve: mostra exatamente o que o processo precisa, testado por quem usa. Jogar isso fora seria desperdício.

Quando ele passa a guardar dados de clientes, a ser usado todo dia ou a ser compartilhado fora da equipe, é hora de reconstruí-lo como sistema da empresa — com controle de acesso, banco protegido, cópias de segurança e alguém responsável por ele. A ideia continua sendo de quem criou; a base passa a ser de quem sabe protegê-la.

Resumo

Ferramentas de IA colocaram a criação de sistemas na mão de qualquer pessoa, e com ela a chance de publicar dados da empresa num link aberto. Os casos de 2025 mostram que isso já acontece em escala, sem ataque nenhum. A empresa responde pelo vazamento, independentemente de quem o causou. Proibir empurra o problema para o escuro; o que funciona é política curta, ferramenta aprovada, inventário sem punição e revisão técnica antes de qualquer coisa ir para a internet.