10 riscos de segurança que você precisa conhecer ao usar IA no trabalho

Em meados de 2025, a inteligência artificial deixará de ser um conceito futurista no ambiente de trabalho. Ela estará incorporada aos fluxos de trabalho diários de marketing, jurídico, engenharia, suporte ao cliente, RH e muito mais. Modelos de IA agora auxiliam na elaboração de documentos, geração de relatórios, codificação e até mesmo na automação do suporte por chat interno. Mas, à medida que a dependência da IA ​​cresce, o cenário de riscos também cresce.

Um relatório A Cybersecurity Ventures projeta que os custos globais do crime cibernético chegarão a US$ 10.5 trilhões até 2025 , refletindo um aumento anual de 38% nas violações relacionadas à IA em comparação ao ano anterior. A mesma fonte estima que cerca de 64% das equipes corporativas utilizam IA generativa de alguma forma, enquanto apenas 21% dessas organizações possuem políticas formais de tratamento de dados em vigor.

Esses números não são apenas um rumor do setor — eles apontam para uma exposição crescente em larga escala. Com a maioria das equipes ainda contando com ferramentas de IA públicas ou gratuitas, a necessidade de conscientização sobre segurança de IA é urgente.

Abaixo estão os 10 riscos críticos de segurança que as equipes enfrentam ao usar IA no trabalho. Cada seção explica a natureza do risco, como ele opera, por que representa perigo e onde aparece com mais frequência. Essas ameaças já estão afetando organizações reais em 2025.

Vazamento de entrada por meio de prompts

Uma das falhas de segurança mais frequentes começa na primeira etapa: o próprio prompt. Nos departamentos de marketing, RH, jurídico e atendimento ao cliente, os funcionários costumam colar documentos confidenciais, e-mails de clientes ou código interno em ferramentas de IA para redigir respostas rapidamente. Embora isso pareça eficiente, a maioria das plataformas armazena pelo menos alguns desses dados em servidores de back-end, onde podem ser registrados, indexados ou usados ​​para aprimorar modelos. De acordo com um relatório de 2025 da Varonis, 99% das empresas admitiram compartilhar dados confidenciais ou de clientes com IA serviços sem aplicar controles de segurança internos.

Quando os dados da empresa entram em plataformas de terceiros, eles frequentemente ficam expostos a políticas de retenção e acesso de funcionários que muitas empresas não controlam totalmente. Mesmo os modos "privados" podem armazenar fragmentos para depuração. Isso aumenta os riscos legais, especialmente sob o GDPR, HIPAA e leis semelhantes. Para reduzir a exposição, as empresas agora usam filtros para remover dados confidenciais antes de enviá-los para ferramentas de IA e definem regras mais claras sobre o que pode ser compartilhado.

Armazenamento de dados ocultos em registros de IA

Muitos serviços de IA mantêm registros detalhados de solicitações e saídas do usuário, mesmo depois que o usuário as exclui. Relatório de Ameaças de Dados da Thales de 2025 observado que 45% das organizações sofreram incidentes de segurança envolvendo dados persistentes em registros de IA.

Isso é especialmente crítico em setores como finanças, direito e saúde, onde até mesmo um registro temporário de nomes, detalhes de contas ou históricos médicos pode violar acordos de conformidade. Algumas empresas presumem que remover dados no front-end é suficiente; na realidade, os sistemas de back-end costumam armazenar cópias por dias ou semanas, especialmente quando usados ​​para otimização ou treinamento.

As equipes que buscam evitar essa armadilha estão cada vez mais recorrendo a planos empresariais com acordos rígidos de retenção de dados e implementando ferramentas que confirmam a exclusão do backend, em vez de depender de botões vagos no painel que dizem "excluir histórico".

Desvio do modelo por meio do aprendizado em dados sensíveis

Ao contrário do software tradicional, muitas plataformas de IA aprimoram suas respostas aprendendo com a entrada do usuário. Isso significa que um prompt contendo linguagem jurídica exclusiva, estratégia do cliente ou código proprietário pode afetar resultados futuros fornecidos a usuários não relacionados. O Índice de IA de Stanford 2025 registrou um aumento de 56% em relação ao ano anterior em casos relatados em que dados específicos da empresa apareceram inadvertidamente em saídas em outros lugares.

Em setores onde a vantagem competitiva depende da propriedade intelectual, mesmo pequenos vazamentos podem prejudicar a receita e a reputação. Como o aprendizado ocorre automaticamente, a menos que seja especificamente desabilitado, muitas empresas agora exigem implantações locais ou modelos isolados que não retêm dados do usuário nem aprendem com informações confidenciais.

Phishing e fraude gerados por IA

A IA tornou os ataques de phishing mais rápidos, mais convincentes e muito mais difíceis de detectar. Em 2025, O DMARC relatou um aumento de 4000% em campanhas de phishing geradas por IA, muitas das quais usaram padrões autênticos de linguagem interna coletados de dados vazados ou públicos da empresa. De acordo para Hoxhunt, golpes de deepfake baseados em voz aumentaram 15% este ano , com danos médios por ataque chegando a US$ 4.88 milhões.

Esses ataques frequentemente imitam padrões de fala e estilos de comunicação de executivos com tanta precisão que os treinamentos tradicionais de segurança não os impedem mais. Para se protegerem, as empresas estão expandindo ferramentas de verificação de voz, implementando canais de confirmação secundários para aprovações de alto risco e treinando funcionários para sinalizar linguagem suspeita, mesmo quando parece polida e sem erros.

Controle fraco sobre APIs privadas

Na pressa de implementar novas ferramentas, muitas equipes conectam modelos de IA a sistemas como dashboards ou CRMs usando APIs com proteção mínima. Essas integrações frequentemente ignoram práticas essenciais, como rotação de tokens, limites de taxa ou permissões específicas do usuário. Se um token vazar — ou for descoberto —, invasores podem roubar dados ou manipular sistemas conectados antes que alguém perceba.

Este risco não é teórico. Um recente Estudo da Akamai descobriu que 84% dos especialistas em segurança relataram um incidente de segurança de API no ano passado. E quase metade das organizações sofreram violações de dados porque tokens de API foram expostos. Em um caso, pesquisadores foram encontrados mais de 18,000 segredos de API expostos em repositórios públicos .

Como essas pontes de API operam silenciosamente em segundo plano, as empresas geralmente detectam violações somente após comportamentos estranhos em análises ou registros de clientes. Para impedir isso, as principais empresas estão reforçando os controles, impondo ciclos de vida curtos para os tokens, realizando testes de penetração regulares em endpoints conectados à IA e mantendo registros de auditoria detalhados de todas as atividades da API.

Adoção de IA de Sombra em Equipes

Em 2025, o uso não autorizado de IA — conhecido como “IA Sombra” — terá se generalizado. O estudo da Zluri descobriu que 80% do uso de IA empresarial acontece por meio de ferramentas não aprovadas pelos departamentos de TI.

Os funcionários frequentemente recorrem a extensões de navegador para download, geradores de low-code ou chatbots públicos de IA para atender a necessidades imediatas. Essas ferramentas podem enviar dados internos para servidores não verificados, não ter criptografia ou coletar registros de uso ocultos da organização. Sem visibilidade sobre quais dados são compartilhados, as empresas não conseguem garantir a conformidade ou manter o controle.

Para combater isso, muitas empresas agora implementam soluções de monitoramento interno que sinalizam serviços desconhecidos. Elas também mantêm listas selecionadas de ferramentas de IA aprovadas e exigem que os funcionários interajam apenas por meio de canais autorizados que acompanham ambientes seguros.

Injeção rápida e modelos manipulados

A injeção de prompt ocorre quando alguém incorpora instruções prejudiciais em modelos de prompt compartilhados ou entradas externas — ocultas em texto legítimo. Por exemplo, um prompt projetado para "resumir o e-mail mais recente do cliente" pode ser alterado para extrair históricos inteiros de threads ou revelar conteúdo confidencial involuntariamente. OWASP 2025 GenAI Security Top 10 lista a injeção rápida como uma vulnerabilidade líder , alertando que as entradas fornecidas pelo usuário — especialmente quando combinadas com dados externos — podem facilmente substituir as instruções do sistema e ignorar as salvaguardas.

Organizações que dependem de bibliotecas internas de prompts sem supervisão adequada correm o risco de problemas em cascata: exposição indesejada de dados, saídas enganosas ou fluxos de trabalho corrompidos. Esse problema surge frequentemente em sistemas de gestão do conhecimento e em respostas automatizadas a clientes ou a órgãos jurídicos baseadas em modelos de prompts. Para combater essa ameaça, especialistas recomendam a aplicação de um processo de governança em camadas: verificar centralmente todos os modelos de prompts antes da implantação, higienizar entradas externas sempre que possível e testar os prompts em ambientes isolados para garantir que nenhuma instrução oculta seja transmitida.

Problemas de conformidade com saídas não verificadas

A IA generativa frequentemente produz textos bem elaborados, mas esses resultados podem estar incompletos, imprecisos ou até mesmo em desacordo com as normas. Isso é especialmente perigoso nos setores financeiro, jurídico ou de saúde, onde pequenos erros ou linguagem enganosa podem resultar em multas ou responsabilização.

De acordo com as Pesquisa da ISACA de 2025 revela que 83% das empresas relatam IA generativa em uso diário , mas apenas 31% possuem políticas internas formais de IA. De forma alarmante, 64% dos profissionais expressaram séria preocupação com o uso indevido — mas apenas 18% das organizações investem em medidas de proteção, como detecção de deepfakes ou avaliações de conformidade.

Como os modelos de IA não compreendem nuances legais, muitas empresas agora exigem conformidade humana ou revisão legal de qualquer conteúdo gerado por IA antes do uso público. Essa medida garante que as alegações atendam aos padrões regulatórios e evitem enganar clientes ou usuários.

Riscos de plugins de terceiros

Muitas plataformas de IA oferecem plugins de terceiros que se conectam a e-mails, calendários, bancos de dados e outros sistemas. Esses plugins geralmente carecem de análises de segurança rigorosas e Um relatório de segurança de IA da Check Point Research de 2025 descobriu que 1 em cada 80 prompts de IA apresentava um alto risco de vazamento Dados sensíveis — parte desse risco se origina de interações assistidas por plugins. A Check Point também alerta que ferramentas de IA não autorizadas e integrações mal configuradas estão entre as principais ameaças emergentes à integridade dos dados corporativos.

Quando instalados sem revisão, os plugins podem acessar suas entradas, saídas e credenciais associadas. Eles podem enviar essas informações para servidores externos fora da supervisão corporativa, às vezes sem criptografia ou registro de acesso adequado.

Várias empresas agora exigem verificação de plug-ins antes da implantação, permitem apenas plug-ins na lista de permissões e monitoram transferências de dados vinculadas a integrações de IA ativas para garantir que nenhum dado saia de ambientes controlados.

Falta de governança de acesso em ferramentas de IA

Muitas organizações dependem de contas de IA compartilhadas sem permissões específicas de usuário, tornando impossível rastrear quem enviou quais prompts ou acessou quais resultados. Relatório Varonis 2025 analisando 1,000 ambientes de nuvem descobriram que 98% das empresas utilizavam aplicativos de IA não verificados ou não autorizados, e 88% mantinham usuários fantasmas com acesso persistente a sistemas sensíveis (fonte). Essas descobertas destacam que quase todas as empresas enfrentam lacunas de governança que podem levar a vazamentos de dados não rastreáveis.

Quando o acesso individual não é rastreado, o uso indevido de dados internos — seja acidental ou malicioso — muitas vezes passa despercebido por longos períodos. Credenciais compartilhadas confundem a responsabilidade e complicam a resposta a incidentes quando ocorrem violações. Para lidar com isso, as empresas estão migrando para plataformas de IA que impõem permissões granulares, registros de atividades em nível de prompt e atribuição de usuários. Esse nível de controle permite detectar comportamentos incomuns, revogar acessos inativos ou não autorizados imediatamente e rastrear qualquer atividade de dados até um indivíduo específico.

O que fazer agora

Observe como suas equipes realmente usam a IA no dia a dia. Mapeie quais ferramentas lidam com dados privados e veja quem pode acessá-los. Estabeleça regras claras sobre o que pode ser compartilhado com sistemas de IA e crie uma lista de verificação simples: rotacione tokens de API, remova plugins não utilizados e confirme se qualquer ferramenta que armazene dados possui opções reais de exclusão. A maioria das violações acontece porque as empresas presumem que "alguém está observando". Na realidade, a segurança começa com as pequenas medidas que você toma hoje.