Quando o assistente de compras com IA encontra os “agentes fraudulentos”
O novo desafio da era do comércio com agentes inteligentes
Nos últimos anos, o varejo entrou rapidamente na era do “comércio com agentes inteligentes”. Cada vez mais lojas online estão adotando assistentes de compras baseados em IA, capazes de conversar com os clientes, recomendar produtos, resolver dúvidas e até processar trocas ou reembolsos automaticamente.
Porém, junto com essa inovação surge um novo problema: criminosos também estão usando IA para automatizar fraudes no comércio eletrônico.
Esses chamados “agentes maliciosos” conseguem explorar sistemas automatizados para realizar golpes como:
- Solicitações de reembolso fraudulentas
- Abuso de políticas de devolução
- Manipulação de promoções
- Arbitragem ilegal entre revendedores
Ou seja, a mesma tecnologia que melhora a experiência do cliente também pode abrir portas para fraudes mais sofisticadas e automatizadas.
O aumento do risco em transações geradas por IA
A empresa especializada em proteção contra fraudes no e-commerce Riskified anunciou recentemente uma grande atualização em sua plataforma voltada para interações com agentes de IA.
Segundo dados da empresa, transações originadas por grandes modelos de linguagem (LLMs) apresentam um nível de risco significativamente maior. Em alguns setores, o risco pode ser até 2,3 vezes maior do que o tráfego vindo de buscas no Google.
Isso acontece porque sistemas automatizados podem ser utilizados para realizar operações em grande escala, dificultando a identificação de comportamentos suspeitos.
Para enfrentar esse cenário, a Riskified quer criar uma camada confiável de inteligência de risco, capaz de equilibrar dois fatores essenciais:
- Personalização da experiência do cliente
- Segurança nas transações digitais
As duas novas camadas de proteção
Para lidar com esse novo tipo de ameaça, a empresa lançou duas funcionalidades principais.
1. Sinais de Identidade de Agentes de IA (AI Agent Identity Signals)
Essa tecnologia utiliza a vasta base de dados da rede de comerciantes da Riskified para avaliar em tempo real quem está por trás de um agente de IA.
Com isso, assistentes virtuais podem analisar durante a conversa se um usuário:
- É elegível para um reembolso imediato
- Tem histórico confiável de compras
- Apresenta sinais de comportamento suspeito
Assim, decisões importantes — como trocas ou devoluções — passam a ser baseadas em inteligência de risco em tempo real.
2. Construtor de Políticas para Agentes de IA (AI Agent Policy Builder)
A segunda novidade é uma ferramenta voltada diretamente para os comerciantes.
Com o Policy Builder, as empresas podem configurar regras específicas para proteger seus sistemas de IA contra abusos, como:
- Devoluções automatizadas fraudulentas
- Uso indevido de promoções
- Compras em massa feitas por bots
- Manipulação de políticas comerciais
Isso permite que as empresas controlem melhor como seus assistentes de IA tomam decisões, evitando prejuízos.
Parceria para fortalecer o ecossistema digital
Além das novas ferramentas, a Riskified também anunciou uma parceria estratégica com a empresa de cibersegurança HUMAN Security.
A colaboração integra a tecnologia AgenticTrust, da HUMAN, com a expertise da Riskified em gerenciamento de risco.
O objetivo é criar um sistema que aplique as mesmas regras de confiança tanto para humanos quanto para agentes de IA, garantindo um ambiente mais seguro para todos.
O desafio da confiança na era dos agentes inteligentes
Segundo Assaf Feldman, cofundador e CTO da Riskified, a questão da identidade se torna muito mais complexa quando IA começa a agir em nome das pessoas nas transações digitais.
Em outras palavras, o grande desafio agora é responder perguntas como:
- Quem realmente está por trás de uma interação automatizada?
- O agente representa um cliente legítimo ou um fraudador?
- A transação pode ser considerada confiável?
Ferramentas como as que estão sendo desenvolvidas pela Riskified ajudam a transformar essa nova realidade em uma oportunidade.
O futuro do comércio com IA
Apesar dos riscos, o uso de assistentes de compras inteligentes deve continuar crescendo rapidamente.
Quando combinadas com sistemas avançados de detecção de fraude e verificação de identidade, essas tecnologias podem permitir que empresas:
- Automatizem o atendimento ao cliente
- Aumentem a eficiência operacional
- Ofereçam experiências mais personalizadas
- Reduzam perdas com fraudes
No final das contas, a missão é clara: transformar uma possível ameaça em um novo motor sustentável de crescimento digital.