Criminosos digitais têm utilizado ferramentas da OpenAI para atrair administradores de sites a uma rede fraudulenta de SEO (otimização para motores de busca). A estratégia consiste em criar mensagens personalizadas com inteligência artificial generativa, capazes de contornar filtros e captchas.
A operação foi identificada pela empresa de cibersegurança SentinelOne. Segundo os pesquisadores, uma ferramenta conhecida como AkiraBot foi empregada para tentar distribuir spam a cerca de 420 mil sites — em 80 mil deles, a tentativa teve êxito.
Os principais alvos eram negócios de pequeno e médio porte. As mensagens eram enviadas por meio de formulários de contato ou sistemas de atendimento via chat. As mensagens automatizadas ofereciam pacotes de SEO por US$ 30 mensais — aparentemente, os serviços eram falsos ou praticamente inúteis.
“Quando um novo meio de comunicação digital ganha popularidade, agentes mal-intencionados inevitavelmente o exploram para espalhar spam, buscando tirar proveito de usuários desavisados”, alerta a SentinelOne. “O email continua sendo o canal mais comum para esse tipo de prática, mas a popularização de novas plataformas ampliou o campo de atuação para esses ataques.”
Como a IA foi usada pelos golpistas?
Os responsáveis pelo golpe recorreram à API da OpenAI para gerar mensagens personalizadas com auxílio do modelo GPT-4o Mini. O sistema foi instruído a se comportar como um “assistente prestativo que cria mensagens de marketing”.
O uso de IA generativa permitiu que os textos não fossem idênticos entre si, como normalmente acontece em campanhas de spam. Apesar de parecidos, eles apresentavam variações suficientes para burlar os filtros automáticos.
Ainda de acordo com a SentinelOne, o primeiro domínio ligado ao grupo foi registrado em 2022. Arquivos relacionados à operação têm datas a partir de setembro de 2024. A investigação também revelou como a ferramenta evoluiu. Inicialmente voltada para sites na Shopify, o script logo passou a mirar páginas hospedadas em outras plataformas, como GoDaddy, Wix e Squarespace.
Além de alterar o conteúdo das mensagens, o sistema era capaz de escapar de barreiras como captchas e evitar a detecção por mecanismos de segurança de rede.
Qual era o golpe?
As comunicações fraudulentas promoviam dois serviços de SEO chamados Akira e ServiceWrap. Ao que tudo indica, ambos eram fraudulentos ou de péssima qualidade.
Apesar disso, na plataforma TrustPilot, os dois acumulavam inúmeras avaliações com cinco estrelas — muitas provavelmente criadas por inteligência artificial — além de algumas notas baixas, denunciando o caráter suspeito da operação.
A SentinelOne identificou um padrão: diversas contas publicavam avaliações sobre outras empresas e, dias depois, atribuíam nota máxima ao Akira ou ao ServiceWrap. O comportamento sugere um esforço coordenado para inflar artificialmente a reputação dessas marcas.
O que diz a OpenAI?
Em resposta à SentinelOne, a OpenAI divulgou o seguinte posicionamento:
“Agradecemos à SentinelOne por compartilhar os resultados de suas pesquisas. Usar as respostas de nosso serviço como spam vai contra nossas políticas. A chave de API envolvida foi desativada; seguimos investigando o caso e bloquearemos outros recursos vinculados a esse grupo. Levamos o uso indevido muito a sério e estamos constantemente aprimorando nossos sistemas para detectar abusos.”
Com informações da SentinelOne e 404 Media