Especialistas em tecnologia estão preocupados com a forma como modelos de Inteligência Artificial são treinados e com a possibilidade de criminosos explorarem brechas para espalhar desinformação.
Um repórter da BBC News conseguiu fazer com que o ChatGPT e o Gemini, a IA do Google, afirmassem uma bobagem: que ele, Thomas Germain, é o jornalista de tecnologia que mais come cachorros-quentes no mundo. O processo para convencê‑los foi rápido.
smart_display
Nossos vídeos em destaque
Blogpost foi o começo da manipulação
Germain publicou em seu próprio blog um texto intitulado “Os melhores jornalistas de tecnologia em comer cachorros quentes”. No artigo, ele inventou um ranking do Campeonato Internacional de Cachorro Quente da Dakota do Sul de 2026, colocando-se em primeiro lugar e mencionando outros jornalistas, alguns reais e outros fictícios.
Ao consultar o ChatGPT e até ao pesquisar no Google, as respostas geradas por IA indicavam que ele era o vencedor dessa competição de comer cachorros-quentes. O Claude, modelo da Anthropic, foi o único que não foi enganado no teste do repórter.
Por que as IAs são mais fáceis de enganar
Essa técnica não é nova: trata‑se de uma forma de manipulação por meio de SEO (Otimização para Motores de Busca), usada para melhorar o posicionamento de sites nas páginas de resultados do Google.
O problema maior com as IAs é que as pessoas estão cada vez menos propensas a verificar as fontes das informações que recebem. Por ética, empresas como a OpenAI, desenvolvedora do ChatGPT, adotaram medidas para facilitar a checagem de fatos.
Por exemplo, quando o GPT realiza buscas para compor uma resposta, ele costuma exibir o link da fonte ao usuário. No caso de Germain, a IA até mencionava o post e deixava o site linkado, mas não deixou claro que aquele artigo era a única fonte disponível sobre o assunto.
As consequências dessa fragilidade vão além de brincadeiras inofensivas. Cooper Quintin, tecnologista sênior da Electronic Frontier Foundation, organização que defende direitos digitais, alerta que as possibilidades de abuso são muitas: golpes financeiros, destruição de reputação e até indução a riscos físicos.
Harpreet Chatha, especialista em SEO, apresentou à BBC um exemplo prático: ao buscar avaliações sobre uma marca de balas de cannabis, o Google reproduziu textos produzidos pela própria empresa, incluindo a falsa alegação de que o produto “é livre de efeitos colaterais”.
Na realidade, o produto tem efeitos conhecidos e pode ser perigoso para quem faz uso de certos medicamentos.
O que os criminosos podem fazer
O truque pode ser ampliado. Além de criar um blog, criminosos podem pagar para publicar conteúdo em sites mais confiáveis — como serviços de distribuição de press releases ou espaços patrocinados em portais de notícias.
Chatha mostrou exemplos de resultados manipulados para buscas como “melhores clínicas de transplante capilar na Turquia” e “melhores empresas de IRA em ouro” — um tipo de investimento para aposentadoria — todos alimentados por esse tipo de conteúdo pago.
Muito interesse e pouco raciocínio
A dimensão do problema também é preocupante. O Google afirma que 15% das buscas diárias são totalmente novas, justamente as mais vulneráveis, pois há menos conteúdo de qualidade para orientar as respostas das IAs.
Um estudo citado pela BBC mostra que as pessoas têm 58% menos probabilidade de clicar em um link quando uma resposta de IA aparece no topo do Google. Ou seja, a IA não só entrega a desinformação como também bloqueia o caminho que o usuário usaria para verificá‑la.
Lilly Ray, vice‑presidente de estratégia de SEO e pesquisa da agência de marketing Amsive, disse à BBC que esta é uma era propícia para criminosos. Esse tipo de tática já existia no início dos anos 2000, antes mesmo de o Google montar equipes de combate a spam; hoje, é muito mais fácil enganar tanto as ferramentas quanto os usuários.
Especialistas afirmam que isso também ocorre porque os usuários têm se acomodado às respostas das IAs. Com a rapidez na entrega de informação, pulamos etapas de pesquisa e diminuímos o senso crítico necessário para desconfiar de dados que parecem duvidosos.
Acompanhe o TecMundo nas redes sociais. Para mais notícias sobre segurança e tecnologia, inscreva‑se em nossa newsletter e no nosso canal do YouTube.
