O setor de inteligência artificial está em constante evolução, e as empresas estão em busca de criar motores de busca impulsionados por IA. O Google confirmou essa tendência, e a OpenAI, responsável pelo ChatGPT, também está testando sua própria versão, chamada ChatGPT Search. No entanto, essa ferramenta pode apresentar resultados enganosos.
Adicione ao Google NotíciasNeste artigo
Uma investigação realizada pelo The Guardian revelou que o ChatGPT Search é suscetível a manipulações. Os motores de busca baseados em IA coletam e processam dados para fornecer respostas resumidas, mas ainda há um longo caminho a percorrer para garantir a confiabilidade dos resultados.
Resultados do ChatGPT Search podem ser manipulados, alerta experimento
O funcionamento do ChatGPT Search permite que ele seja vulnerável a manipulações, como a técnica conhecida como “ad injection”. Essa abordagem envolve a inserção de conteúdo oculto no código de sites, o que pode distorcer os resultados apresentados pelos motores de busca. Isso significa que informações tendenciosas podem ser exibidas, favorecendo interesses específicos.
Por exemplo, um site de loja pode usar essa técnica para fazer com que o motor de busca mostre avaliações extremamente positivas de produtos, mesmo que existam muitas críticas negativas. O experimento realizado pelo The Guardian demonstrou que, ao criar uma página de produto falsa com instruções ocultas, o ChatGPT Search frequentemente retornava feedback positivo, ignorando as avaliações desfavoráveis.
É importante ressaltar que o ChatGPT Search ainda é uma ferramenta em fase de testes, disponível apenas para assinantes pagos. Isso sugere que a OpenAI está ciente das questões e provavelmente está trabalhando para solucioná-las antes de um lançamento mais amplo.
Especialistas recomendam cautela ao usar o ChatGPT Search
Especialistas, como Karsten Nohl, da SR Labs, aconselham uma abordagem cautelosa em relação aos resultados de busca gerados por IA. Ele sugere que devemos ver essas ferramentas como “co-pilotos”, ou seja, devemos usá-las com discernimento e não confiar cegamente nas informações que elas fornecem.
O Google enfrentou desafios semelhantes ao implementar suas funcionalidades de IA. Embora tenha feito melhorias significativas, ainda há espaço para avanços. A expectativa é que, em breve, os resultados de busca baseados em IA se tornem mais confiáveis.
Com o crescimento da inteligência artificial, é essencial que os usuários permaneçam atentos e críticos em relação às informações que recebem. O ChatGPT Search pode ser uma ferramenta útil, mas a verificação de fatos e a análise crítica continuam sendo fundamentais.




