Google, gigante da tecnologia, anunciou na última quinta-feira (30) que irá aprimorar e reajustar os resumos de resultados de buscas gerados por inteligência artificial (IA). A decisão veio após a ferramenta apresentar respostas bizarras e imprecisas, como sugerir o consumo de pedras ou a adição de cola ao molho de pizza.
A empresa informou que reduzirá o escopo de pesquisas que retornam um resumo escrito por IA. Liz Reid, chefe de pesquisa do Google, afirmou que a empresa adicionou diversas restrições aos tipos de pesquisas que geram resultados de IA, além de limitar a inclusão de conteúdo satírico e humorístico.
O recurso “Visão Geral da IA”, lançado nos EUA neste mês, rapidamente gerou exemplos virais de informações mal interpretadas e uso de fontes satíricas, como o The Onion e posts de brincadeira do Reddit, para gerar respostas. As falhas da IA do Google se tornaram um meme, com capturas de tela falsas de respostas absurdas e obscuras circulando nas redes sociais.
O Google promoveu o recurso como um dos pilares de sua iniciativa para incorporar IA generativa em seus principais serviços, mas o lançamento resultou em mais um constrangimento público para a empresa. No início do ano, o Google enfrentou críticas e ridicularização após sua ferramenta de geração de imagens inserir erroneamente pessoas negras em situações históricas inadequadas.
Em seu blog, o Google fez um breve resumo dos problemas com a “Visão Geral da IA” e defendeu o recurso. Reid afirmou que muitas das respostas falsas foram resultado de lacunas em informações devido a pesquisas raras ou incomuns, além de tentativas intencionais de manipular a função para produzir respostas imprecisas.
Muitos dos posts virais vieram de pesquisas bizarras, mas outros pareciam ser de consultas mais razoáveis. Um especialista em IA compartilhou uma imagem de uma “Visão Geral da IA” afirmando que Barack Obama havia sido o primeiro presidente muçulmano dos EUA, uma teoria da conspiração comum da direita.
“Ao analisar exemplos das últimas semanas, conseguimos determinar padrões onde erramos e fizemos mais de uma dúzia de melhorias técnicas em nossos sistemas“, disse Reid.
Embora o Google enquadre os problemas como casos isolados, especialistas em IA comentam que as falhas indicam problemas mais amplos na capacidade da IA de avaliar a precisão factual e na automatização do acesso à informação.
O Google afirmou que o feedback dos usuários mostra maior satisfação com os resultados de pesquisa devido à “Visão Geral da IA”, mas as implicações mais amplas de suas ferramentas de IA e mudanças nas funções de pesquisa ainda não estão claras. Proprietários de sites temem que os resumos de IA sejam desastrosos para a mídia online, enquanto pesquisadores se preocupam com o Google consolidando ainda mais controle sobre o que o público vê na internet.
Fonte: Google
