PassRugby
Parece Googlea mais recente tentativa de tornar a vida das pessoas mais fácil com inteligência artificial (IA) está saindo pela culatra.
A nova ferramenta da gigante da tecnologia, ‘Visões gerais de IA’, oferece aos usuários resumos de resultados de pesquisa com tecnologia de IA no Chrome, Firefox e no navegador de aplicativos do Google.
Mas desde que começou a ser lançado este mês, as pessoas notaram que ele retorna declarações e sugestões incorretas – muitas das quais são perigosas.
Entre eles, afirma que você pode ‘usar gasolina para fazer um prato de espaguete picante’, comer pedras e colocar cola na pizza.
Em resposta à pesquisa “queijo não gruda na pizza”, o Google sugere adicionar “cola não tóxica” ao molho para torná-lo mais pegajoso”.
Em resposta à pesquisa ‘queijo não gruda na pizza’, o Google sugere adicionar ‘cola não tóxica’ ao molho para dar-lhe mais pegajosidade’
De acordo com a beiraesta resposta vem originalmente de um comentário brincalhão feito no Reddit há mais de uma década.
Outro usuário que pesquisou 'Quantas pedras devo comer' obteve uma resposta originada de um artigo do site satírico The Onion em 2021.
AI Overviews diz: 'De acordo com geólogos da UC Berkeley, você deve comer pelo menos uma pequena pedra por dia.'
E continuou: 'Dizem que as rochas são uma fonte vital de minerais e vitaminas importantes para a saúde digestiva.'
A ferramenta do Google também afirmou que um cachorro jogou na NBA, que astronautas encontraram gatos na Lua e que o ex-presidente dos EUA, James Madison, se formou 21 vezes na Universidade de Wisconsin.
No X, o analista de internet Jeremiah Johnson postou um tópico de respostas ainda mais bizarras, incluindo baratas que podem viver em seu pênis sem que você perceba, médicos recomendando fumar durante a gravidez e olhar para o sol com segurança por 5 a 15 minutos.
Toby Walsh, professor de IA da Universidade de Nova Gales do Sul em Sydney, disse que a UNSW Sydney chamou isso de “desastre de relações públicas para o gigante das buscas”.
AI Overviews diz: 'De acordo com geólogos da UC Berkeley, você deve comer pelo menos uma pequena pedra por dia.'
No X, o analista de internet Jeremiah Johnson postou um tópico com respostas ainda mais bizarras, incluindo médicos recomendando fumar durante a gravidez
Como explica o professor Walsh, AI Overviews é um tipo de 'IA generativa' – a mesma tecnologia que alimenta o produto rival ChatGPT – para fornecer resumos de resultados de pesquisa, extraídos de dados na web.
Mas as ferramentas generativas de IA não sabem o que é verdade e o que não é – apenas o que é popular (por exemplo, o artigo da Onion sobre comer pedras).
'Pergunte “como manter as bananas frescas por mais tempo” e ele usa IA para gerar um resumo útil de dicas como armazená-las em um local fresco e escuro e longe de outras frutas como maçãs,' escreveu o acadêmico em A conversa.
'Mas faça uma pergunta esquerdista e os resultados podem ser desastrosos ou até perigosos.'
Em comunicado oficial, o Google disse que está “tomando medidas rápidas quando apropriado” para tornar as respostas da ferramenta mais precisas.
“A grande maioria das visões gerais de IA fornece informações de alta qualidade, com links para se aprofundar na web”, disse um porta-voz.
Olhar para o sol é seguro por 5 a 15 minutos ‘ou até 30 minutos se você tiver pele mais escura’, de acordo com a IA
Como outras empresas de tecnologia, o Google voltou seu foco para IA desde o sucesso do ChatGPT (foto de arquivo)
'Muitos dos exemplos que vimos foram consultas incomuns, e também vimos exemplos que foram adulterados ou que não conseguimos reproduzir.
'Realizamos testes extensivos antes de lançar esta nova experiência e, como acontece com outros recursos que lançamos na Pesquisa, agradecemos o feedback.
'Estamos tomando medidas rápidas quando apropriado de acordo com nossas políticas de conteúdo e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas.'
O AI Overviews foi lançado primeiro para pessoas nos EUA, embora mais de 1 bilhão de pessoas em todo o mundo tenham acesso a ele até o final do ano, espera o Google.
Anunciando o recurso em um postagem no blog em 14 de maio, a empresa afirmou que dá respostas rápidas aos usuários e ajuda quem precisa de informações com pressa.
Como outras empresas de tecnologia, o Google voltou seu foco para a IA desde o sucesso do ChatGPT.
No ano passado, o Google lançou sua própria IA, Gemini, como rival do ChatGPT, mas o chatbot tem enfrentado vários problemas.
Isso culminou com o Google pausando o Gemini AI depois que ele foi acusado de substituindo figuras históricas brancas, incluindo soldados nazistascom pessoas de cor.
Source link
