Google revisa respostas geradas por IA devido a erros

O Google está tomando medidas para melhorar seus resultados de busca elaborados com inteligência artificial generativa, após críticas e zombarias de usuários devido a erros como afirmar que Barack Obama foi o primeiro presidente muçulmano dos Estados Unidos. Os “Resumos de IA” foram alvo de críticas por fornecerem respostas incorretas ou estranhas a perguntas incomuns, levando a empresa a agir rapidamente para corrigir esses problemas.

Um porta-voz do Google afirmou que estão sendo tomadas medidas rápidas para corrigir erros e que estão utilizando esses exemplos para melhorar seus sistemas de IA de forma mais ampla. Algumas dessas melhorias já estão sendo implementadas. O exemplo de Obama foi destacado como uma violação das políticas do Google e foi removido.

Um dos exemplos citados foi uma resposta que afirmava que adicionar cola não tóxica ao molho da pizza evitaria que o queijo escorregasse, uma informação rastreada até a publicação de uma criança no Reddit. Isso levou alguns usuários a questionarem a capacidade da IA em discernir informações confiáveis da internet.

Apesar desses problemas, o Google afirma que a grande maioria das respostas fornecidas por sua IA é confiável e que existem barreiras de segurança para evitar a exibição de conteúdo nocivo.

Os “Resumos de IA” foram introduzidos recentemente nos resultados de busca nos Estados Unidos e em breve serão expandidos para outros países. Essa mudança representa uma das maiores alterações no motor de busca do Google desde sua criação, mostrando um resumo elaborado pela IA antes dos links tradicionais.