Mas nas redes sociais, os usuários compartilharam uma ampla gama de capturas de tela mostrando a ferramenta de IA compartilhando respostas controversas.
Google, Microsoft, OpenAI e outras empresas estão à frente da corrida armamentista de IA, à medida que empresas de aparentemente todos os setores correm para adicionar chatbots e agentes alimentados por IA para evitar ficar atrás dos concorrentes. O mercado é esperado Principais US$ 1 trilhão em receita ao longo de uma década.
Aqui estão alguns exemplos de erros que ocorreram nas visões gerais de IA, de acordo com capturas de tela compartilhadas pelos usuários.
Quando questionada sobre o número de presidentes muçulmanos dos Estados Unidos, a Amnistia Internacional traçou um perfil Ele respondeu“Os Estados Unidos tiveram um presidente muçulmano, Barack Hussein Obama.”
Quando um usuário pesquisou “queijo não pegajoso na pizza”, esse recurso apareceu Proposta Adicione “cerca de 1/8 xícara de cola não tóxica ao molho”. Usuários de mídia social encontrados Comentário do Reddit de 11 anos Esta parece ser a fonte.
Para a consulta “é certo deixar um cachorro em um carro quente”, a ferramenta está em um ponto Ele disse“Sim, é sempre seguro deixar um cachorro em um carro quente”, continuou ele, apontando para A Canção de fantasia Dos Beatles sobre ser seguro deixar cachorros em carros quentes.
A atribuição também pode ser um problema para análises públicas da IA, especialmente quando se trata de atribuir informações imprecisas a profissionais médicos ou cientistas.
Por exemplo, quando lhe perguntam “Por quanto tempo posso olhar para o sol para ter uma saúde melhor”, a ferramenta Ele disse“De acordo com o WebMD, os cientistas dizem que olhar para o sol por 5 a 15 minutos, ou até 30 minutos se você tiver pele escura, geralmente é seguro e oferece mais benefícios à saúde.” Quando me perguntaram: “Quantas pedras devo comer por dia”, essa foi a ferramenta Ele disse“De acordo com geólogos da UC Berkeley, as pessoas deveriam comer pelo menos uma pedra pequena por dia”, eles listam as vitaminas e os benefícios digestivos.
A ferramenta também pode responder de forma imprecisa a consultas simples, por exemplo Prepare uma lista de frutas Que termina em “um”, ou o ditado de 1919 era 20 anos atras.
Quando questionado se a Pesquisa Google viola a lei antitruste, Visão geral da IA Ele disse“Sim, o Departamento de Justiça dos EUA e 11 estados estão processando o Google por violações antitruste.”
No dia em que o Google lançou seu recurso AI Overviews em seu evento anual Google I/O, a empresa disse que também planeja oferecer recursos de planejamento semelhantes aos do Assistant diretamente na Pesquisa. Ele explicou que os usuários poderão pesquisar algo como “Crie um plano de refeições de 3 dias para um grupo que seja fácil de preparar” e terão um ponto de partida com uma ampla variedade de receitas na web.
O Google não respondeu imediatamente a um pedido de comentário.
A notícia vem logo após o lançamento de sua ferramenta de criação de fotos Gemini pelo Google em fevereiro, e sua pausa no mesmo mês após problemas semelhantes.
A ferramenta permitiu que os usuários inserissem instruções para criar uma imagem, mas quase imediatamente, os usuários descobriram erros históricos e respostas questionáveis, que foram amplamente divulgadas nas redes sociais.
Por exemplo, quando um usuário pediu ao Gemini que mostrasse um soldado alemão em 1943, a ferramenta representava um soldado alemão Um grupo etnicamente diverso de soldados Ele está vestindo um uniforme militar alemão da época, de acordo com imagens da plataforma de mídia social X.
Quando questionado sobre uma “representação historicamente precisa de um monarca britânico medieval”, o modelo produziu outro conjunto de imagens etnicamente diversas, incluindo uma de uma governante feminina, Capturas de tela mostrar-se. Usuários relatados Resultados semelhantes Quando solicitaram retratos dos Pais Fundadores dos Estados Unidos, do Rei da França do século XVIII, de um casal alemão do século XIX e muito mais. Os usuários relataram que o formulário mostrava uma foto de homens asiáticos em resposta a uma pergunta sobre os fundadores do Google.
O Google disse em comunicado na época que estava trabalhando para corrigir problemas de geração de imagens no Gemini, reconhecendo que a ferramenta “erra o alvo”. Pouco depois, a empresa anunciou que iria “pausar imediatamente a geração de imagens das pessoas” e “relançar uma versão melhorada em breve”.
Em fevereiro, o CEO do Google DeepMind, Demis Hassabis, disse que o Google planejava relançar sua ferramenta de IA de geração de imagens nas próximas “algumas semanas”, mas ainda não a havia lançado novamente.
Problemas com a produção de imagens do Gemini reacenderam o debate dentro da indústria de IA, com alguns grupos chamando o Gemini de “acordado” ou de tendência esquerdista, enquanto outros dizem que a empresa não investiu o suficiente em formas adequadas de ética de IA. O Google foi duramente criticado em 2020 e 2021 por… Expulsar co-líderes do seu Grupo de Ética em IA depois de publicarem um artigo criticando alguns dos perigos desses modelos de IA e posteriormente reorganizarem a estrutura do grupo.
No ano passado, Pichai foi criticado por alguns funcionários pelo lançamento precipitado e mal feito do Bard pela empresa, que se seguiu à disseminação viral do ChatGPT.
