Co-fundador do Google admite falha na ferramenta de IA que gera imagens – Gemini

 

Sergey Brin, um dos criadores do Google, reconheceu que a empresa errou ao lançar o Gemini, um sistema de inteligência artificial generativa que gera imagens a partir de textos. Em um evento na Califórnia, ele disse que a ferramenta não passou pelos testes adequados e gerou imagens distorcidas e imprecisas de alguns fatos históricos.

O Gemini é um exemplo de IA generativa, uma área que usa modelos de aprendizado de máquina para criar novos conteúdos, como textos e imagens. O objetivo é imitar o estilo e a criatividade humanos, mas sem copiar ou plagiar os dados originais.

O problema ficou evidente quando o Gemini foi usado para gerar imagens de eventos históricos, como a Revolução Francesa, a Segunda Guerra Mundial e a Independência do Brasil.

Os usuários que testaram o Gemini perceberam que as imagens geradas não correspondiam à realidade e continham elementos anacrônicos, incoerentes ou ofensivos. Por exemplo, uma imagem da Revolução Francesa mostrava pessoas usando roupas modernas e segurando celulares. Uma imagem da Segunda Guerra Mundial mostrava soldados nazistas sorrindo e fazendo gestos obscenos. Uma imagem da Independência do Brasil mostrava Dom Pedro I com um chapéu de cowboy e uma bandeira dos Estados Unidos.

Essas imagens geraram críticas e indignação nas redes sociais e na imprensa, acusando o Google de desrespeitar a história e a cultura de vários países. Alguns especialistas também alertaram para os riscos de usar a IA generativa para manipular ou falsificar informações, especialmente em um cenário de fake news e desinformação.

Diante da repercussão negativa, o Google decidiu interromper o Gemini e retirar as imagens geradas do ar. Em um comunicado, a empresa pediu desculpas pelo ocorrido e disse que vai revisar os processos de desenvolvimento e teste da ferramenta.

Em um evento sobre IA na Califórnia, Sergey Brin, co-fundador do Google, também se manifestou sobre o caso. Ele disse que a empresa errou ao lançar o Gemini sem fazer os testes necessários e que a ferramenta incomodou muitas pessoas por boas razões. Ele afirmou que a questão dos modelos de IA gerarem “alucinações” ou respostas falsas ainda é um problema significativo, mas que há progressos sendo feitos para reduzi-los.

Brin também defendeu o potencial da IA generativa para evoluir e inovar em diversas áreas, como arte, educação, entretenimento e saúde. Ele disse que o Google está trabalhando para se tornar líder em IA e que a empresa tem a responsabilidade de usar a tecnologia de forma ética e benéfica para a sociedade.

–

Fontes:

(1) Definitivamente erramos, diz co-fundador do Google sobre problemas no …. https://exame.com/inteligencia-artificial/definitivamente-erramos-diz-co-fundador-do-google-sobre-problemas-no-gemini/.

(2) Inteligência Artificial: ultimas notícias e novidades – Exame. https://exame.com/inteligencia-artificial/.
(3) Inteligência artificial: o alerta de mil especialistas sobre … – G1. https://g1.globo.com/tecnologia/noticia/2023/03/30/inteligencia-artificial-o-alerta-de-mil-especialistas-sobre-risco-para-a-humanidade.ghtml.
(4) Riscos da inteligência artificial levantam alerta e suscitam respostas …. https://agenciabrasil.ebc.com.br/geral/noticia/2020-08/riscos-da-inteligencia-artificial-levantam-alerta-e-suscitam-respostas.
(5) Engenharia de prompt: o que é, aplicações e mais!. https://www.avivatec.com.br/engenharia-de-prompt/.
(6) O que é engenharia por prompt? – Explicação da engenharia por prompt de …. https://aws.amazon.com/pt/what-is/prompt-engineering/.
(7) ICA PUC Rio – Engenheiro de prompt: nova profissão em ascensão. https://ica.ele.puc-rio.br/blog/engenheiro-de-prompt-nova-profissao-em-ascensao/.
(8) IA Generativa e Prompt Engineering: como obter melhores respostas?. http://answers.salesforce.com/br/blog/2023/06/ia-generativa-prompt-engineering.html.
(9) Gerador de Palavras-Chave Grátis – Ahrefs. https://ahrefs.com/pt/keyword-generator.
(10) Palavras-Chave: Entenda Como Escolher As Ideais Para SEO – Neil Patel. https://neilpatel.com/br/blog/7-ferramentas-para-pesquisar-as-melhores-palavras-chave/.
(11) #Blog4K: Manual como Indexar seu blog no Google – VivenSEO. https://www.vivenseo.com/br/manual-como-indexar-seu-blog-no-google.