top of page

Como detectar se uma imagem foi gerada por IA

OpenAI Lança Ferramenta de Detecção de Imagens AI


como detectar imagem gerada por IA

A OpenAI anunciou o lançamento de uma nova ferramenta capaz de detectar imagens geradas por sua tecnologia de geração de imagens, DALL-E 3. A ferramenta mostra uma precisão de 98% sob condições ideais, mas enfrenta desafios quando as imagens são alteradas.

Desafios na Detecção de Imagens AI

Embora a ferramenta seja eficaz na identificação de imagens não modificadas do DALL-E 3, ela pode ser enganada por mudanças simples, como capturas de tela ou recortes. Isso destaca a corrida contínua das empresas de IA para acompanhar a capacidade de rastrear sua própria tecnologia.

Impacto nas Eleições e Políticas Públicas

A proliferação de imagens falsas geradas por IA tem causado confusão sobre a autenticidade do conteúdo online, especialmente em relação às campanhas eleitorais de 2024. A OpenAI está colaborando com outras startups e empresas de tecnologia para desenvolver ferramentas que ajudem a combater esse problema.

Iniciativas para Resiliência Social

Além da ferramenta de detecção, a OpenAI e a Microsoft estão criando um fundo de “resiliência social” de $2 milhões para apoiar a educação em IA. A OpenAI também se juntou a um grupo do setor para estabelecer credenciais de conteúdo para imagens online.

Como funciona

A ferramenta de detecção da OpenAI, funciona da seguinte maneira:

  • Detecção de Imagens: Identifica se uma imagem foi gerada pelo gerador de texto para imagem DALL-E 3 da OpenAI.

  • Alta Precisão: A ferramenta é 98% precisa em detectar imagens do DALL-E 3, a menos que a imagem seja alterada.

  • Desafios: Pequenas mudanças, como capturas de tela ou recortes, podem confundir a ferramenta, reduzindo sua eficácia.

  • Limitações: A performance da ferramenta diminui se a tonalidade das imagens for alterada.

A OpenAI está trabalhando para melhorar a ferramenta, abrindo-a para pesquisadores externos e buscando soluções para esses problemas.

22 visualizações0 comentário

Comments


bottom of page