top of page
Foto do escritorEditor Comandos de Voz

Como detectar se uma imagem foi gerada por IA

OpenAI Lança Ferramenta de Detecção de Imagens AI


como detectar imagem gerada por IA

A OpenAI anunciou o lançamento de uma nova ferramenta capaz de detectar imagens geradas por sua tecnologia de geração de imagens, DALL-E 3. A ferramenta mostra uma precisão de 98% sob condições ideais, mas enfrenta desafios quando as imagens são alteradas.

Desafios na Detecção de Imagens AI

Embora a ferramenta seja eficaz na identificação de imagens não modificadas do DALL-E 3, ela pode ser enganada por mudanças simples, como capturas de tela ou recortes. Isso destaca a corrida contínua das empresas de IA para acompanhar a capacidade de rastrear sua própria tecnologia.

Impacto nas Eleições e Políticas Públicas

A proliferação de imagens falsas geradas por IA tem causado confusão sobre a autenticidade do conteúdo online, especialmente em relação às campanhas eleitorais de 2024. A OpenAI está colaborando com outras startups e empresas de tecnologia para desenvolver ferramentas que ajudem a combater esse problema.

Iniciativas para Resiliência Social

Além da ferramenta de detecção, a OpenAI e a Microsoft estão criando um fundo de “resiliência social” de $2 milhões para apoiar a educação em IA. A OpenAI também se juntou a um grupo do setor para estabelecer credenciais de conteúdo para imagens online.

Como funciona

A ferramenta de detecção da OpenAI, funciona da seguinte maneira:

  • Detecção de Imagens: Identifica se uma imagem foi gerada pelo gerador de texto para imagem DALL-E 3 da OpenAI.

  • Alta Precisão: A ferramenta é 98% precisa em detectar imagens do DALL-E 3, a menos que a imagem seja alterada.

  • Desafios: Pequenas mudanças, como capturas de tela ou recortes, podem confundir a ferramenta, reduzindo sua eficácia.

  • Limitações: A performance da ferramenta diminui se a tonalidade das imagens for alterada.

A OpenAI está trabalhando para melhorar a ferramenta, abrindo-a para pesquisadores externos e buscando soluções para esses problemas.

49 visualizações0 comentário

Comments


bottom of page