O Google pode ter encontrado uma maneira de identificar algumas imagens geradas por IA

As imagens geradas por IA estão por toda parte agora, com serviços como o Midjourney ostentando mais de 14 milhões de usuários. Esses serviços permitem que os usuários criem imagens com IA inserindo instruções simples, e tem havido muitas preocupações sobre questões de direitos autorais e legalidade em torno dessas imagens geradas e como os próprios geradores foram treinados.

Agora, o Google deu um passo intrigante para encontrar uma maneira de determinar se uma imagem foi gerada usando IA ou se a imagem é uma peça digital criada à mão. O BBC diz que o processo gira fortemente em torno de marcas d’água, que vimos sendo usadas para ajudar a identificar a arte digital e seus criadores.

O processo depende muito do Google DeepMind, mas o Google diz que não é uma ferramenta “infalível” que possa identificar “manipulação extrema de imagens”. A razão pela qual não é um sistema infalível é porque ele depende do uso do próprio gerador de imagens Imagen do Google para detectar as marcas d’água que estão escondidas nos pixels.

As marcas d’água geralmente vêm na forma de texto ou logotipo adicionado a uma imagem. Isso ajuda a mostrar propriedade e garante que ninguém possa reivindicar sua imagem como sendo deles. No entanto, a ferramenta Imagen do Google usa marcas d’água invisíveis escondidas atrás dos pixels da imagem, impossibilitando a visão do olho humano. É aí que entra o DeepMind.

Veja, o DeepMind pode ver a marca d’água invisível porque foi projetado para isso. Isso permite ver quando uma imagem é criada usando ferramentas geradas por IA, como Imagen. Portanto, sistemas semelhantes poderiam ser incorporados a outras ferramentas de geração de imagens, como o Midjourney, permitindo que os sistemas verificassem se há marcas d’água invisíveis.

Ao tornar a marca d’água invisível, o Google torna muito mais difícil para as pessoas simplesmente recortá-la ou editá-la, já que ela só pode ser vista por sistemas de IA como o DeepMind. Como tal, as imagens geradas por IA tornam-se muito mais fáceis de classificar e apontar. Considerando todas as regras de direitos autorais que cercam a IA generativa no momento, como o ChatGPT e suas contínuas aventuras com o uso de material protegido por direitos autorais para treinamento, esse tipo de ferramenta poderia ajudar a reduzir drasticamente a quantidade de imagens geradas por IA sendo transmitidas como designs digitais feitos à mão.