A Samsung está preocupada com a possibilidade de que edições de imagem feitas com inteligência artificial (IA) nos seus novos smartphones Galaxy S24 sejam usadas por pessoas com más intenções. Pensando nisso, a companhia confirmou um mecanismo de segurança para tais casos.
A fabricante revelou nesta quarta-feira (17) a adoção de marcas d’água visíveis para qualquer modificação feita usando IA em edições no aparelho. Chamada de Edição Generativa, a modificação de fotos é uma das muitas ferramentas presentes na família Galaxy S24 de smartphones, que foi apresentada no evento Galaxy Unpacked.
De acordo com a Samsung, a marca d’água visível “é sobreposta à saída da imagem ao salvar”, mas a companhia não garante a precisão ou a confiabilidade dos serviços de edição.
Além do ícone visual, os metadados do arquivo também serão modificados para que fique bastante evidente — e haja uma prova material — que a imagem em questão foi alterada usando essa tecnologia.
A Edição Generativa pode preencher partes do fundo ou alterar bordas para o caso de fotos inclinadas, além de mover objetos ou pessoas levemente de lugar.
Encontrar um padrão visual ou nos metadados que “entregue” quando uma imagem foi criada ou modificada usando IA é um dos desafios dessa indústria. A iniciativa da Samsung, apesar de importante, não é a primeira nesse sentido.
A Google também já apresentou uma espécie de marca d’água invisível que atua no nível do pixel e consegue distinguir uma imagem modificada mesmo depois de várias alterações. Já a Adobe, que oferece uma série de ferramentas de edição por IA em serviços como o PhotoShop, usa um símbolo especial como identificação.
Fabricantes de câmeras já estão criando também um recurso para o lado oposto: uma “assinatura digital” que confirme quando um retrato não foi tirado com mecanismos de IA. Já a Shutterstock, que trabalha com bancos de imagens, desenvolveu uma ferramenta de imagens com copyright para edição usando esses recursos.
Fonte: Samsung