O Google lançou, nesta sexta-feira (25), o SynthID: ferramenta capaz de identificar textos gerados por LLMs (Grande Modelos de Linguagem). De acordo com a companhia, a solução está disponível e pode ser implementada em apps de terceiros.
A divisão focada no desenvolvimento de inteligência artificial, o Google DeepMind, é responsável pela construção do SynthID. A ferramenta não analisa simplesmente as palavras do texto, mas é capaz de identificar a presença de marcas d’água. O modelo de identificação digital pode estar presente em imagens, áudio, textos e vídeos.
O detector de textos gerados por LLM, oferece o resultado em uma probabilidade. No exemplo do Google (acima), o SynthID identificou produção textual com 99% de chances de ter marca d’água. Segundo o Google, a precisão aumenta conforme o tamanho do texto também aumenta.
Caso o resultado fosse 0% seria o sinal de um texto sem a presença desses marcadores digitais. Ressaltamos que o SynthID é uma ferramenta de análise, voltada para organizações e empresas.
O Google destacou como o SynthID será “ferramenta essencial para a criação de aplicações de IA mais seguras“. O mecanismo é capaz de analisar, palavra por palavra, a probabilidade da frase ter sido gerada artificialmente.
A ferramenta se mostra uma opção de análise interessante, mas ela ainda apresenta alguns problemas. Primeiro, a precisão cai de forma drástica em frases curtas, ou respostas diretas. Do mesmo modo, textos traduzidos de outro idioma, dificilmente serão avaliados corretamente.
O SynthID é um passo do Google na direção de IAs mais seguras, podendo ser implementado por diferentes organizações em apps. Ainda assim, ele precisará passar por vários processos de evolução, até ser completamente confiável.
Recentemente, a Big Tech adicionou novos recursos de segurança ao Chrome, buscando aprimorar a navegação na rede. A iniciativa fez parte do Mês da Conscientização da Cibersegurança, oferecendo aos usuários muitas novidades.
Dentre elas, ferramentas de IA melhores e capazes de combater malwares e phishing. Além disso, a atualização adicionou a capacidade de adicionar PINs de login em sites, com a intenção de aumentar a privacidade dos dispositivos de quem navega na rede.
Fonte Deepmind.Google