Em um movimento significativo contra a desinformação digital, o ChatGPT bloqueou mais de 250 mil tentativas de criar deepfakes envolvendo importantes figuras políticas durante o período eleitoral nos Estados Unidos, demonstrando a eficácia das medidas de segurança implementadas pela OpenAI.
A informação foi divulgada pela própria OpenAI, de inteligência artificial, em um relatório recente, que detalha as ações preventivas tomadas para evitar o uso indevido de sua tecnologia DALL-E, ferramenta de geração de imagens integrada ao ChatGPT.
Entre os políticos protegidos pela medida estavam o Presidente Biden, o Presidente-eleito Trump, a Vice-presidente Harris, o Vice-presidente eleito Vance e o Governador Walz, todos blindados contra tentativas de manipulação de sua imagem através da plataforma.
Leia mais:
A estratégia faz parte de um conjunto mais amplo de ações implementadas pela OpenAI desde o início do ano, visando garantir a integridade do processo eleitoral americano e combater a proliferação de desinformação.
Como parte dessas iniciativas, a empresa também direcionou aproximadamente 1 milhão de usuários do ChatGPT para o site CanIVote.org quando buscavam informações sobre como votar nos Estados Unidos.
Durante o dia da eleição e no dia seguinte, o chatbot gerou cerca de 2 milhões de respostas, orientando os usuários a consultarem fontes confiáveis como Associated Press e Reuters para obterem resultados oficiais.
A OpenAI também garantiu que o ChatGPT mantivesse uma postura neutra durante todo o processo, evitando expressar preferências políticas ou fazer recomendações de candidatos, mesmo quando questionado diretamente sobre o assunto.
Apesar do sucesso das medidas implementadas pela OpenAI, o relatório reconhece que outras ferramentas de geração de imagens por IA continuam sendo utilizadas para criar e disseminar deepfakes eleitorais nas redes sociais.
Um exemplo notório foi um vídeo manipulado da Vice-presidente Kamala Harris, onde suas falas foram alteradas para incluir declarações falsas, como “Fui selecionada porque sou a contratação definitiva da diversidade“.
A iniciativa da OpenAI representa um importante precedente no combate à desinformação digital durante períodos eleitorais, estabelecendo novos padrões de responsabilidade para empresas de tecnologia no contexto político.
Fonte: OpenAI