Em um movimento significativo contra a desinformação digital, o ChatGPT bloqueou mais de 250 mil tentativas de criar deepfakes envolvendo importantes figuras políticas durante o período eleitoral nos Estados Unidos, demonstrando a eficácia das medidas de segurança implementadas pela OpenAI.

    A informação foi divulgada pela própria OpenAI, de inteligência artificial, em um relatório recente, que detalha as ações preventivas tomadas para evitar o uso indevido de sua tecnologia DALL-E, ferramenta de geração de imagens integrada ao ChatGPT.

    Publicidade.

    Entre os políticos protegidos pela medida estavam o Presidente Biden, o Presidente-eleito Trump, a Vice-presidente Harris, o Vice-presidente eleito Vance e o Governador Walz, todos blindados contra tentativas de manipulação de sua imagem através da plataforma.

    Leia mais:

    A estratégia faz parte de um conjunto mais amplo de ações implementadas pela OpenAI desde o início do ano, visando garantir a integridade do processo eleitoral americano e combater a proliferação de desinformação.

    Como parte dessas iniciativas, a empresa também direcionou aproximadamente 1 milhão de usuários do ChatGPT para o site CanIVote.org quando buscavam informações sobre como votar nos Estados Unidos.

    Durante o dia da eleição e no dia seguinte, o chatbot gerou cerca de 2 milhões de respostas, orientando os usuários a consultarem fontes confiáveis como Associated Press e Reuters para obterem resultados oficiais.

    A OpenAI também garantiu que o ChatGPT mantivesse uma postura neutra durante todo o processo, evitando expressar preferências políticas ou fazer recomendações de candidatos, mesmo quando questionado diretamente sobre o assunto.

    Apesar do sucesso das medidas implementadas pela OpenAI, o relatório reconhece que outras ferramentas de geração de imagens por IA continuam sendo utilizadas para criar e disseminar deepfakes eleitorais nas redes sociais.

    Um exemplo notório foi um vídeo manipulado da Vice-presidente Kamala Harris, onde suas falas foram alteradas para incluir declarações falsas, como “Fui selecionada porque sou a contratação definitiva da diversidade“.

    A iniciativa da OpenAI representa um importante precedente no combate à desinformação digital durante períodos eleitorais, estabelecendo novos padrões de responsabilidade para empresas de tecnologia no contexto político.

    Fonte: OpenAI

    Share.