A próxima eleição presidencial dos EUA parece destinada a ser uma bagunça – para dizer o mínimo. A Covid-19 provavelmente impedirá milhões de votar pessoalmente, e a votação pelo correio não parece ser muito mais promissora. Tudo isso acontece em um momento em que as tensões políticas estão mais altas do que em décadas, questões que não deveriam ser políticas (como o uso de máscaras) tornaram-se altamente politizadas e os americanos estão dramaticamente divididos ao longo das linhas partidárias.
Portanto, a última coisa de que precisamos agora é mais uma chave nos raios da democracia, na forma de desinformação; todos nós vimos como isso se desenrolou em 2016, e não foi nada bonito. A desinformação engana as pessoas propositalmente, enquanto a má informação é simplesmente imprecisa, mas sem intenção maliciosa. Embora não haja muito que a tecnologia possa fazer para que as pessoas se sintam seguras em assembleias de voto lotadas ou para aumentar o orçamento dos Correios, a tecnologia pode ajudar com a desinformação, e a Microsoft está tentando fazer isso.
Na terça-feira, a empresa lançou duas novas ferramentas projetadas para combater a desinformação, descritas em uma postagem no blog do VP de Segurança do Cliente e Confiança, Tom Burt, e do Diretor Científico Eric Horvitz.
O primeiro é o Microsoft Video Authenticator, feito para detectar deepfakes. Caso você não esteja familiarizado com este subproduto perverso do progresso da IA , “deepfakes” se refere a arquivos de áudio ou visuais feitos com inteligência artificial que podem manipular as vozes ou semelhanças das pessoas para fazer parecer que disseram coisas que não disseram. Editar um vídeo para juntar palavras e formar uma frase que alguém não disse não conta como uma mentira profunda; embora haja manipulação envolvida, você não precisa de uma rede neural e não está gerando nenhum conteúdo ou filmagem original.
O Autenticador analisa vídeos ou imagens e informa aos usuários a chance percentual de terem sido manipulados artificialmente. Para vídeos, a ferramenta pode até analisar quadros individuais em tempo real.
Vídeos falsos são feitos alimentando centenas de horas de vídeo de alguém em uma rede neural, “ensinando” à rede as minúcias da voz da pessoa, pronúncia, maneirismos, gestos, etc. É como quando você imita seu colega chato de contabilidade, completa com a imitação de como ele faz cada frase soar como uma pergunta e seus olhos se arregalam quando ele fala sobre planilhas complexas. Você passou horas – não, meses – na presença dele e tem suas peculiaridades de personalidade bem definidas. Um algoritmo de IA que produz deepfakes precisa aprender essas mesmas peculiaridades e muito mais sobre quem é o alvo do criador.
Com informações reais e exemplos suficientes, o algoritmo pode gerar sua própria filmagem falsa, com criadores deepfake usando computação gráfica e ajustando manualmente a saída para torná-la o mais realista possível.
A parte mais assustadora? Para fazer um deepfake , você não precisa de um computador sofisticado ou mesmo de muito conhecimento sobre software. Existem programas de código aberto que as pessoas podem acessar gratuitamente online e, no que diz respeito a encontrar vídeos de pessoas famosas, bem, temos que agradecer ao YouTube por ser tão fácil.
O Autenticador de Vídeo da Microsoft pode detectar o limite de combinação de elementos deepfake e desbotamento sutil ou tons de cinza que o olho humano pode não ser capaz de ver.
Na postagem do blog, Burt e Horvitz apontam que, com o passar do tempo, os deepfakes só vão melhorar e se tornar mais difíceis de detectar; afinal, eles são gerados por redes neurais que estão continuamente aprendendo e se aprimorando.
Contra-tática da Microsoft é para entrar a partir do ângulo oposto, ou seja, ser capaz de confirmar além de qualquer dúvida que um vídeo, imagem , ou um pedaço de notícia é real (Quero dizer, as batatas fritas do McDonald’s podem curar a calvície? Uma foca deu um tapa na cara de um caiaque com um polvo? Nunca foi tão imperativo que o mundo soubesse a verdade).
Uma ferramenta incorporada ao Microsoft Azure, o serviço de computação em nuvem da empresa, permite que os produtores de conteúdo adicionem “hashes” e certificados digitais ao seu conteúdo, e um leitor (que pode ser usado como uma extensão do navegador) verifica os certificados e combina os “hashes” para indicar que o conteúdo é autêntico.
Por fim, a Microsoft também lançou um quiz interativo “Spot the Deepfake” desenvolvido em colaboração com o Center for an Informed Public da Universidade de Washington , a empresa de detecção de deepfake Sensity e o USA Today. O objetivo do questionário é ajudar as pessoas a “aprender sobre mídia sintética, desenvolver habilidades críticas de alfabetização midiática e ganhar consciência do impacto da mídia sintética na democracia”.
O impacto que as novas ferramentas da Microsoft terão ainda está para ser visto – mas hey, estamos felizes por eles estarem tentando. E eles não estão sozinhos; Facebook , Twitter e YouTube tomaram medidas para banir e remover deepfakes de seus sites. O Reality Defender da AI Foundation usa algoritmos de detecção de mídia sintética para identificar conteúdo falso. Existe até uma coalizão de grandes empresas de tecnologia se unindo para tentar combater a interferência nas eleições.
Uma coisa é certa: entre uma pandemia global, protestos e tumultos generalizados, desemprego em massa, uma economia prejudicada e a desinformação que prevaleceu durante tudo isso, vamos precisar de toda a ajuda que pudermos conseguir para superar não apenas a eleição, mas o restante de 2020.
Crédito da imagem: Darius Bashar no Unsplash
Fonte: Singularity Hub
- Empresa britânica planeja criar estúdio de cinema no espaço em 2024
- Tesla: Robô humanoide será foco da empresa em 2022, afirma Musk
- Jeff Bezos quer tornar humanos imortais
- Primeiro avião totalmente elétrico se prepara para decolar
- “Os algoritmos começam a falhar quanto mais complexa é a pessoa”
