Em seu blog a VP Monika Bickert reconhece que “embora esses vídeos ainda sejam raros na internet, eles representam um desafio significativo para nossa indústria e sociedade“

Num blog publicado ontem com o título de “Enforcing Against Manipulated Media”, a executiva Monika Bickert, Vice-Presidente de Gerenciamento Global de Políticas do Facebook, aborda o problema dos deep fake vídeos, reconhecendo que “embora esses vídeos ainda sejam raros na internet, eles representam um desafio significativo para nossa indústria e sociedade à medida que seu uso aumenta”. Acrescenta em seu texto: “Hoje, queremos descrever como estamos lidando com deep fakes e todos os tipos de mídia manipulada. Nossa abordagem tem vários componentes, desde a investigação de conteúdos gerados pela IA e comportamentos enganosos, como contas falsas, até parcerias com universidades, governo e indústria e expor as pessoas por trás desses esforços”.
A executiva acrescenta que “mídia manipulada enganosa” será removida se tiver sido editada ou sintetizada – com exceção para os ajustes de clareza ou qualidade – em modos que não são aparentes para uma pessoa comum e provavelmente levariam alguém a pensar que uma pessoa do vídeo disse palavras que realmente não disse. Os vídeos também serão removidos se forem o produto de IA ou aprendizado de máquina que mescla, substitui ou sobrepõe conteúdo a um vídeo, fazendo com que pareça autêntico.
Paródias e sátiras serão permitidos
“Esta política”, diz Monika, “não se estende ao conteúdo que é paródia ou sátira, ou vídeo que foi editado apenas para omitir ou alterar a ordem das palavras. Essa abordagem é crítica para nossa estratégia e que ouvimos especificamente de nossas conversas com especialistas. Se simplesmente removêssemos todos os vídeos manipulados sinalizados pelos verificadores de fatos como falsos, os vídeos ainda estariam disponíveis em outros lugares na Internet ou no ecossistema de mídia social. Ao deixá-los e rotulá-los como falsos, estamos fornecendo às pessoas informações e contexto importantes “.
Ao se envolver na detecção de deepfake, o Facebook lançou o Deep Fake Detection Challenge no ano passado e fez parceria com a Reuters para ajudar a mídia a identificar deepfakes e mídia manipulada por meio de um curso de treinamento online gratuito.