A startup israelense Adversa, especializada em soluções para a segurança em inteligência artificial, criou uma exposição que poderia ser considerada a mais chata de todos os tempos: cem cópias idênticas da Monalisa, de Leonardo Da Vinci. Se por um lado o olho humano vê 100 imagens idênticas, os sistemas de reconhecimento facial registram cem celebridades diferentes.
Veja isso
Sony entrou com pedido de patente para reconhecimento de fake vídeos
Reconhecimento facial: Face paga US$ 500M em ação coletiva
A exposição tem 100 imagens de Mona Lisa. “Todas parecem quase iguais ao original de da Vinci para as pessoas, embora a IA os reconheça como 100 celebridades diferentes”, explica a Adversa em um post no seu . “As causas das diferenças de percepção estão nos preconceitos e vulnerabilidades de segurança da IA, chamados de exemplos de adversários, que podem ser usados por cibercriminosos para hackear sistemas de reconhecimento facial, carros autônomos, imagens médicas, algoritmos financeiros – ou de fato qualquer outra tecnologia de IA”, afirma o post.
O objetivo da Adversa nesta exposição da Mona Lisa não é simplesmente demonstrar que a IA de reconhecimento facial pode ser subvertida, mas mostrar que a própria IA pode ser subvertida para fins maliciosos. A grande vantagem é que só porque seu sistema de IA diz que preto é preto, isso pode não ser verdade.
Vale a pena notar que nenhuma das imagens é a imagem original da Mona Lisa – todas são manipuladas de forma diferente para que a IA reconheça uma celebridade diferente enquanto permanece como Mona Lisa ao olho humano.
“Para que o classificador reconheça um estranho, um padrão especial chamado patch adversário pode ser adicionado à fotografia de uma pessoa”, explica Adversa. “Esse patch é gerado por um algoritmo especial que pega os valores de pixel da foto para fazer o classificador produzir o valor desejado. No nosso caso, a imagem faz com que o modelo de reconhecimento facial veja alguma pessoa famosa em vez de Mona Lisa.”
