O lado negativo das tecnologias de reconhecimento facial

24 ago 2016

Você pode alterar seu nome e pseudônimo. Pode editar ou deletar suas contas de mídias sociais. Mas não pode alterar seu rosto com essa facilidade. Reconhecimento facial pode ser uma ferramenta de solução de problemas, assim como desencadeia novos. Neste artigo, discutiremos as possíveis ameaças com a disseminação dessa tecnologia.

bad-facial-recognition-featured

1. Fim do direito a privacidade em escala global
O FBI mantém legalmente a próxima geração do sistema de identificação fotográfica interestadual (NGI-IPS), uma base de dados que armazena imagens de pessoas acusadas e condenadas por delitos. Até aí tudo bem, não é?

Nada bem! Em maio, o governo americano auditou o FBI e descobriu que a base de dados de 412 milhões de imagens também possuía fotos de pessoas que nunca foram alvo de investigação criminal. A agência até tem uma divisão responsável por reconhecimento facial, o Serviço de Avaliação, Comparação e Análise Facial (FACE).

O que ocorreu é que representantes do FBI obtiveram fotos de carteiras de motorista, passaportes e candidatura de visto por meio de acordos com Estados, além das imagens de suspeitos de crimes e condenados. A base de dados também inclui informações de aproximadamente 100 milhões de cidadãos estrangeiros.

O FBI utiliza reconhecimento facial ativamente durante investigações. Já escrevemos sobre os benefícios dessa abordagem. Mas a situação é mais complicada que isso. Tecnologias de reconhecimento facial são ainda muito jovens e imperfeitas. Por isso, o sistema do FBI não é exceção: possui parcialidades raciais e possui uma precisão máxima de 80-85%. Ao mesmo tempo, o FBI encobriu deliberadamente a escala do uso de reconhecimento facial, contrariando os requisitos do Relatório de Impacto à Privacidade.

Outro caso digno de nota é o fato de que a prefeitura de Moscou e a polícia russa tentam se atualizar tecnologicamente e já estão se preparando para implementar a tecnologia de FaceN (desenvolvedores desse projeto também foram responsáveis pelo FindFace – um serviço que permite as pessoas buscarem por outras usando fotos). Esses novos sistemas estarão conectados com centenas de milhares de câmeras de segurança em Moscou.

A agência de notícias russa Meduza informou que não há sistemas análogos em qualquer cidade do mundo. O algoritmo pode comparar gente nas ruas com base de dados de criminosos, mas não para por aí. O sistema também pode detectar pessoas em qualquer parte da cidade e associá-las a imagens em mídias sociais, que como sabemos, tendem a carregar muitos dados pessoais.

Também destacamos que no começo deste ano o senado russo compeliu cortes russas a considerar fotos e vídeos como evidências válidas. Antes disso, a validade desse tipo de prova ficava a critério da corte.

2. Abuso de poder
Reconhecimento facial não é absoluto. As pessoas no comando desses sistemas podem utilizá-los de maneira não parcial. Por exemplo, em agosto, o New York Times reportou que a polícia de San Diego reuniu imagens de pessoas culpadas e inocentes sem permissão.

Aaron Harvey, afro americano, 27 anos, morador de San Diego, alegou ter sido alvo de preconceito. Harvey mora em uma das áreas mais violentas da cidade. Talvez por isso, a polícia local já o parou mais de 50 vezes alegando que ele seria parte de uma gangue. Quando ele não concedeu a permissão de ser fotografado ao policial, o agente se gabou de que poderia fazê-lo de qualquer forma. “Ele disse: ‘podemos fazer isso dentro ou fora da lei’ e me empurrou para fora do carro” – disse Harvey ao descrever o incidente para o New York Times.

Mais cedo em 2013, autoridades de Boston também testaram um sistema de reconhecimento facial. O programa estava conectado a câmeras de vigilância que mapeavam os rostos de espectadores durante shows e eventos ao ar livre. Ao fim do período de teste, o projeto foi encerrado por motivos éticos. Contudo, se essa questão sai de Boston e é ampliada globalmente, a coisa muda de figura. Agências governamentais poderão usar sistemas de reconhecimento facial em grande escala.

3. Empresas espiando todo mundo
Empresas possuem bases de dados ainda maiores que a do FBI. Redes sociais lideram esse quadro: Facebook, Instagram (que pertence ao Facebook), Google (com o Google+) e outras. A maioria possui suas próprias soluções de reconhecimento facial, que passam por melhorias e desenvolvimento constantes.

A Microsoft trabalha agora em uma tecnologia similar para o aplicativo FamilyNotes, que auxiliará o software a diferenciar um usuário do outro por meio de uma câmera embutida no celular ou no tablet. A Microsoft desenvolve o sistema operacional mais popular do mundo, esse aplicativo irá suprir a base de dados de rostos da empresa.

O sistema de reconhecimento facial do Facebook é um dos mais apurados do mundo. A empresa lançou essa ferramenta discretamente em 2012 e a disponibilizou para a maioria dos usuários. Mais tarde, lidou com dezenas de processos – que continuam aumentando, assim como o Google, que também enfrenta ações por acusações similares. Como resultado, o Facebook teve de desabilitar funções de reconhecimento facial em certas regiões.

É importante destacar que o Facebook possui uma abordagem unilateral para esse problema. Por exemplo, sua base de informações não possui artigos sobre como desativar a função de reconhecimento facial -o que a propósito, não é algo que pode ser feito com um clique.

Mesmo que você não seja membro de nenhuma mídia social (ou se você evita postar fotos) seu rosto ainda pode terminar na base de dados da empresa. Ano passado, um cidadão de Chicago processou o Shutterfly pelo fato do site ter adicionado sua foto na base de dados sem seu consentimento. Um terceiro (amigo, muito provavelmente) adicionou sua foto ao Shutterfly e legendou a imagem.

4. Você é um alvo fácil
Qualquer sistema de reconhecimento facial disponível a todos pode acabar sendo usado tanto para o bem quanto para o mal. Esse ano, por exemplo, dois jovens colocaram fogo no lobby de um hotel de São Petersburgo. Quando isso acabou, os piromaníacos causaram confusão em um elevador do mesmo prédio. Câmeras nos elevadores e pela vizinhança gravaram como a dupla se divertia.

Quando a polícia se negou a abrir um inquérito, os moradores decidiram entrar em ação: por meio de fotos dos bandidos obtidas pelas câmeras de segurança, usaram o FindFace para localizar os desordeiros nas mídias sociais.

Os detetives amadores entregaram suas descobertas para a polícia e os jovens foram indiciados. Um dos moradores disse terem conseguido dados suficientes para enviar mensagens aos locais de trabalho e instituições de ensino dos baderneiros.

Neste caso, as vítimas tiveram paciência para pedir ajuda a polícia. Nem todos os usuários da Internet são tão centrados. E onde há más intenções, há uma forma de prejudicar os outros. Se você ouviu falar do FindFace antes, já deve conhecer o caso mais infame, no qual membros do 2ch usaram fotos de atrizes pornô para caça-las nas mídias sociais. Com seus perfis em mãos, os trolls enviaram mensagens e imagens escandalosas para amigos e parentes das mulheres.

Em consonância, o criador do FindFace, Maxim Perlin, acredita que as pessoas devem literalmente pagar para preservar a privacidade. Em entrevista na TV, disse que pessoas que quisessem apagar seus dados da base de dados do FindFace teriam que comprar uma conta premium. Um mês de privacidade no serviço custa por volta de 8 dólares.

5. Uma linha tênue entre segurança e desastre
Muitos especialistas já não tem mais dúvidas: biometria irá substituir senhas e tornar o mundo mais seguro. Então, no futuro as pessoas permitiram que sistemas analisem suas íris, impressões digitais e até seus rostos como um todo para substituir o processo oneroso de digitar símbolos complicados.

A Microsoft já está desenvolvendo uma tecnologia que permite autorização por meio de selfies. A NEC está pesquisando o uso de reconhecimento facial para proteger pagamentos eletrônicos. A MasterCard está trabalhando em um sistema de identificação por selfies que permite ao usuário transferir dinheiro sem senhas.

Já conversamos sobre as desvantagens da datilografia, então vamos discutir as fraquezas do reconhecimento facial. Tudo se resume a avanços recentes em impressão 3D. Hoje, não é nenhum desafio imprimir uma cópia realista do rosto de alguém. Desenvolvedores de novos sistemas de identificação precisaram considerar esse fato se quiserem propor soluções de fato seguras.

Por exemplo, a MasterCard e o Google exigem que o usuário pisque – uma ação simples que impede que criminosos enganem o sistema com o auxílio de modelos 3D ou fotos. Infelizmente, a solução do Google falhou – o sistema foi burlado por meio de uma foto animada. A solução da MasterCard ainda está em desenvolvimento, então ninguém sabe se o mesmo método funcionaria.

“Meu rosto impresso em 3D” – Imgur

6. Não compartilhe o mesmo rosto com nenhum Tom, Dick ou Harry
Você pode ter ouvido falar do Anaface, um site que analisa seu nível de beleza com base em uma foto. O critério principal é a simetria, que convenhamos, é um padrão no mínimo questionável. Por exemplo, Angelina Jolie marcou 8,4 de 10 no Anaface. A precisão do site não é seu único problema.

Antes se mais nada, os responsáveis admitiram que a ideia por trás dessa métrica era encorajar cirurgia plástica. Bem, pelo menos não dá pra dizer que estão sendo desonestos.

Segundo, os termos e condições do site são obscuros e difíceis de ler. São exibidos em uma pequena janela na qual você precisa descer muito para ler os mais de 7000 caracteres minúsculos. Por isso, diversos usuários não perceberão que estão concedendo ao Anaface uma licença mundial, não exclusiva, transferível, licenciável e livre de royalties para o uso das imagens carregadas no Anaface. Em bom português: o serviço pode vender as fotos sem qualquer obrigação de pagar a seus donos.

Ao mesmo tempo, usuários recebem a recomendação de não carregarem fotos que não sejam suas: “Não é permitido postar, enviar, exibir ou tornar disponível conteúdo que contenha vídeo, áudio, fotografias, ou imagens de outras pessoas sem sua devida autorização (ou no caso de um menor sem a permissão do responsável)”. As condições também incluem frases vagas a respeito de privacidade e possibilidade de remoção das fotos depois do registro, mas ninguém consegue fazer isso no Anaface, o site simplesmente não permite.

No fim das contas, todo mundo coleta fotos: governos, empresas e corporações, até mesmo gente comum. Atualmente, todo mundo pode usar sistemas de reconhecimento facial, independente da natureza do uso. O que podemos fazer é tentar nos esconder deles.