Pesquisadores usam algoritmo para enganar sistemas de reconhecimento facial

  • em 6 de agosto de 2020
reconhecimento facial

Uma equipe de pesquisadores da McAfee conseguiu enganar um sistema de reconhecimento facial semelhante ao utilizado em aeroportos para verificação de passaportes e, por meio de técnicas de machine learning, fez com que o algoritmo identificasse uma pessoa diferente da que era exibida – o que permitiria a alguém embarcar em um voo estando registrado ou não.

A técnica pode ser usada, por exemplo, para burlar a checagem de passaportes em aeroportos. “Se ficarmos em frente à uma câmera que usa reconhecimento facial para identificar e interpretar quem eles estão olhando e comparar com uma foto de passaporte, podemos forçar esse tipo de classificação errônea”, explica o autor do estudo, Steve Povolny.

Para o ataque, foi utilizado um algoritmo de tradução conhecido como CycleGAN, capaz de mudar o estilo de fotografias com efeitos especiais, a exemplo de “tornar” o registro de um porto uma pintura de Monet ou transformar uma imagem de uma montanha no verão em um cenário de inverno. Mais de 1,5 mil fotos de dois membros do time foram “misturadas” umas às outras e, depois de centenas de tentativas, chegou-se a uma falsificada que parecia uma a olho nu e outra ao reconhecimento facial.

E mais: Facebook lança dois programas de aceleração para apoiar startups

O estudo apresenta um perigo em potencial para sistemas de reconhecimento facial, porém com ressalvas. Para os testes, os pesquisadores não tiveram acesso ao sistema real usado, por exemplo, pelos aeroportos para identificar passageiros, mas um algoritmo de código aberto de última geração. Outro ponto é que esse tipo de ataque requer muito tempo e recursos. O CycleGAN precisa de computadores e conhecimentos avançados para ser executado, por enquanto.

Defendendo a manutenção da presença humana nessas ocasiões, o pesquisador alerta: “A IA e o reconhecimento facial são ferramentas incrivelmente poderosas para ajudar no processo de identificação e autorização de pessoas; porém, quando você os pega e substitui cegamente um sistema existente que depende inteiramente de um ser humano sem ter algum tipo de verificação secundária, isso pode significar introduzir uma fraqueza maior do que antes”.

Views:
408
Article Categories:
Notícias

Ver também