Reconhecimento facial: prós e contras da tecnologia que veio para ficar / Facial recognition: pros and cons of technology that is here to stay

A expectativa é que esse mercado, estimado em US$ 3,2 bilhões em 2019, alcance US$ 7 bilhões em 2024, segundo análise da empresa de pesquisa indiana MarketsandMarkets. Dele, participam empresas como o Facebook - que passou a usar, em 2019, a tecnologia com todos os seus mais de 2 bilhões de usuários para facilitar a identificação e marcação em fotos -, além de Apple, Google, Amazon e Microsoft.

O problema é que existe uma linha tênue entre o reconhecimento facial "benigno" e o perigo que a sociedade se torne aquela imaginada por Orwell, sem mais privacidade, "com exceção dos poucos centímetros que cada um possui dentro do crânio", nas palavras do escritor. Como garantir que a tecnologia não será usada para perseguição política, como temiam os manifestantes nos protestos contra o governo chinês em Hong Kong em 2019? Ou para avaliar os efeitos de uma publicidade, como foi feito pelo metrô de São Paulo em 2018?

Neste mês, um aplicativo russo envolvido em polêmicas sobre roubo de dados voltou a fazer sucesso entre brasileiros, incluindo celebridades. Em 2019, o FaceApp - que usa inteligência artificial para modificar selfies, "mudando" o sexo da pessoa ou sua idade - foi alvo de investigação do FBI, nos EUA, que classificou o aplicativo como uma "ameaça". Mas a Wireless Lab, empresa responsável pelo app, afirmou em posicionamento divulgado na época que não "vende ou compartilha os dados com terceiros".

"A tecnologia traz benefícios, mas também muitos desafios de governança e comportamento", diz Cortiz. A pesquisadora em democracia e tecnologia Thayane Guimarães, do Instituto de Tecnologia e Sociedade do Rio de Janeiro (ITS), alerta para a ausência de regulamentação. "O principal problema é a falta de uma legislação específica que garanta as liberdades individuais e a transparência no uso da tecnologia e proteção de dados pessoais."

A desconfiança sobre o que pode e o que não pode ser feito é grande. Na Europa, 80% das pessoas não gostam da ideia de compartilhar os dados de seus rostos com autoridades. Para o professor da PUC-SP, a falta de regulamentações voltadas para o reconhecimento facial pode gerar uma sensação de que "se não está proibido, é porque está permitido".

Antes de a pandemia se transformar na principal pauta de debates atuais, as discussões sobre a tecnologia estavam aquecidas. Em outubro de 2019, ao menos 40 festivais de música, entre eles Lollapalooza, Coachella e SXSW, iniciaram um movimento contra o uso de reconhecimento facial nos eventos. Em janeiro deste ano, a cidade de Cambridge, berço de uma das instituições de tecnologia mais importantes do mundo, o Massachusetts Institute of Technology (MIT), e da Universidade Harvard, proibiu a tecnologia para vigilância municipal. Outras cidades norte-americanas e hubs de tecnologia, como São Francisco e Oakland, também adotaram medidas semelhantes.

Vigilância enviesada

Além do debate central sobre a privacidade, há dúvidas em relação à precisão dos sistemas, ainda que a tecnologia venha evoluindo. Em 2018, o Instituto Nacional de Padronizações e Tecnologia do Departamento do Comércio dos EUA (NIST, na sigla em inglês) testou 127 algoritmos de 45 desenvolvedores e descobriu que, quando havia imagens de alta qualidade para comparação, os melhores algoritmos só falharam em 0,2% das vezes, um resultado 20 vezes melhor do que no teste semelhante feito em 2014. Mas há diferenças significativas entre ambientes controlados e as "praças públicas": uma coisa é o celular reconhecer o rosto do dono, outra é aquele mesmo rosto ser identificado em uma multidão de dezenas ou centenas de pessoas.

Essa tecnologia também permanece suscetível a uma programação humana que pode ser bastante enviesada. Em um experimento muito citado para mostrar que as minorias podem ser prejudicadas, a ONG norte-americana American Civil Liberties Union revelou que o programa de reconhecimento facial da Amazon erroneamente identificou 28 membros do Congresso dos EUA como criminosos cadastrados em uma base de fotos pública. Quase 40% dos resultados errados envolveram pessoas negras - algo desproporcional, já que somente 20% dos congressistas são negros.

*

This market, estimated at $ 3.2 billion in 2019, is expected to reach $ 7 billion in 2024, according to an analysis by Indian research firm MarketsandMarkets. It includes companies such as Facebook - which in 2019 started using technology with all its more than 2 billion users to facilitate identification and tagging in photos - in addition to Apple, Google, Amazon and Microsoft.

The problem is that there is a fine line between "benign" facial recognition and the danger that society will become that imagined by Orwell, without more privacy, "except for the few centimeters that each one has inside the skull", in the words of writer. How to ensure that the technology will not be used for political persecution, as protesters feared in protests against the Chinese government in Hong Kong in 2019? Or to assess the effects of advertising, as was done by the São Paulo metro in 2018?

This month, a Russian app involved in controversies over data theft has returned to success among Brazilians, including celebrities. In 2019, FaceApp - which uses artificial intelligence to modify selfies, "changing" a person's gender or age - was the subject of an investigation by the FBI in the U.S., which classified the application as a "threat". But Wireless Lab, the company responsible for the app, said in a positioning released at the time that it does not "sell or share data with third parties".

"Technology brings benefits, but also many governance and behavior challenges," says Cortiz. Democracy and technology researcher Thayane Guimarães, from the Rio de Janeiro Institute of Technology and Society (ITS), warns of the lack of regulation. "The main problem is the lack of specific legislation that guarantees individual freedoms and transparency in the use of technology and protection of personal data."

There is great suspicion about what can and cannot be done. In Europe, 80% of people don't like the idea of ​​sharing the data on their faces with authorities. For the professor at PUC-SP, the lack of regulations aimed at facial recognition can generate a feeling that "if it is not prohibited, it is because it is allowed".

Before the pandemic became the main topic of current debates, discussions about the technology were heated. In October 2019, at least 40 music festivals, including Lollapalooza, Coachella and SXSW, started a movement against the use of facial recognition in events. In January of this year, the city of Cambridge, home of one of the most important technology institutions in the world, the Massachusetts Institute of Technology (MIT), and Harvard University, banned the technology for municipal surveillance. Other US cities and technology hubs, like San Francisco and Oakland, have also taken similar steps.

Skewed surveillance

In addition to the central debate on privacy, there are doubts regarding the accuracy of the systems, even though technology has been evolving. In 2018, the US Department of Commerce's National Institute of Standards and Technology (NIST) tested 127 algorithms from 45 developers and found that when there were high quality images for comparison, the best algorithms only failed at 0 , 2% of the time, a result 20 times better than the similar test done in 2014. But there are significant differences between controlled environments and the "public squares": one thing is the cell phone recognizing the owner's face, another is that same face be identified in a crowd of tens or hundreds of people.

This technology also remains susceptible to human programming that can be quite biased. In a highly cited experiment to show that minorities can be harmed, the American NGO American Civil Liberties Union revealed that Amazon's facial recognition program mistakenly identified 28 members of the US Congress as criminals registered on a public photo base. Almost 40% of the wrong results involved black people - something disproportionate, since only 20% of the congressmen are black.

*

''Sempre aqueles olhos observando a pessoa e a voz a envolvê-la. Dormindo ou acordado, trabalhando ou comendo, dentro ou fora de casa, no banho ou na cama - não havia saída", escreveu George Orwell no livro 1984 ''.

'' Always those eyes watching the person and the voice surrounding him. Asleep or awake, working or eating, inside or outside the house, in the bath or in bed - there was no way out, "wrote George Orwell in the 1984 book. ''

Fonte