Polícia de NY usa reconhecimento facial de adolescentes para identificar suspeitos

O Departamento de Polícia de Nova York está incluindo milhares de fotos crianças e adolescentes ao serem presos em um banco de dados de reconhecimento facial, apesar de evidências de que essa tecnologia apresenta um risco maior de falsas correspondências em rostos mais jovens.

Durante cerca de quatro anos, segundo mostram registros internos, o departamento usou a tecnologia para comparar as imagens de cenas de crimes com sua coleção de fotografias de jovens tiradas por ocasião de sua detenção. A maioria das fotos é de adolescentes, em geral de 13 a 16 anos, mas crianças de até 11 anos foram incluídas.

Autoridades eleitas e grupos de direitos civis disseram que a revelação de que a cidade estava implementando uma poderosa ferramenta de vigilância em adolescentes —cuja privacidade parece sacrossanta e têm situação protegida no sistema de justiça criminal—  foi um exemplo impressionante da capacidade do Departamento de Polícia de adotar tecnologias avançadas com pouco escrutínio público.

Vários membros do Conselho Municipal, bem como uma série de grupos de liberdades civis, disseram que desconheciam a política até serem contatados pelo The New York Times.

Autoridades do Departamento de Polícia defenderam a decisão, dizendo que é apenas a mais recente evolução de uma técnica de policiamento consagrada: usar fotos de prisão para identificar suspeitos.

"Eu não acho que essa seja uma decisão secreta feita a portas fechadas", disse Dermot F. Shea, chefe de detetives da cidade, em uma entrevista. "Isso é apenas um processo, e garantir que estamos fazendo tudo para combater o crime."

Outras cidades começaram a debater se as autoridades devem usar o reconhecimento facial, que se baseia em um algoritmo que examina rapidamente imagens e sugere resultados. Em maio, San Francisco, na Califórnia, impediu que órgãos municipais, incluindo a polícia, usassem a ferramenta em meio ao desconforto sobre possíveis abusos do governo. Detroit está enfrentando resistência pública a uma tecnologia que demonstrou ter menor precisão em pessoas com pele mais escura.

Em Nova York, o Departamento de Educação estadual disse recentemente ao distrito escolar de Lockport, em Nova York, para adiar um plano de usar o reconhecimento facial em estudantes, citando preocupações com a privacidade.

"No final das contas, deve ser banido --nada de jovens", disse o vereador Donovan Richards, do Queens, chefe do Comitê de Segurança Pública, que supervisiona o Departamento de Polícia.

O departamento disse que seu departamento jurídico aprovou o uso de reconhecimento facial em jovens. O algoritmo pode sugerir uma pista, mas os detetives não fariam uma prisão apenas com base nisso, disse Shea.

Ainda assim, o reconhecimento facial não foi amplamente testado em crianças. A maioria dos algoritmos é ensinada a "pensar" com base em rostos adultos, e há evidências crescentes de que eles não funcionam tão bem em crianças.

O Instituto Nacional de Padrões e Tecnologia, que faz parte do Departamento de Comércio e avalia a precisão de algoritmos de reconhecimento facial, descobriu recentemente que a grande maioria dos mais de cem algoritmos de reconhecimento facial apresentava um índice mais alto de correspondências equivocadas entre crianças. A taxa de erro foi mais pronunciada em crianças pequenas, mas também foi observada nas idades de 10 a 16 anos.

O envelhecimento representa outro problema: a aparência de crianças e adolescentes pode mudar drasticamente à medida que os ossos se esticam e se deslocam, alterando a estrutura facial subjacente.

"Eu usaria extrema cautela ao usar esses algoritmos", disse Karl Ricanek Jr., professor de ciência da computação e cofundador do Face Aging Group da Universidade da Carolina do Norte-Wilmington.

A tecnologia que pode combinar a imagem de um adolescente mais jovem com uma foto recente de detenção pode ser menos eficaz para encontrar a mesma pessoa apenas um ou dois anos depois, disse ele.

"Os sistemas não têm a capacidade de entender as mudanças dinâmicas que ocorrem no rosto de uma criança", disse Ricanek.

Idemia e DataWorks Plus, as duas empresas que fornecem software de reconhecimento facial ao Departamento de Polícia, não responderam aos pedidos de comentários.

O Departamento de Polícia de Nova York pode tirar fotos de menores de 11 anos acusados de um crime, dependendo da gravidade da acusação.

E em muitos casos o departamento mantém as fotos durante anos, fazendo comparações de reconhecimento facial com imagens que podem efetivamente se tornar desatualizadas. Há fotos de 5.500 pessoas na base de dados juvenil, 4.100 das quais não têm mais 16 anos ou menos, segundo o departamento. Adolescentes com 17 anos ou mais são considerados adultos no sistema de justiça criminal.

Policiais se recusaram a fornecer estatísticas sobre a frequência com que seus sistemas de reconhecimento facial fornecem resultados falsos, ou a explicar como eles avaliam a eficácia do sistema.

"Estamos confortáveis com esta tecnologia porque provou ser um método investigativo valioso", disse Shea. O reconhecimento facial ajudou em milhares de detenções de adultos e jovens, disse o departamento.

O prefeito Bill de Blasio sabia que o departamento estava usando a tecnologia em menores de idade, disse Freddi Goldstein, porta-voz do prefeito.

Ela disse que o Departamento de Polícia seguiu "diretrizes rígidas" ao aplicar a tecnologia, e a Prefeitura monitorou a conformidade do órgão com as políticas.

Source Link

« Previous article Ordem do STF para cópia de mensagens gera mais críticas a inquérito das fake news
Next article » As 31 imagens espaciais que marcaram o mês de julho