Justiça suspende compra de câmeras de reconhecimento facial em São Paulo
Juiz destacou riscos a proteção de dados pessoais e potencial viés racista da tecnologia
A Justiça suspendeu nesta quinta-feira (18) o edital de compra de 20 000 câmeras de reconhecimento facial pela prefeitura de São Paulo. A decisão do juiz Luis Manoel Fonseca Pires, da 3ª Vara da Fazenda Pública, atende a um pedido feito por vereadoras do Psol. O pregão estava marcado para a próxima terça-feira (23).
+ Justiça multa ViaQuatro em R$ 500 mil por sistema de reconhecimento facial
O prefeito Ricardo Nunes (MDB) tenta, desde o ano passado, implementar o Smart Sampa, projeto que visa monitorar as vias da cidade com câmeras com inteligência artificial que serão compartilhadas com a Guarda Civil Metropolitana. O Tribunal de Contas do Município (TCM-SP) havia suspendido o edital, mas liberou o programa no mês passado.
Na decisão, o juiz afirma que há dúvidas sobre como o sistema vai resguardar os dados pessoais dos cidadãos, e citou estudos que mostram uma maior chance de erro na identificação de pessoas negras pela tecnologia de reconhecimento facial.
“Inúmeros pesquisadores de diversas áreas (direito, psicologia, sociologia, tecnologia de informação entre outras) e instituições renomadas (do Brasil e do exterior) apontam para riscos concretos de reprodução do racismo estrutural no uso do sistema de monitoramento por reconhecimento facial porque essa tecnologia reproduz padrões de discriminação incorporados na cultura e na dinâmica institucional das sociedades sem permitir qualquer revisão desses graves comportamentos. Exemplifico a assertiva com a referência à pesquisa da Rede de Observatórios da Segurança de que 90% das prisões feitas no Brasil por meio dessa tecnologia foram de pessoas negras, e entre elas houve erros de identificação que levaram inocentes à prisão”, destacou o juiz.
O magistrado ainda citou casos de cidades que proibiram o uso da tecnologia para fins de segurança pública, como São Francisco e Boston, ambas nos Estados Unidos. O juiz também destacou que ainda não há uma regulamentação clara para o uso do reconhecimento facial em larga escala. “Não há como adquirir o sistema de videomonitoramento sem se saber como os dados podem ser processados (Lei Geral de Proteção de Dados) e como devem ser ponderados em proteção aos direitos fundamentais. A prévia definição legal em cumprimento ao princípio da legalidade é condição à definição de qual produto e quais serviços precisam ser contratados”, escreveu o juiz. A Prefeitura deverá se manifestar no processo em até 30 dias.
O projeto é uma das apostas de Nunes para melhorar a segurança da capital, com o compartilhamento dos dados captados com órgãos como a CET, Defesa Civil, Samu e também a Polícia Militar. Mas especialistas em segurança de dados e partidos da oposição criticam a medida por considerarem que o reconhecimento facial pode ferir a Lei Geral de Proteção de Dados (LGPD) e que a inteligência artificial pode ter um viés discriminatório para a população negra.
O edital do Smart Sampa para contratar uma empresa que forneceria as câmeras e softwares de reconhecimento à cidade previa, inicialmente, que as câmeras iriam identificar o rosto das pessoas, a cor da pele e até “situações de vadiagem”. Após críticas, o último termo foi retirado do documento.
Renascimento do Centro
Enjoei abre primeira loja física em São Paulo com compra e venda por Pix
Denise Fraga comemora 40 anos de carreira e estrela peça com Tony Ramos
Nova exposição imersiva de Klimt e Gaudí chega à Zona Leste
Tudo pela diva: Paulistanos enfrentam multidões e preços altos para ver Madonna no Rio
