Palavra de Sá

Empresa de reconhecimento facial usada em Gaza anuncia parceria para uso em escolas públicas de Alagoas

SEM MUITO ALARDE, o governo israelense implementou no ano passado um programa de reconhecimento facial em larga escala em Gaza. A tecnologia passou a ser utilizada na Palestina após os ataques de outubro graças à Corsight, uma empresa israelense contratada pelo exército para desenvolver um programa que pudesse identificar reféns israelenses em Gaza e achar alvos militares do Hamas.

A milhares de quilômetros de Gaza, em Alagoas, no Brasil, essa mesma empresa está anunciando uma parceria que leva sua tecnologia de reconhecimento facial às escolas públicas do estado.

Em fevereiro, alguns portais estrangeiros de tecnologia e segurança noticiaram que a Corsight havia anunciado uma parceria com a Teltex, uma empresa brasileira de soluções em segurança eletrônica. Segundo uma destas notícias, a Teltex havia escolhido, em resposta a uma preocupação crescente com segurança nas escolas, incorporar a tecnologia de reconhecimento facial da Corsight.

A solução, ainda segundo essa notícia, seria integralmente implementada até o meio de 2024, com a instalação de licenças de uso da Corsight em centenas de escolas de Alagoas.

A Teltex, empresa com a qual a Corsight teria feito essa parceria, tem, desde abril de 2023, um contrato de R$ 18 milhões com a Secretaria de Educação de Alagoas, a Seduc. A finalidade é implantar um sistema de gestão de controle de entrada e saída de alunos nas escolas públicas alagoanas.

Mas não existe rastro da contratação da Corsight em documentos públicos de Alagoas e tampouco o governo foi avisado da incorporação dessa tecnologia, segundo informações obtidas pelo Intercept Brasil via Lei Acesso à Informação.

O contrato foi renovado por mais um ano no fim de maio. Em nenhum momento o documento fala em reconhecimento facial. Também não existe nenhum aditivo de contrato falando sobre a participação da Corsight.

Em resposta a um pedido de LAI, a Seduc disse não ter sido informada sobre a incorporação de solução de reconhecimento facial. Questionada via assessoria de imprensa, a Teltex disse desconhecer a parceria e informou, via nota por e-mail, que o projeto em implantação em Alagoas inclui a “utilização de várias tecnologias avançadas, como sistemas analíticos de vídeo”.

A empresa disse ainda que realizou apenas provas de conceito, um tipo de demonstração da funcionalidade, com a Corsight e que a plataforma “Corsight AI provavelmente não será utilizada neste contexto específico”.

•           ‘Vamos em frente por mais’

Apesar de afirmar desconhecer a parceria, executivos da Teltex se mostraram entusiasmados com a notícia em uma publicação de LinkedIn em que a Corsight anunciava a colaboração. Marcado em um comentário por Geraldo Sanga, gerente de vendas da Corsight no Brasil, o gerente de pré-vendas da Teltex, Gabriel Duardes, respondeu: “conte conosco, vamos em frente por mais”.

Na mesma publicação, Sanga marcou também Thiago Duardes, que ocupa o cargo de gerente comercial na Teltex, agradecendo-o pela parceria, ao que Duardes respondeu: “vamos avançar em mais projetos, conte conosco”.

Uma publicação de fevereiro do site Aithority sobre a parceria também traz uma aspa de Gabriel Duardes, gerente de pré-vendas. “Nós embarcamos nessa iniciativa com a Corsight devido à sua ética em relação às nossas crianças, à sua precisão com muitos grupos éticos no Brasil e devido à velocidade sem paralelos da solução de inteligência facial da Corsight”, disse Duardes. Segundo a publicação, o objetivo da implementação da tecnologia é deter entradas não-autorizadas.

Se a tecnologia tiver sido, de fato, incorporada, como anunciado pela Corsight, o caso poderia ser considerado uma violação das normas de transparência e das condições contratuais estabelecidas.

“Caso a empresa vencedora de um processo licitatório estabeleça uma parceria para a prestação de serviços com outra empresa após vencer o processo licitatório, isso deve ser comunicado ao poder público”, disse Mariana Canto, diretora do Instituto de Pesquisa em Direito e Tecnologia do Recife, o IP.Rec, e pesquisadora na área de privacidade e vigilância.

Caberia à Secretaria de Educação, como contratante, fiscalizar a execução desse contrato, disse Canto, mas as controladorias, Tribunais de Conta e até mesmo o Ministério Público também têm competência para investigar os contratos.

A situação é agravada pelo fato de que a solução estaria sendo utilizada em crianças e adolescentes. Segundo Canto, é preciso enfatizar “o risco de contratação de uma empresa estrangeira que pode estar coletando dados biométricos e outros dados sensíveis de crianças e adolescentes brasileiras para o treinamento de seus algoritmos”.

Como não há, até o momento, nenhum aditivo de contrato especificando como se dará essa parceria caso ela se concretize, também faltam informações sobre como os dados serão coletados, armazenados e tratados, e tampouco sobre os algoritmos usados pelo sistema.

•           Em Gaza, tecnologia define alvos a serem bombardeados

Desde o fim do ano passado, a divisão de inteligência do exército de Israel opera um sistema de reconhecimento facial que usa tecnologia da Corsight junto ao Google Fotos.

Inicialmente, o sistema foi usado para procurar por reféns que foram levados pelo Hamas em 7 de outubro, mas depois ele passou a ser usado para identificar pessoas supostamente ligadas ao Hamas ou a outros grupos militantes. O sistema funciona para identificar rostos em multidões e em vídeos de baixa qualidade obtidos por drones.

Mas, conforme reportado pelo New York Times, mesmo oficiais da inteligência israelense afirmaram que o sistema é falho, tendo por vezes erroneamente identificado civis como alvos militares do Hamas. As fontes que conversaram com o NYT manifestaram preocupação de que o sistema seria um “mau uso de tempo e recursos por Israel”.

O sistema desenvolvido pela Corsight não é a única frente em que Israel está usando inteligência artificial em Gaza. A +972 Magazine e Local Calls, dois veículos israelenses, reportaram que Israel conta com dois sistemas que usam IA para identificar e marcar alvos militares a partir do processamento massivo de dados. Segundo a reportagem, durante as fases iniciais da guerra, oficiais autorizaram ataques contra os alvos identificados sem que houvesse revisão humana.

•           Tecnologia se espalha por escolas do Brasil sem mitigação de riscos

Já foram encontrados casos de reconhecimento facial em escolas de pelo menos 10 estados brasileiros, segundo um mapeamento publicado pelo InternetLab em março de 2023.

Um dos estados que mais utilizam a tecnologia é Goiás, que recebeu mais de R$ 30 milhões em emendas parlamentares destinadas a reconhecimento facial. Mas ao que tudo indica, a tecnologia está sendo adotada sem nenhum estudo de seu potencial impacto e sem mitigação de riscos.

O mapeamento identificou que em nenhum dos 15 casos de uso o poder público informou ter realizado estudos de “impacto de risco aos direitos humanos ou análises sobre o potencial de discriminação resultante de softwares de reconhecimento facial” antes da execução do projeto.

Como justificativas para o uso da tecnologia, o InternetLab mapeou que otimização da gestão do ambiente escolar, combate à evasão e segurança aparecem como as mais frequentes. Uma das conclusões do mapeamento, para o qual foram ouvidos docentes e especialistas, é de que o reconhecimento facial não parece ser capaz de combater de forma eficiente essas questões.

 

Fonte: Por Laís Costa, em The Intercept