Empresa de
reconhecimento facial usada em Gaza anuncia parceria para uso em escolas
públicas de Alagoas
SEM MUITO ALARDE, o governo israelense implementou no ano
passado um programa de reconhecimento facial em larga escala em Gaza. A
tecnologia passou a ser utilizada na Palestina após os ataques de outubro
graças à Corsight, uma empresa israelense contratada pelo exército para
desenvolver um programa que pudesse identificar reféns israelenses em Gaza e
achar alvos militares do Hamas.
A milhares de quilômetros de Gaza, em Alagoas, no Brasil, essa
mesma empresa está anunciando uma parceria que leva sua tecnologia de
reconhecimento facial às escolas públicas do estado.
Em fevereiro, alguns portais estrangeiros de tecnologia e
segurança noticiaram que a Corsight havia anunciado uma parceria com a Teltex,
uma empresa brasileira de soluções em segurança eletrônica. Segundo uma destas
notícias, a Teltex havia escolhido, em resposta a uma preocupação crescente com
segurança nas escolas, incorporar a tecnologia de reconhecimento facial da
Corsight.
A solução, ainda segundo essa notícia, seria integralmente
implementada até o meio de 2024, com a instalação de licenças de uso da
Corsight em centenas de escolas de Alagoas.
A Teltex, empresa com a qual a Corsight teria feito essa
parceria, tem, desde abril de 2023, um contrato de R$ 18 milhões com a
Secretaria de Educação de Alagoas, a Seduc. A finalidade é implantar um sistema
de gestão de controle de entrada e saída de alunos nas escolas públicas
alagoanas.
Mas não existe rastro da contratação da Corsight em documentos
públicos de Alagoas e tampouco o governo foi avisado da incorporação dessa
tecnologia, segundo informações obtidas pelo Intercept Brasil via Lei Acesso à
Informação.
O contrato foi renovado por mais um ano no fim de maio. Em
nenhum momento o documento fala em reconhecimento facial. Também não existe
nenhum aditivo de contrato falando sobre a participação da Corsight.
Em resposta a um pedido de LAI, a Seduc disse não ter sido
informada sobre a incorporação de solução de reconhecimento facial. Questionada
via assessoria de imprensa, a Teltex disse desconhecer a parceria e informou,
via nota por e-mail, que o projeto em implantação em Alagoas inclui a
“utilização de várias tecnologias avançadas, como sistemas analíticos de
vídeo”.
A empresa disse ainda que realizou apenas provas de conceito, um
tipo de demonstração da funcionalidade, com a Corsight e que a plataforma
“Corsight AI provavelmente não será utilizada neste contexto específico”.
• ‘Vamos em
frente por mais’
Apesar de afirmar desconhecer a parceria, executivos da Teltex
se mostraram entusiasmados com a notícia em uma publicação de LinkedIn em que a
Corsight anunciava a colaboração. Marcado em um comentário por Geraldo Sanga,
gerente de vendas da Corsight no Brasil, o gerente de pré-vendas da Teltex,
Gabriel Duardes, respondeu: “conte conosco, vamos em frente por mais”.
Na mesma publicação, Sanga marcou também Thiago Duardes, que
ocupa o cargo de gerente comercial na Teltex, agradecendo-o pela parceria, ao
que Duardes respondeu: “vamos avançar em mais projetos, conte conosco”.
Uma publicação de fevereiro do site Aithority sobre a parceria
também traz uma aspa de Gabriel Duardes, gerente de pré-vendas. “Nós embarcamos
nessa iniciativa com a Corsight devido à sua ética em relação às nossas
crianças, à sua precisão com muitos grupos éticos no Brasil e devido à
velocidade sem paralelos da solução de inteligência facial da Corsight”, disse
Duardes. Segundo a publicação, o objetivo da implementação da tecnologia é
deter entradas não-autorizadas.
Se a tecnologia tiver sido, de fato, incorporada, como anunciado
pela Corsight, o caso poderia ser considerado uma violação das normas de
transparência e das condições contratuais estabelecidas.
“Caso a empresa vencedora de um processo licitatório estabeleça
uma parceria para a prestação de serviços com outra empresa após vencer o
processo licitatório, isso deve ser comunicado ao poder público”, disse Mariana
Canto, diretora do Instituto de Pesquisa em Direito e Tecnologia do Recife, o
IP.Rec, e pesquisadora na área de privacidade e vigilância.
Caberia à Secretaria de Educação, como contratante, fiscalizar a
execução desse contrato, disse Canto, mas as controladorias, Tribunais de Conta
e até mesmo o Ministério Público também têm competência para investigar os
contratos.
A situação é agravada pelo fato de que a solução estaria sendo
utilizada em crianças e adolescentes. Segundo Canto, é preciso enfatizar “o
risco de contratação de uma empresa estrangeira que pode estar coletando dados
biométricos e outros dados sensíveis de crianças e adolescentes brasileiras
para o treinamento de seus algoritmos”.
Como não há, até o momento, nenhum aditivo de contrato
especificando como se dará essa parceria caso ela se concretize, também faltam
informações sobre como os dados serão coletados, armazenados e tratados, e
tampouco sobre os algoritmos usados pelo sistema.
• Em Gaza,
tecnologia define alvos a serem bombardeados
Desde o fim do ano passado, a divisão de inteligência do
exército de Israel opera um sistema de reconhecimento facial que usa tecnologia
da Corsight junto ao Google Fotos.
Inicialmente, o sistema foi usado para procurar por reféns que
foram levados pelo Hamas em 7 de outubro, mas depois ele passou a ser usado
para identificar pessoas supostamente ligadas ao Hamas ou a outros grupos
militantes. O sistema funciona para identificar rostos em multidões e em vídeos
de baixa qualidade obtidos por drones.
Mas, conforme reportado pelo New York Times, mesmo oficiais da
inteligência israelense afirmaram que o sistema é falho, tendo por vezes
erroneamente identificado civis como alvos militares do Hamas. As fontes que
conversaram com o NYT manifestaram preocupação de que o sistema seria um “mau
uso de tempo e recursos por Israel”.
O sistema desenvolvido pela Corsight não é a única frente em que
Israel está usando inteligência artificial em Gaza. A +972 Magazine e Local
Calls, dois veículos israelenses, reportaram que Israel conta com dois sistemas
que usam IA para identificar e marcar alvos militares a partir do processamento
massivo de dados. Segundo a reportagem, durante as fases iniciais da guerra,
oficiais autorizaram ataques contra os alvos identificados sem que houvesse
revisão humana.
• Tecnologia se
espalha por escolas do Brasil sem mitigação de riscos
Já foram encontrados casos de reconhecimento facial em escolas
de pelo menos 10 estados brasileiros, segundo um mapeamento publicado pelo
InternetLab em março de 2023.
Um dos estados que mais utilizam a tecnologia é Goiás, que
recebeu mais de R$ 30 milhões em emendas parlamentares destinadas a
reconhecimento facial. Mas ao que tudo indica, a tecnologia está sendo adotada
sem nenhum estudo de seu potencial impacto e sem mitigação de riscos.
O mapeamento identificou que em nenhum dos 15 casos de uso o
poder público informou ter realizado estudos de “impacto de risco aos direitos
humanos ou análises sobre o potencial de discriminação resultante de softwares
de reconhecimento facial” antes da execução do projeto.
Como justificativas para o uso da tecnologia, o InternetLab
mapeou que otimização da gestão do ambiente escolar, combate à evasão e
segurança aparecem como as mais frequentes. Uma das conclusões do mapeamento,
para o qual foram ouvidos docentes e especialistas, é de que o reconhecimento
facial não parece ser capaz de combater de forma eficiente essas questões.
Fonte: Por Laís Costa, em The Intercept
Nenhum comentário:
Postar um comentário