“Nas mãos erradas, a IA pode causar mais
danos do que outras tecnologias anteriores”, diz geógrafa indiana
Ayona Datta é
geógrafa e professora da University College London. Ela cresceu em
Delhi, na Índia, e queria entender como o desenho das cidades condiciona a
experiência que as mulheres têm delas. Ele agora reside em Londres, mas
seu trabalho de campo acontece nos arredores de cidades
do México, Quênia e Índia. O seu campo de investigação gira
em torno de dois binómios “cidade inteligente” e “inteligência artificial”,
embora questione ambos os conceitos como ponto de partida.
Em sua apresentação no
curso Inteligência Artificial para Inovação Social? (AI4SI), incluída no
programa de verão da Universidade do País Basco, falou sobre o seu trabalho
em cidades inteligentes. Em sua apresentação não houve imagens de arranha-céus
ou pessoas com smartphones de última geração dirigindo Teslas.
<><> Eis a
entrevista.
·
Quando se pensa em uma cidade inteligente, o imaginário social reproduz o que aparece em uma busca no
Google. Grandes edifícios, avenidas largas, iluminação de baixo consumo e
celulares de última geração. Mas, qual é a imagem que você tem de uma cidade
inteligente, de acordo com sua pesquisa?
Minha pesquisa desde o
início consistiu em questionar esse imaginário, um imaginário fantástico que
quase parece um filme de ficção científica. Comecei a pesquisar cidades inteligentes porque estava interessado em ver que outras versões existem, o
que realmente significa ser inteligente. As imagens de “cidades inteligentes”,
especialmente na forma como são produzidas e divulgadas no Sul global,
assemelham-se muito à ficção científica, e penso que isso se deve ao facto de
surgirem da compreensão de que a tecnologia resolverá tudo. Passamos por isso
nos anos 40, nos anos 70, nos anos 2000.
Queria ver que
inteligência realmente existe, como a vida se desenvolve nas ruas através da
tecnologia, ou sem ela. E descobri várias versões de ser “inteligente”, algo
que começou quando comecei a trabalhar com comunidades, perguntando-lhes o que
significa ser “inteligente”.
Existem muitas versões
de ser inteligente porque inteligente em si não é uma palavra carregada de
tecnologia. Inteligente significa apenas ser sábio na forma como utiliza os
recursos, na forma como pode utilizá-los para fazer mais com menos. E é isso
que as comunidades nos dizem. Então, eu queria trabalhar com essa definição de
inteligente, uma definição que pudesse ser usada.
Quando se começa a
pensar na relação entre a cidade inteligente e a tecnologia, ela é muito forte, devido às narrativas que são transmitidas
de cima para baixo pelos governos e por todas as empresas globais. Mas se
formos ao nível da rua, há uma grande utilização da tecnologia porque, claro,
nos últimos 20 anos, as zonas urbanas pobres do Sul global têm sido as maiores
receptoras de tecnologia, e hoje cada pessoa tem um celular.
Isso não significa que
eles saibam como usá-lo para extrair as informações corretas, mas quando
falamos sobre ser inteligente, quero falar sobre o uso de tecnologias frugais e
de baixo custo e como as pessoas no local sobrevivem usando esses tipos de tecnologias.
Este tipo de luta
existe há gerações, mas agora existe uma camada de tecnologia. É assim que
entendo a inteligência, de uma forma muito mais diversificada.
·
Você acabou de falar sobre o que você
considera “inteligente”. Em sua apresentação ele também explicou o que entende
por IA, Inteligência Artificial, e como a IA está presente no uso do WhatsApp
ou de aplicativos simples. O que é essa tecnologia?
Não vejo muita
diferença entre IA e smart. Acredito que a IA é um continuum de
inovações e tecnologias anteriores. A inteligência é recente, enquanto a IA é ainda mais recente. Questiono o rótulo “inteligência artificial”, porque a inteligência não pode ser artificial. Para que
a IA funcione, precisamos de mais intervenção humana.
No início dos anos
2000, também usamos tipos específicos de codificações e algoritmos. Por exemplo, se você quiser criar um sensor de fumaça, ou se
quiser criar um sistema inteligente de resíduos ou um sistema de reconhecimento
facial instalado em todas as câmeras CCTV em uma sala de controle de tráfego da
cidade, essa também será uma cidade inteligente. Tem sido impossível fazer esse
tipo de tecnologia nos últimos anos sem algoritmos e codificação. Ou seja, o
conceito “inteligência artificial” é inadequado porque necessita realmente da
inteligência humana para funcionar, não possui o tipo de agência mostrado.
Dito isto, há também o
outro lado, que é a IA generativa mais recente, que parece ter vida própria, como o ChatGPT,
por exemplo, ou os deepfakes. Mesmo isso precisa de intervenção
humana. A IA generativa está se tornando cada vez mais popular, mas acho que
também estamos ficando cada vez mais inteligentes na compreensão de que
realmente não podemos permitir que ela domine o mundo.
Portanto, sou um pouco
cético em relação a essas visões de que a IA assumirá o controle de tudo. IA é, para mim, o mesmo que tecnologia inteligente
e, nesse sentido, é uma tecnologia menor, especialmente na vida das pessoas na
rua. Se você for conversar com jovens que moram em assentamentos, em
comunidades da classe trabalhadora e perguntar e perguntar se elas usam
inteligência artificial, elas vão pensar: “De que mundo você vem? Tento pagar
minhas contas e comprar comida”.
Mas é claro que estou
preocupado com o tipo de mineração de dados que a IA é capaz de
realizar. Tal como acontece com outras tecnologias, há coisas positivas a dizer
e alguns aspectos problemáticos, tal como acontece com outras tecnologias. Embora
eu ache que nas mãos erradas pode causar muito mais danos do que as tecnologias
anteriores poderiam ter causado.
É por isso que
precisamos de uma regulamentação forte. Mas, como disse, penso que de uma forma ou de outra
a IA sempre esteve lá, embora neste momento o seu impacto no
dia-a-dia, na vida quotidiana das pessoas, seja menor, embora esteja a assumir
grande parte da governação.
·
O IAS é-nos apresentado como um novo deus,
mas falamos dele como uma tecnologia menor…
Há dez anos,
a IA foi proposta como a próxima grande novidade. E agora vejam onde
estamos, é como se houvesse peças fragmentadas e irregulares em diferentes
cidades do norte e do sul do mundo. Sinto que sempre há pressa em ficar animado
com algo novo, e não estou dizendo que não seja algo com que se preocupar. É,
pode ser usado para desinformar. Mas nunca substituirá os humanos, porque
exigirá sempre uma enorme quantidade de trabalho humano. O tipo de trabalho
humano mudará, sim. Mas a IA precisa de uma enorme intervenção humana
e de reconhecimento humano para funcionar como está. O ChatGPT nunca substituirá os humanos.
·
Durante sua apresentação, ela mostrou um
vídeo de um grupo de meninas de uma cidade periférica da Índia, onde uma delas
diz que “a cidade inteligente é uma falácia”. Você concorda com ela?
Concordo que é uma
falácia para algumas pessoas, dependendo do lado da cidade em que se encontram.
Os princípios básicos de uma cidade inteligente são que as tecnologias inteligentes devem ser colocadas em
camadas sobre a infraestrutura existente. E então penso que para muitas destas
pessoas da classe trabalhadora, as cidades inteligentes são uma falácia porque
não têm infraestruturas que funcionem bem. No vídeo você pode ver montanhas de
lixo e pode ver que não tem nem eletricidade, não tem luz. Então num bairro
onde não há energia elétrica não se pode colocar luzes com sensores porque não
há infraestrutura de iluminação. Não é possível criar um sistema de resíduos
inteligente se não houver um sistema de saneamento integrado e as pessoas vão
para os campos defecar.
Para as classes
desfavorecidas, a cidade inteligente é uma falácia porque as
tecnologias inteligentes só são possíveis quando já existe um determinado tipo
de infraestrutura física. A forma como as tecnologias inteligentes estão a ser
implementadas em partes do Sul global é principalmente nos centros
das cidades, nos distritos empresariais e nos bairros de classe média, porque é
onde há muita infraestrutura.
Depois, há as pessoas
que nem sequer conseguem chegar à cidade porque não há transportes públicos e
para quem a cidade inteligente é certamente uma falácia, mas de quem, sem o seu
conhecimento, a IA está a recolher dados, os seus dados são continuamente
minados.
·
Ela já trabalhou anteriormente em
infraestrutura e gênero. A IA também tem preconceitos de gênero?
Bem, trabalhei na
forma como as cidades inteligentes são tendenciosas em termos de género e parte
do meu trabalho vem daí. Não trabalhei em como a IA tem
preconceitos de gênero, mas pelo que entendi até agora, é que esse preconceito
vem das capacidades de mineração de dados da IA e também da codificação da IA, então os códigos são realmente direcionados determinados tipos
de parâmetros que podem
prejudicar não só as mulheres, mas também as minorias.
O que considero
realmente problemático é a forma como a IA é tão íntima em nossas
vidas. Temos essa visão de que isso vai tornar a nossa vida mais fácil e
simples, e por isso te seduz a dar mais informações. E então não sabemos o que
está sendo feito com esta informação ou como isso pode realmente afetar nossas
vidas. Isto ocorre num contexto em que outros dados por vezes não estão
disponíveis. Por exemplo, durante a pandemia, na Índia, subitamente
surgiram muitos trabalhadores migrantes que necessitaram de regressar a casa. O
Estado não sabia que eles existiam, não sabia como ajudá-los. Mas todos eles
usaram telefones celulares.
·
Como a IA e a perspectiva decolonial estão
interligadas?
Estou muito
interessado em ver como as desigualdades se acumulam de geração em geração. É por isso que é importante
ver como as tecnologias vêm e vão, mas também se complementam, eu acho. Então
se você pensar na lógica colonial, na cartografia do território, a construção
de infraestrutura, por exemplo no Canadá ou na Índia, sempre
teve como foco a movimentação de mercadorias, a movimentação de pessoas dos
portos para a cidade, porque isso também faz parte da expansão capitalista das
colônias. Mais tarde, quando chegaram a rádio, os telegramas, a eletricidade...
estas infraestruturas seguiram esse caminho. A colonialidade tem uma geografia que se transmite de
geração em geração.
Os desenvolvimentos
pós-coloniais também seguiram essa linha. Então os corredores industriais,
os corredores econômicos, seguiram as linhas ferroviárias que o governo
colonial criou, porque essas rotas já tinham sido criadas. E agora, se realmente
sobrepormos a infraestrutura digital, vemos uma forte correlação entre o que
existia antes do ponto de vista geográfico e o tipo de rede móvel que existe.
Porque quando você começa a construir uma infraestrutura, você a enxerta em
outra. Nesse sentido, você pode ver uma genealogia, uma historicidade dessas
tecnologias.
Mas, é claro,
as novas tecnologias também trazem consigo novas desigualdades e
novas marginalizações. Então, sim, estou muito interessado em analisar as
tecnologias e as discriminações das tecnologias e as desigualdades das
tecnologias no momento atual.
Precisamos ver o que
está acontecendo agora em relação ao que aconteceu antes. Eu sei que você vê
isso com comunidades específicas, comunidades que historicamente foram deixadas
para trás: as classes trabalhadoras, as mulheres, eu acho que as minorias, as
populações negras... elas foram historicamente deixadas para trás e agora
também se tornaram as fronteiras de novas experiências com tecnologias
digitais, novas experiências com IA. Vejo uma espécie de continuidade
histórica.
·
O título do curso em que tem participado
nestes dias é “Inteligência Artificial para Inovação Social? (AI4SI)”. Você
está otimista sobre como a IA pode contribuir para a mudança social? Você não
acha que a IA é feita para classes privilegiadas, principalmente homens
cis-héteros?
É verdade que existe
um preconceito, mas também existem suis globais dentro
do Norte e há nortes dentro do Sul global. Portanto, penso que a
discriminação e a desvantagem são contextuais, não se trata de homens brancos
heterossexuais contra mulheres negras, mas precisamos realmente de compreender
como as tecnologias se desenvolvem in situ no seu contexto e
que tipo de novas desigualdades causam.
Devemos adotar uma
abordagem crítica em relação à IA. E sim, com certeza, pode proporcionar
justiça social, quando utilizada de forma ética, colaborativa e democrática,
tal como qualquer outra tecnologia.
·
Como você se interessou por esta área de
trabalho?
Claro. Bem, eu sou
arquiteta. Trabalhei como arquiteta e depois estudei geografia urbana. Tenho
muito interesse por cidades. E entrei na tecnologia por acidente, porque
acompanhava as transformações urbanas no Sul global. E de repente comecei
a ver, tal como você, todas aquelas imagens fascinantes de ficção científica, a
perguntar-me porque é que a tecnologia se tornou tão importante. Penso que quem
estuda planeamento urbano não pode afastar-se do digital, porque a tecnologia
está a mudar enormemente as cidades e as cidades também estão a moldar as
tecnologias.
E se me interessei por
gênero é porque cresci em Deli, onde há muitas agressões sexuais
contra mulheres. Isso se tornou muito consciente e crítico em relação à forma
como as cidades são criadas e produzidas. Sempre quis compreender porque é que,
tradicionalmente, as mulheres têm sido excluídas tanto do design das
cidades como da vida urbana. A discriminação de gênero também ocorre
em Londres, é simplesmente mais invisível.
·
Quão inteligente é Londres?
Em muitos aspectos é
inteligente... mas depende de onde você vai.
Fonte: Entrevista com Ayona Datta, para Patrícia Reguero Rios, no El Salto
Nenhum comentário:
Postar um comentário