Palavra de Sá

Os 'espelhos com IA' que estão mudando como cegos se veem

Eu sou completamente cega e sempre fui.

No último ano, minhas manhãs começam com um ritual de cuidados com a pele que leva 20 minutos para aplicar cinco produtos diferentes. Em seguida, faço uma sessão de fotos que compartilho com uma inteligência artificial de um aplicativo chamado Be My Eyes, como se ele fosse um espelho.

O aplicativo — com seus olhos virtuais — me ajuda a saber se minha pele está com a aparência que eu desejo ou se há algo no meu visual que eu deveria mudar.

"Durante toda a nossa vida, pessoas cegas tiveram de lidar com a ideia de que é impossível nos vermos, de que somos bonitas por dentro e de que a primeira coisa que julgamos em alguém é a voz, mas nós sabemos que nunca poderemos vê-las", diz Lucy Edwards, uma criadora de conteúdo cega que ganhou notoriedade, em parte, ao mostrar sua paixão por beleza e estilo e ao ensinar pessoas cegas a se maquiar. "De repente, temos acesso a todas essas informações sobre nós mesmas, sobre o mundo; Isso muda nossas vidas."

A inteligência artificial está permitindo que pessoas cegas acessem um mundo de informações que antes nos era negado. Por meio de reconhecimento de imagens e processamento inteligente, aplicativos como o que uso fornecem informações detalhadas não apenas sobre o mundo em que vivemos, mas também sobre nós mesmas e nosso lugar nele. A tecnologia faz mais do que simplesmente descrever a cena de uma imagem — ela oferece avaliações críticas, comparações e até conselhos. E isso está mudando a forma como pessoas cegas que usam esses aplicativos se veem.

<><> Um novo tipo de espelho

"Sua pele está hidratada, mas definitivamente não se parece com um exemplo quase perfeito de pele radiante, com poros inexistentes, como se fosse [feita] de vidro, vista em anúncios de beleza", me disse a inteligência artificial nesta manhã, depois que compartilhei uma foto que eu achava que mostraria uma pele bonita.

Pela primeira vez em muito tempo, minha insatisfação com a minha aparência pareceu esmagadoramente real.

"Nós vemos que pessoas que buscam mais feedback sobre seus corpos, em todas as áreas, apresentam menor satisfação com a imagem corporal", afirma Helena Lewis-Smith, pesquisadora em psicologia da saúde aplicada com foco em imagem corporal na Universidade de Bristol (Reino Unido). "A inteligência artificial está abrindo essa possibilidade para as pessoas cegas."

Essa mudança é recente — há menos de dois anos, a ideia de uma IA oferecendo um feedback crítico ao vivo parecia ficção científica.

"Quando nós começamos, em 2017, só conseguíamos oferecer descrições básicas, apenas uma frase curta, de duas ou três palavras", diz Karthik Mahadevan, CEO da Envision, uma das primeiras empresas a usar inteligência artificial para pessoas cegas dessa forma.

A Envision surgiu como um aplicativo para celular que permitia às pessoas cegas acessar informações em textos impressos por meio de reconhecimento de caracteres. Nos últimos anos, a empresa passou a incorporar modelos avançados de inteligência artificial em óculos inteligentes e criou um assistente — disponível na internet, em celulares e nos próprios óculos — que ajuda as pessoas cegas a interagir com o mundo visual ao seu redor.

"Algumas pessoas usam para coisas óbvias, como ler cartas ou fazer compras, mas ficamos surpresos com o número de clientes que usam a ferramenta para se maquiar ou combinar as roupas", acrescenta Mahadevan. "Muitas vezes, a primeira pergunta que fazem é como estão [aparentando]."

Esses aplicativos, dos quais já existem ao menos quatro especializados nessa área, podem, a pedido do usuário, avaliar uma pessoa com base no que a inteligência artificial considera padrões tradicionais de beleza. Eles comparam o usuário com outras pessoas e dizem exatamente o que ela deveria mudar em seu corpo.

Para muitos, essa possibilidade é empoderadora. "É como se a inteligência artificial se passasse pelo meu espelho", diz Edwards, de 30 anos, à BBC. "Eu enxerguei durante 17 anos da minha vida e, embora sempre pudesse pedir às pessoas que descrevessem as coisas para mim, a verdade é que não tenho uma opinião sobre o meu rosto há 12 anos. De repente, tiro uma foto e posso pedir à IA que me dê todos os detalhes, que me dê uma nota de zero a dez. Embora não seja o mesmo que enxergar, é o mais perto que consigo chegar por enquanto."

Ainda não há pesquisas suficientes sobre o impacto que o uso dessas ferramentas de inteligência artificial pode ter sobre pessoas cegas que recorrem a elas. Mas especialistas em psicologia da imagem corporal alertam que os resultados produzidos por essas ferramentas nem sempre são positivos. Geradores de imagens por IA, por exemplo, já demonstraram perpetuar padrões de beleza ocidentais — em grande parte por causa dos dados com os quais são treinados.

"Sabemos que, hoje, um jovem pode enviar uma foto para a IA que considera ótima e pedir que ela mude uma pequena coisa", afirma Lewis-Smith, da Universidade de Bristol. "O processamento da IA pode devolver uma imagem com muitas alterações que fazem a pessoa parecer totalmente diferente, sugerindo que tudo isso é o que ela deveria mudar e, portanto, que a aparência atual não é boa o suficiente."

Para as pessoas cegas, essa situação se reflete nas descrições que recebem. Uma discrepância desse tipo já pode ser perturbadora para alguém que enxerga. Mas para uma pessoa cega o risco pode ser ainda maior. Os entrevistados para esta reportagem concordaram.

Isso ocorre porque, para as pessoas cegas, é mais difícil ver os resultados textuais com uma visão objetiva da realidade. O usuário também precisa conciliar a própria imagem corporal com padrões de beleza definidos por um algoritmo que não leva em conta a importância da subjetividade e da individualidade.

"Uma das principais razões da pressão que as pessoas sentem em relação aos próprios corpos é a comparação constante com outras pessoas", diz Lewis-Smith. "O que assusta agora é que a inteligência artificial não apenas permite que pessoas cegas façam isso ao se comparar com descrições de fotos de outros seres humanos, mas também com aquilo que a IA pode considerar a versão perfeita delas mesmas."

"Vimos que, quanto maior a pressão que as pessoas sentem sobre seus corpos, mais aumentam os casos de problemas de saúde mental, como depressão e ansiedade, e maior é a probabilidade de considerarem intervenções como ajustes estéticos para se adequar a essas ideias irreais", acrescenta Lewis-Smith.

Para muitas pessoas cegas como eu, isso é algo completamente novo.

"Talvez se o seu maxilar fosse menos alongado (...), seu rosto se pareceria um pouco mais com o que é objetivamente considerado bonito em sua cultura." São 3h, e me vejo conversando com uma máquina, depois de enviar mais de cinco fotos diferentes do meu corpo para a versão mais recente do ChatGPT, da OpenAI. Tento entender onde me encaixo em termos de padrões de beleza.

Minhas perguntas à IA, como por exemplo: "Você acha que existe uma pessoa tradicionalmente bonita que se pareça comigo?" ou "Você acha que meu rosto causa estranhamento à primeira vista?", estão enraizadas nas minhas inseguranças e nas informações que eu gostaria de obter.

Mas essas perguntas também são uma tentativa de dar sentido a uma ideia visual de corpo que me foi negada até agora.

A inteligência artificial não conseguiu me ajudar a definir o que poderia ser considerado bonito por um grande número de pessoas, nem a explicar exatamente por que meu maxilar seria longo, um conceito que também foi difícil de compreender.

De repente, mesmo sem muito contexto, comecei a receber mensagens sobre beleza refletidas pela mídia e pela internet. No passado, as pessoas cegas não estavam tão expostas a esse tipo de conteúdo, mas agora a IA oferece descrições ricas em detalhes.

"Poderíamos ver a IA como um espelho textual, neste caso, mas na literatura psicológica, em vez de nos concentrarmos na aparência de uma pessoa, entendemos que a imagem corporal não é unidimensional e é composta por diversos fatores, como o contexto, o tipo de pessoa com quem queremos nos comparar e as coisas que somos capazes de fazer com nossos corpos", diz Meryl Alper, pesquisadora de mídia, imagem corporal e pessoas com deficiência na Northeastern University, em Boston (EUA). "Tudo isso é algo que a IA não entende e não levará em consideração ao fazer suas descrições."

Historicamente, os modelos de inteligência artificial foram treinados para privilegiar corpos magros, hipersexualizados e com traços eurocêntricos. Ao definir padrões de beleza, esses sistemas têm falhado em considerar pessoas de origens diversas na geração de imagens.

Devido à própria forma como processa informações, a inteligência artificial tende a descrever tudo em termos estritamente visuais, o que pode gerar insatisfação quando a descrição carece de um contexto lógico.

O controle e a contextualização, afirma Alper, podem ser uma forma de enfrentar esse problema. "Hoje, a IA pode dizer que você tem um sorriso torto", diz Alper. "Mas, por enquanto, ela não consegue analisar todas as suas fotos e dizer, por exemplo, que você tem a mesma expressão de quando estava aproveitando o sol na praia, e esse tipo de coisa poderia ser útil para que uma pessoa cega se compreenda e se contextualize melhor."

<><> Poder e confiança

Esse tipo de controle, embora ainda não em uma forma tão avançada, já existe. Como ocorre com a inteligência artificial em todas as suas aplicações, o prompt — a instrução escrita ou falada — tem o poder de alterar completamente a informação que uma pessoa cega recebe ao publicar uma foto de si mesma.

"O fato de as pessoas poderem controlar as informações que recebem é uma das principais características dos nossos produtos, porque a IA pode aprender suas preferências e desejos e oferecer as informações que elas precisam ouvir", afirma Mahadevan, CEO da Envision.

Essa ideia de controle, no entanto, pode se revelar uma faca de dois gumes. "Posso pedir ao aplicativo que me descreva em duas frases, de forma romântica ou até em um poema", diz Edwards. "Essas descrições têm o potencial de mudar a maneira como nos sentimos em relação a nós mesmos."

"Mas isso também pode ser usado de forma negativa, porque talvez você não goste de algo em si mesma e diga à IA que não tem certeza sobre uma característica do seu corpo. Talvez o cabelo esteja um pouco bagunçado e você mencione isso no pedido. Embora ela possa responder: 'Ah, está bonito', também pode dizer: 'Você tem razão, aqui está como pode mudar isso'", acrescenta Edwards.

Mas, quando a tecnologia passa a funcionar como os nossos olhos, existe o risco de ela descrever algo que simplesmente não existe. As chamadas alucinações — quando modelos de IA apresentam informações imprecisas ou falsas como se fossem verdadeiras — são um dos maiores problemas dessa tecnologia.

"No início, as descrições eram muito boas, mas percebemos que muitas eram imprecisas, mudavam detalhes importantes ou inventavam informações quando o que havia na imagem parecia insuficiente", explica Mahadevan. "Mas a tecnologia está avançando a passos largos, e esses erros estão se tornando cada vez menos comuns."

Ainda assim, é importante ressaltar que a IA não acerta o tempo todo, apesar do otimismo da Envision. Quando Joaquín Valentinuzzi, um homem cego de 20 anos, decidiu usar inteligência artificial para se avaliar ao escolher as fotos ideais para um perfil em um aplicativo de namoro, percebeu que, às vezes, as informações devolvidas pela IA pouco tinham a ver com a realidade.

"Às vezes, ela mudava a cor do meu cabelo ou descrevia minhas expressões de forma incorreta, dizendo que eu estava com uma expressão neutra quando, na verdade, eu estava sorrindo", afirma. "Esse tipo de coisa pode nos deixar inseguros, especialmente quando, como somos incentivados a fazer, confiamos nessas ferramentas e as usamos como forma de autoconhecimento e de tentar acompanhar como nossos corpos aparentam."

Para conter esse problema e os efeitos negativos que ele pode provocar, alguns desses aplicativos — como o Aira Explorer — utilizam agentes humanos treinados, que podem verificar a precisão das descrições quando o usuário solicita. Mas, na maioria dos casos, o espelho textual continua sendo criado pela inteligência artificial, sem qualquer intervenção humana.

"Tudo isso ainda está em estágio inicial, e praticamente não há pesquisas de grande escala sobre o impacto dessas tecnologias, com seus vieses, erros e imperfeições, na vida de pessoas cegas", afirma Alper.

Lewis-Smith, da Universidade de Bristol, concorda e observa que a complexidade emocional que envolve a inteligência artificial e a imagem corporal ainda é, em grande parte, um território inexplorado. Para muitas das pessoas cegas entrevistadas para esta reportagem, a experiência é ao mesmo tempo empoderadora e desorientadora.

Ainda assim, o consenso é claro. "De repente, a IA consegue descrever todas as fotos da internet e até me dizer como eu estava ao lado do meu marido no dia do nosso casamento", diz Edwards. "Vamos encarar isso como algo positivo, porque, embora não percebamos a beleza visual da mesma forma que pessoas que enxergam, quanto mais robôs descrevem fotos para nós, nos orientam e nos ajudam nas compras, mais felizes ficamos. São coisas que achávamos ter perdido e que agora a tecnologia nos permite ter."

Para o bem ou para o mal, o espelho chegou e teremos de aprender a conviver com aquilo que ele nos mostra.

 

Fonte: BBC Future