Palavra de Sá

Bia Willcox: Enganar sem mentir - manipulação algorítmica e consentimento

O vício é um velho conhecido da humanidade. Atravessou séculos, culturas e civilizações, permeando a existência humana com uma persistência que dispensa apresentações.

Não é novidade, tampouco exclusividade dos nossos tempos. A diferença é que, hoje, quase tudo ganha um megafone e, quando se trata dos vícios, não é diferente. O que antes circulava discretamente pela vida privada, agora invade os feeds, alimenta debates e se multiplica nas telas.

Das bets ao álcool, do tabaco às compulsões digitais, esses vícios continuam sob os holofotes.

Mas há outro significado para essa palavra, menos familiar ao grande público e particularmente interessante para compreender certas contradições do nosso tempo.

Não se trata, desta vez, do que nos adoece pelo hábito ou pelo desejo incontrolável, muitas vezes patológico, mas de algo talvez mais sutil: da liberdade que sentimos e que acreditamos exercer quando fazemos uma escolha.

No Direito, a vontade tem um papel fundamental. É ela que confere legitimidade a boa parte dos compromissos que assumimos, dos contratos que celebramos e das obrigações que aceitamos. Mas o Direito, felizmente, não é nada ingênuo e, portanto, não acredita que toda assinatura represente, necessariamente, uma decisão livre, consciente e espontânea.

Há situações em que alguém diz “sim”, mas só o faz porque foi enganado, pressionado ou levado a entender as coisas de maneira equivocada. É um consentimento de fachada.

O Direito chama isso de vício de consentimento: quando algo interfere de tal forma na formação da vontade que coloca em dúvida se a pessoa teria feito aquela escolha em outras circunstâncias.

O Código Civil brasileiro, nos artigos 138 a 157, contempla cinco modalidades tradicionais. E, embora seus nomes pareçam um tanto solenes, elas retratam situações bastante familiares.

Erro. Você compra um quadro convencido de que é original. O vendedor também acredita nisso. Ninguém pretende enganar ninguém, mas sua decisão foi tomada a partir de uma percepção equivocada sobre algo essencial.

Dolo. Aqui, a inocência desaparece. O vendedor adultera o hodômetro de um automóvel para fazê-lo parecer menos rodado. A informação é deliberadamente manipulada para conduzir sua decisão.

Coação. Você assina um contrato porque alguém o ameaça seriamente. A vontade não desaparece, mas passa a ser governada pelo medo.

Estado de perigo. Diante de uma emergência envolvendo alguém da família, você assume uma obrigação excessivamente onerosa para obter ajuda, e a outra parte conhece a gravidade da situação.

Lesão. Pressionado por uma necessidade financeira ou agindo por inexperiência, você aceita uma prestação manifestamente desproporcional.

Em determinadas condições, esses vícios permitem a anulação do negócio jurídico. E existe uma razão bastante sensata para isso: uma assinatura comprova que alguém manifestou sua vontade, mas não necessariamente que essa vontade tenha se formado livremente.

A autonomia da vontade, tão cara a Immanuel Kant, sempre me pareceu uma das ideias mais elegantes da filosofia: a liberdade não está simplesmente em fazer o que queremos, mas na capacidade de orientar nossas escolhas pela própria razão. E eu, kantiana assumida, costumo empunhar essa bandeira nas mais diferentes situações da vida, com força, foco e fé. Nem sempre com sucesso, admito, mas jamais por falta de convicção. Por isso, esse tema aqui me é tão caro.

No século XIX, o jurista alemão Rudolf von Jhering, ao estudar a responsabilidade pré-contratual, mostrou que as relações jurídicas podem produzir deveres e consequências mesmo quando um contrato não chega a se constituir validamente.

Não é exatamente a mesma discussão de Kant, nem pretendo colocá-los numa conversa que nunca tiveram. Mas gosto de pensar que a Filosofia nos provoca a perguntar o que significa ser livre para decidir, enquanto o Direito se concentra no mais concreto: o que acontece quando nossas decisões são tomadas em circunstâncias que não controlamos inteiramente?

E por que mesmo eu trago o vício de consentimento pra cá, hein? Porque basta olhar ao redor.

A qualquer hora, em qualquer lugar, certamente encontraremos alguém diante de uma tela, concordando com alguma coisa, aceitando condições ou tomando decisões com um ou dois movimentos dos dedos. Tudo muito simples, rápido e aparentemente espontâneo. Mas será que aquela sua vontade foi realmente livre, consciente e, sobretudo, sua? Eu sei que decidimos a partir do que sabemos, do que acreditamos saber e das circunstâncias que nos cercam. Somos influenciados o tempo inteiro e nem por isso nossas escolhas deixam de ser legítimas. Fato.

Mas existe uma diferença considerável entre oferecer razões para que alguém decida e interferir deliberadamente nas condições em que essa decisão será tomada.

E é aqui que chegamos ao ambiente digital, onde uma parte cada vez maior de nossas vidas acontece.

A Lei Geral de Proteção de Dados (LGPD) se preocupou com o assunto. Para o tratamento de dados pessoais baseado em consentimento, exige uma manifestação livre, informada e inequívoca (art. 5º, XII) e proíbe expressamente o tratamento mediante consentimento viciado (art. 8º, § 3º).

Até aí, ótimo. O legislador fez sua parte.

Mas a tecnologia, assim como a própria sociedade, não costuma esperar que o Direito termine de organizar nossas vidas. Costumo dizer que o Direito está sempre trocando o pneu com o carro andando. E, convenhamos, o carro anda cada vez mais depressa.

Nasce então uma questão que me desafia: como identificar uma interferência na vontade quando ninguém precisa mentir, ameaçar ou sequer insistir? Quando basta conhecer nossas preferências, antecipar nossas reações e organizar o ambiente para tornar determinada escolha mais provável?

E se estivermos diante de uma forma de comprometimento da vontade tão disseminada, invisível e normalizada que já nem a reconhecemos como tal?

À primeira vista, a pergunta pode parecer exagerada. Ninguém é obrigado a abrir o Instagram, por exemplo. Todos sabemos que existem algoritmos escolhendo o que aparece na tela. Se sabemos disso, onde está o problema?

Justamente na diferença entre saber que usamos uma tecnologia e perceber como a mesma nos influencia.

Neste ponto da conversa, entra uma velha conhecida da humanidade: a manipulação.

Confesso que ela me provoca um misto de fascínio, temor e embasbacamento. Não exatamente por suas virtudes morais, bastante discutíveis inclusive, mas pela engenhosidade de suas estratégias, pela criatividade dos artifícios e pela sofisticação com que consegue operar sobre o comportamento humano. É quase uma obra de engenharia social. E, convenhamos, poucas práticas atravessaram a história das relações humanas com tamanho sucesso.

A tecnologia não inventou a manipulação. Apenas lhe deu escala, precisão e uma capacidade extraordinária de conhecer quem pretende influenciar.

E o que mais me impressiona é que, para manipular, não é preciso mentir. Às vezes, basta administrar verdades: a informação certa, apresentada da maneira certa, no momento mais conveniente. Uma notificação quando estamos exaustos, um vídeo que alimenta nossas suspeitas, uma notícia escolhida para confirmar nossos preconceitos. Tudo pode ser verdadeiro. A malandragem e, por vezes, a genialidade, estão na combinação. É sobre usar o contexto certo no timing certo.

Os pesquisadores Daniel Susser, Beate Roessler e Helen Nissenbaum distinguem a persuasão, que oferece razões, da coação, que impõe ameaças, e da manipulação, que atua de maneira mais discreta. Nesta última, é como se alguém assumisse o volante enquanto continuamos convencidos de que estamos dirigindo.

E é precisamente aí que o fascínio dá lugar à inquietação existencial e jurídica.

Se a manipulação pode conduzir uma escolha sem recorrer à mentira ou à ameaça, o que acontece com a liberdade da vontade que o Direito tanto se empenha em proteger?

E não estamos falando de ficção científica.

Em 2017, documentos internos do Facebook, revelados pelo jornal australiano The Australian, mostraram pesquisas capazes de identificar momentos de vulnerabilidade emocional de usuários adolescentes. A empresa reconheceu a pesquisa, mas negou que seus resultados tivessem sido utilizados para direcionar anúncios.

No ano seguinte, o escândalo da Cambridge Analytica expôs a coleta indevida de dados de até 87 milhões de perfis do Facebook, em um episódio associado ao perfilamento psicológico e à influência política. Christopher Wylie, um dos denunciantes, descreveu a ambição dessas estratégias com uma expressão perturbadora: atingir os “demônios interiores” das pessoas.

Pronto, voltei ao Direito. Afinal, foi pra isso que comecei toda essa conversa.

O Código Civil reconhece cinco modalidades tradicionais. Mas será que não estamos diante de uma nova forma de comprometimento da vontade, nascida das incontáveis possibilidades de interação digital?

Nas redes sociais, nos aplicativos, nas plataformas de consumo e nas telas que ocupam nossas vidas, podemos concordar, comprar, compartilhar e decidir sem perceber o quanto nossas escolhas foram previamente conduzidas.

Não me refiro a qualquer recomendação de filme ou anúncio de sapatos. Influenciar não é, necessariamente, manipular. Mas quando uma interferência deliberada e oculta explora nossas vulnerabilidades a ponto de comprometer significativamente a autonomia da decisão, talvez seja hora de olhar para o fenômeno com outros olhos.

Estaríamos diante de um vício de consentimento 4.0? Quem sabe, um candidato ao sexto vício?

Sei que os vícios tradicionais dizem respeito à formação de negócios jurídicos, enquanto a manipulação digital pode alcançar também opiniões, comportamentos e escolhas que jamais resultarão em contratos. E que reconhecer juridicamente uma nova modalidade exigiria critérios para distinguir persuasão de manipulação, demonstrar a interferência e estabelecer responsabilidades.

Mas isso não significa, necessariamente, criar uma nova lei ou mesmo um novo parágrafo. O Direito também evolui pela interpretação, pela jurisprudência e pela aplicação de princípios que já conhecemos.

Não pretendo resolver essa questão superficialmente nesta coluna. Minha provocação é outra: não estaria na hora de investigar com mais seriedade o consentimento que damos, quase automaticamente, nas telas?

Talvez o sexto vício de consentimento ainda não exista no Direito. Mas isso não significa que já não exista na vida.

Porque enganar sem mentir continua sendo uma forma de enganar.

Reflitamos.

 

Fonte: Brasil 247