Palavra de Sá

A ética do uso da inteligência artificial

A “questão ética” tem se tornado atualmente um assunto de interesse crescente em nossa sociedade. Ora, se a ética assume cada vez mais um papel fundamental na sociedade contemporânea, é porque os problemas (sociais, econômicos, ambientais, tecnológicos etc.) criados pelo sistema capitalista não podem ser resolvidos apenas pela técnica, pela ciência ou pela lei.

Ciência e técnica dizem o que podemos fazer, mas não o que devemos fazer. A lei determina o que podemos (o que é permitido), o que não podemos (o que é proibido) e o que devemos (nossas obrigações), mas não estabelece seus fundamentos teóricos. Por isso, os marcos regulatórios do uso da Inteligência artificial generativa que visam garantir a segurança, a privacidade, a proteção dos dados, a justiça, a dignidade da pessoa humana, a inclusão, a transparência, a responsabilidade, a sustentabilidade ambiental etc. dos usuários são insuficientes.

A ética discute o que é bom, justo, desejável ou correto a fazer não apenas para o indivíduo, mas para a sociedade. É a ética que estabelece os fundamentos de nosso agir.

Porém, o capitalismo (guiado pelos princípios do liberalismo e do neoliberalismo econômico e político) desloca o eixo da questão ética da estrutura da sociedade (e de suas instituições) para a conduta individual. Ao individualizar os problemas éticos, o capitalismo opera para que a estrutura social e econômica não seja questionada e permaneça inalterada. É como se nos momentos de crise a sociedade buscasse a solução de seus problemas na correção da conduta individual sem a consequente transformação de sua estrutura econômica e política.

A pergunta: como devemos agir ou como devemos viver? foi desde a Antiguidade um problema ético fundamental. A vida em sociedade implica uma ética que possa determinar o que é bom e mau, justo e injusto, humano, desumano, certo e errado, permitido e proibido. Do contrário, a vida humana se tornaria impossível ou insustentável.

Enquanto a filosofia busca fundamentar e justificar princípios, valores, critérios e regras de ação, o senso comum permanece preso à superficialidade, à incompreensão e à confusão conceitual. No discurso corporativo, na maioria das vezes, a ética é usada como artifício de linguagem, a fim de poder persuadir o trabalhador e o cliente acerca da necessidade da honestidade, da abnegação, da pontualidade e da responsabilidade para com o trabalho e para com a empresa. Porém, a filosofia nos ensina que a questão ética só pode ser equacionada quando se colocar frente a frente o interesse social e o interesse individual, ou seja, a sociedade e os indivíduos.

A lógica mercantil que regre a sociedade capitalista subordina o trabalhador à economia, o trabalho ao lucro. Ou seja, no interior do modelo capitalista de produção e de consumo há um problema ético estrutural e insolúvel: a subordinação do ser humano ao capital. Sem a superação do capitalismo é impossível resolver os problemas criados pelo próprio sistema capitalista.

Diante desse fato, cumpre perguntar: qual é a concepção de ética que orienta a vida das organizações e instituições? Existe ética nos negócios? O lucro é ético? Ou a busca do lucro é a negação da ética? Que princípios éticos devem orientar a produção do conhecimento? Como é possível conciliar os interesses da sociedade com os interesses do mercado?

Se, por um lado, tais questões recolocam em discussão a necessidade que as empresas e as instituições têm de relacionar de modo adequado a eficiência econômica (o lucro) com a eficácia social (benefício à sociedade), por outro, o problema ético sofre um esvaziamento conceitual; é reduzido a uma “ética de bolso” – de conveniência.

A crise estrutural (de reprodução) do capitalismo impõe uma reciclagem de termos e conceitos. De tempos em tempos, inventa-se nova retórica, novo discurso, novos termos, conceitos e expressões para legitimar a própria exploração, os quais parecem sugerir a urgente necessidade de se introduzir na atividade profissional, organizacional e institucional a questão ética. Contudo, o que se vê, no mais das vezes, é a apropriação da palavra ética pelo discurso empresarial como estratégia de marketing, enquanto o seu verdadeiro significado (de questionamento radical e prática reflexiva) é banido ou suprimido das organizações.

Assim, por exemplo, quando uma organização empresarial exige de seus profissionais determinados requisitos, como, flexibilidade funcional, capacidade de trabalhar em equipe (soft skills – habilidades de comunicação e relacionamento), inteligência emocional, autocontrole etc., transforma a ética numa etiqueta (pequena ética), isto é, num conjunto de regras e normas de bom comportamento, de boa conduta ou de boa convivência, mas não traduz o problema ético fundamental.

O “padrão ético” que torna o funcionário obediente, dócil, subordinado e disciplinado diante do trabalho explorado não atende às exigências de uma ética em sentido filosófico. Entendida assim, a ética é convertida num código de conduta (Códigos de ética profissional) – a uma cartilha do que é possível fazer (permitido e proibido) nas relações profissionais. Porém, a ética exige questionamento, problematização, crítica, discussão, reflexão e denúncia. Implica quase sempre, senso de indignação, conflitos de interesse, tomada de posição e senso de justiça.

Vê-se, deste modo, que o uso filosófico do termo ética não coincide com o uso não filosófico. A confusão ou a imprecisão conceitual dos termos é, desde sempre, uma questão para a filosofia. Via de regra, os filósofos inventam ou redefinem conceitos para tornar possível a compreensão de um problema. A análise filosófica exige rigor e precisão conceitual, de modo a tornar compreensível e defensável uma ideia ou uma tese.

A aplicação da ética à Inteligência artificial generativa visa expor o problema fundamental, o que implica indagar acerca da natureza, dos meios e dos fins desta tecnologia. Ou seja, a Inteligência artificial generativa está a serviço do desenvolvimento e do bem estar da sociedade ou do lucro (da exploração econômica)? É uma tecnologia que promove a emancipação ou a dominação (opressão e manipulação) dos indivíduos?

Portanto, a recusa em pensar a ética a partir da filosofia resulta, invariavelmente, na recusa da própria ética ou na impossibilidade de se chegar à compreensão do problema ético fundamental.

A emergência, o rápido avanço e a vasta aplicação das tecnologias digitais, especialmente da Inteligência artificial generativa tem suscitado, do ponto de vista filosófico, político e jurídico inúmeras questões acerca de seus riscos (a possibilidade de manipulação e vigilância) e desafios (a necessidade de responsabilização) destes “sistemas autônomos” – o que evidencia a urgente necessidade de regulamentação ou de normatização da invenção e do uso destas novas tecnologias.

Neste sentido, a opacidade (a intransparência) dos algoritmos de Inteligência artificial generativa é uma questão ética, porque impede que os usuários saibam de antemão quais são os princípios ou os critérios éticos que orientam as operações dos sistemas de Inteligência artificial generativa. Por isso, a confiabilidade dos sistemas de Inteligência artificial generativa é questionada. O viés algorítmico pode reproduzir injustiças (preconceitos, discriminação e exclusão social).

Note-se que, pela primeira vez na história da humanidade uma invenção tecnológica é capaz de reproduzir e de simular determinadas funções cognitivas mediante algoritmos de Inteligência artificial generativa. Assistentes e agentes de Inteligência artificial generativa reproduzem a fala e a escrita com alto grau de eficiência técnica que nos induzem a crer que são capazes de pensar. De fato, são capazes de gerar textos, imagens, áudios, vídeos que desafiam nossa capacidade de discernir entre o original e a cópia (o plágio).

Entretanto, a eficiência técnica dos dispositivos de Inteligência artificial generativa tem ameaçado ou desafiado princípios e valores éticos, como, por exemplo, a autoria (autenticidade), a originalidade, a autonomia, a privacidade de seus usuários, a responsabilidade, a justiça e a transparência.

Como se pode depreender, o uso das ferramentas da Inteligência artificial generativa engendra novas questões éticas, assim como ressuscitaram velhos problemas éticos enfrentados e formulados pela tradição filosófica. Em face disso, muitas organizações empresariais (corporações) e instituições no afã de responder aos novos problemas e desafios lançados pela Inteligência artificial generativa estabeleceram e implementaram “diretrizes éticas”, a fim de resguardar a credibilidade de seus serviços e produtos, assim como a competência de seus profissionais.

No âmbito empresarial, o uso das ferramentas de Inteligência artificial generativa tem sido saudado como um salto tecnológico, porque tornou mais ágil e eficiente processos e procedimentos organizacionais. A automatização de tarefas (confecção e análise de documentos e relatórios, controle de estoque, protocolos de compliance, auditorias algorítmicas etc.) consideradas excessivamente repetitivas e mecânicas trouxe maior precisão ou eficiência para as organizações.

Contudo, inúmeros riscos, problemas, conflitos ou dilemas éticos surgiram com o uso indiscriminado da Inteligência artificial generativa, uma vez que é possível fraudar ou plagiar imagens, documentos, contratos, resultados financeiros – que à primeira vista são de difícil contestação ou questionamento.

Já no âmbito das instituições educacionais problemas semelhantes surgiram, como a fraude ou o plágio em trabalhos acadêmicos, artigos científicos, monografias, dissertações e teses – o que tornou ainda mais difícil e exigente o trabalho do orientador, porque passou a exercer também a função de fiscal. A relação de confiança entre orientador e orientando, autor e avaliador é um princípio ético e um pressuposto da produção científica, mas, encontra-se agora, ameaçado pela Inteligência artificial generativa. Ou melhor, a honestidade intelectual que é uma exigência ética da produção do conhecimento vê-se ameaçada pelo uso inconsequente ou irresponsável dos recursos da tecnologia digital.

Contudo, a tentativa de regulamentar ou de orientar o uso das ferramentas de Inteligência artificial generativa mediante “diretrizes éticas” revela-se, do ponto de vista filosófico problemática ou contraditória. Ou seja, definir princípios ou regras de uso sem discutir conceitos, princípios e valores éticos é submeter a ética à técnica, o que torna impossível a compreensão do complexo problema ético que cerca a invenção e o uso de ferramentas de Inteligência artificial generativa.

Note-se que as “diretrizes éticas”, via de regra, não questionam os princípios, os valores e os interesses, isto é, os pressupostos que orientam a concepção e o desenvolvimento do projeto de Inteligência artificial generativa. Ao que parece, empresas de tecnologia, engenheiros, programadores e desenvolvedores das ferramentas de Inteligência artificial generativa não são objeto de responsabilização ética nos termos das “diretrizes éticas” – o que parece supor que a tecnologia digital é neutra e desinteressada.

Nenhuma tecnologia é neutra. Transfere-se, portanto, para os usuários toda a responsabilidade sobre as consequências da utilização destas ferramentas de Inteligência artificial generativa. Porém, a concepção, o desenho, a arquitetura e o desenvolvimento de projetos de Inteligência artificial generativa, assim como a programação e o treinamento do algoritmo da Inteligência artificial generativa como dados é sempre fruto da escolha e da decisão humana.

Direta ou indiretamente, explícita ou implicitamente está presente a supervisão humana. No contexto do capitalismo contemporâneo tais procedimentos não ocorrem sem a intervenção de interesses econômicos, políticos e ideológicos. Neste sentido, grandes empresas de tecnologia (Big techs) resistem à regulamentação externa (dos Estados nacionais), porque pode limitar seus interesses ou impedir usos que transgridam princípios e valores éticos considerados válidos (legítimos) e socialmente aceitos.

Do ponto de vista filosófico, a expressão “diretrizes éticas” encerra em si mesma uma contradição lógica, porque estabelece externamente princípios, valores e regras de conduta, contrariando, deste modo, o pressuposto fundamental da ética, que é a princípio da autonomia e da justiça. As “diretrizes éticas” confundem ou reduzem a ética à moral, confiscando da própria ética sua capacidade teórica, analítica e crítica.

Entretanto, cabe à filosofia denunciar este erro conceitual, a fim de impedir que a ética se torne uma palavra vazia ou um discurso retórico, uma peça de marketing corporativa ou institucional. Não se pode aprisionar ou reduzir a ética a um código de conduta (a um conjunto de normas ou de diretrizes), porque a ética é a filosofia moral (a investigação filosófica sobre o fenômeno moral). A moralidade é um fenômeno humano e um dos fundamentos da sociedade.

Neste sentido, a ética cumpre três tarefas: (a) esclarecer ou explicar os conceitos morais de bom e mau, justo e injusto, humano e desumano, certo e errado, aceitável e inaceitável; (b) fundamentar a moral, ou seja, apresentar razões que justificam a necessidade de princípios, valores e regras morais; (c) criticar, avaliar ou julgar a moralidade vigente, seus princípios, regras e valores, a fim de impedir que a moral se torne um instrumento de exploração, de opressão (dominação) e de exclusão social. Por que a ética é um instrumento de emancipação e de humanização do ser humano, ela é o fundamento da dignidade, da autonomia e da liberdade.

É indiscutível que a ética diga respeito a todos os indivíduos humanos, mas é discutível se todos os indivíduos possuem razoável compreensão dos fundamentos filosóficos dos problemas éticos que encontramos nas obras dos filósofos consagrados pela tradição como fundadores da ética. Por isso, a constituição de comissões ou de comitês de ética para discutir e definir princípios, valores e limites éticos do uso da Inteligência artificial generativa sem a participação e a supervisão de profissionais com formação em filosofia ou de estudiosos e pesquisadores de filosofia revelar-se-á infrutífera ou um engodo.

Cumpre dizer que a discussão sobre a fundamentação filosófica dos princípios, valores e das diretrizes acerca da invenção e do uso das ferramentas de Inteligência artificial generativa encontra respaldo teórico em toda a história da filosofia. O problema ético tem a idade da filosofia. Por isso, se quisermos discutir e propor diretrizes de uso da Inteligência artificial generativa será preciso recorrer aos textos fundacionais da ética.

A discussão ética pressupõe a compreensão das teorias éticas dos grandes mestres do pensamento filosófico. Neste sentido, diferentes correntes de pensamento filosófico, como a ética das virtudes de Aristóteles, a ética do dever de Kant, o utilitarismo de Bentham e de Stuart Mill, a ética da responsabilidade de Jonas, a ética do discurso de Habermas, dentre outras são referências incontornáveis.

Como se vê, ética é, sobretudo, fruto da elaboração teórica de filósofos, mas que para ser aplicada a problemas e a situações específicas necessita de diálogo, de análise conceitual, de reflexão e discussão com todos os concernidos – o que significa construir coletivamente princípios, valores e códigos de conduta. Neste sentido, a passagem da teoria (da ética) à prática (à moral) ou ao código de conduta requer a participação de profissionais ou de especialistas de todas as áreas do conhecimento.

Somente o debate transdisciplinar, contínuo e a reflexão permanente podem evitar que a ética se transforme ou seja reduzida a um manual de regras ou de procedimento. Por sua vez, a regulamenta jurídica do uso da Inteligência artificial generativa deve ser uma derivação de discussões de natureza filosófica e científica.

Não cabe, portanto, ao setor de compliance (conformidade legal) das empresas e das instituições, o papel exclusivo de decidir o que é certo ou errado no âmbito da ética ou no uso ético da IA generativa. Por isso, a imposição externa de regras de conduta sem a participação ou sem o consentimento racional dos envolvidos, é, via de regra, uma iniciativa retórica ou burocrática.

Se a ética da Inteligência artificial é impossível sem reflexão filosófica, é porque toda normatização ou regulamentação sem fundamentação teórica resulta superficial e ilusória. O pragmatismo raso das “diretrizes éticas” não contribui para a transformação da sociedade. O exercício da ética implica uma reflexão crítica acerca da lógica de funcionamento do capitalismo digital.

A extração massiva de dados, a concentração de poder tecnológico e a plataformização da vida social traduzem e exemplificam a nova forma de exploração, vigilância, controle e dominação capitalista. A instrumentalização da ética é a forma mais perversa de negar a crítica e a possibilidade de transformação da sociedade. Concebida e utilizada como um instrumento de redução ou de gestão de riscos e de melhora da imagem das corporações e das instituições, a ética deixa de ser o fundamento do agir humano para ser um instrumento de reprodução da desigualdade e da injustiça.

Resulta necessário, portanto, discutir a natureza da IA generativa, o colonialismo digital, os problemas éticos que decorrem da relação entre o ser humano e a Inteligência artificial generativa, assim como o impacto e as consequências do uso da Inteligência artificial generativa na sociedade.

Ética sem filosofia não é verdadeira ética; é técnica disfarçada de ética. Porém, fazer bem algo (que é uma questão de eficiência técnica) não é o mesmo que fazer o bem. Se o progresso técnico deve ter limites, estes limites, devem ser, antes de mais nada, limites éticos.

 

Fonte: Por Claudinei Luiz Chitolina, em A Terra é Redonda