“A
Inteligência Artificial cheira a morte”, afirma filósofo francês
Em 30
de novembro de 2022, dia em que o ChatGPT chegou aos nossos dispositivos, Sadin
não conseguiu pregar o olho. O filósofo francês, uma das principais vozes na
resistência contra as mudanças tecnológicas descontroladas, acredita que a
inteligência artificial é uma catástrofe que deveria ter sido banida: ela
ameaça a criatividade, o talento e o intelecto — os próprios alicerces da
civilização humana.
Éric
Sadin (Paris, 1973) levanta-se e caminha de um lado para o outro na sala de seu
apartamento parisiense sempre que uma discussão o cativa. Sua própria voz o
incita a fazê-lo. Ele desenvolveu uma mente crítica, repleta de manchetes e
belas análises do futuro que surfam na onda do pensamento filosófico e social
do século passado para chegar a uma conclusão mordaz em uma dúzia de livros.
Tornamo-nos idiotas e estamos a caminho de nos tornarmos ainda mais. Longe de
sermos ameaçados por uma inteligência suprema que nos aterrorizará, como aquela
Skynet de O Exterminador do Futuro — "é o pensamento de um adolescente
retardado", esclarece ele, ainda de pé —, somos subjugados por nossa
própria preguiça, que acabará por entregar nossas armas — intelectuais e
criativas — à inteligência artificial generativa.
Éric
Sadin é um dos 10 maiores pensadores de tecnologia do mundo, recentemente
selecionado por um júri da revista Ideas.
<><>
Eis a entrevista.
• Então, o apocalipse começou em 30 de
novembro de 2022?
Normalmente
durmo como um bebê, mas naquele dia não preguei o olho. Os dias seguintes foram
piores. Todas aquelas pessoas dizendo que era fantástico, super legal. Eu não
conseguia entender como ninguém previa a catástrofe civilizacional que estava
por vir. É estranho observar um fenômeno como a IA generativa envolto em tal
verniz de modernidade e praticidade sem analisar as consequências imediatas e
extremamente graves. E quanto mais isso continuar, mais grave se tornará.
• Você argumenta que deveria ter sido
proibido.
Desde o
início. Mas aconteceu o contrário. Sam Altman, cofundador da OpenAI, saiu em
turnê de palestras e foi recebido por chefes de estado com tapete vermelho. A
resposta, inclusive da França com a Mistral, foi nos inscrever nessa corrida
rumo ao nosso próprio deserto. Muitas palavras vazias e absurdas são ditas
sobre IA: "Viveremos em um mundo melhor." "Tudo será mais
fácil..." Com base em quê? Eu analiso com base em princípios como
sociabilidade, dignidade, integridade humana, liberdade, expressão de nossas
faculdades... e tudo isso será destruído. Se considerarmos as consequências
atuais e as que estão sendo previstas, a situação é extremamente grave.
• Quais serão as consequências disso?
Existe
uma inteligência artificial que começou a ser desenvolvida na década de 2000.
Ela analisa fenômenos do mundo real em tempo real e revela resultados para
interpretar determinadas situações: Waze, o aplicativo de trânsito. Ele coleta
informações que nenhum ser humano conseguiria obter.
• Bem, isso não parece tão ruim.
Mas não
era só isso. O Waze também sugere uma rota ou outra. Pela primeira vez, estamos
sendo aconselhados a agir de uma determinada maneira. A tecnologia está
começando a nos impor uma ideia. Nem tudo é negativo, é claro. Na indústria
aeronáutica, permite o ajuste fino da aerodinâmica; na indústria farmacêutica,
aprimora moléculas. Mas na gestão, por exemplo, tem efeitos inaceitáveis. Tudo
isso deveria ter feito parte de um arcabouço legal, político e social que ainda
não foi desenvolvido. E, há três anos, surgiu um novo tipo de IA: a IA
operacional.
• Pior, é claro.
Esses
são sistemas que lidam com tarefas que, até agora, mobilizaram nossas
faculdades intelectuais e criativas — a verdadeira dimensão da civilização. A
IA generativa é indefensável.
• O governo francês está debatendo esta
semana a proibição do uso de redes sociais por crianças menores de 15 anos.
Parece que sempre chegamos atrasados à festa.
Macron
quer regulamentá-las agora, mas até então concedeu a essas plataformas todas as
vantagens possíveis. Elas surgiram em 2010 e, 15 anos depois, estamos
reconhecendo a catástrofe. A sociedade, quando se trata de questões digitais,
sempre acorda tarde demais.
• Já perdemos algumas gerações de jovens?
Muitos
adultos também foram afetados; a sociedade foi patologizada. E o mesmo
acontecerá com a IA generativa. Já estamos vendo as consequências: perda de
empregos, isolamento social e danos à nossa imagem. Mas também a dependência
emocional de adolescentes que conversam diretamente com a IA generativa, que
lhes diz a verdade sobre tudo, agindo como uma espécie de coach psicológica. E
isso é só o começo.
• Conversamos com a IA, pedimos conselhos,
temos conversas emocionantes. Mas a linguagem, embora possa parecer a mesma, é
diferente.
São
sistemas que analisam todo o corpus digitalizado: livros de biblioteca, artigos
de jornal e dados da internet para revelar leis semânticas. São caminhos
formais construídos com estatísticas, equações e fórmulas matemáticas. É uma
linguagem que cheira a morte porque opera sob o regime da correlação. Analisam
todos os dados e sabem que certas palavras seguirão outras. Na IA, tudo o que
já aconteceu sempre acontece. Ela responde à conformidade da lógica. É um
futuro que já existiu. E isso é o oposto da linguagem humana, que funciona por
associação de ideias. Eu não sei qual palavra vou usar depois da que estou
dizendo agora, porque a linguagem humana depende do nosso pensamento; ela é
única. Ninguém percorre o mesmo caminho.
• Isso poderia definir a liberdade humana.
Claro.
Por um lado, temos uma linguagem morta, necrosada, matematizada, fruto do
capitalismo linguístico. E, por outro, uma linguagem que fala de um infinito
indeterminável, da nossa liberdade e singularidade. E essa mudança que estamos
vivenciando também modificará as relações pessoais, cada vez mais ausentes em
favor de um sistema onisciente e pretensioso. Nas últimas eleições municipais
na França, descobriram que havia candidatos e prefeitos escrevendo seus
discursos com o ChatGPT. Você tem noção da gravidade disso?
• A impressão é que a cultura gerada pela
IA será como a comida de má qualidade, o tabaco, o açúcar… Uma narrativa
comercial para as classes desfavorecidas que não podem pagar pelo autêntico,
pelo verdadeiro. Uma distinção social e econômica. A realidade, com todas as
suas falhas, para os ricos; a IA, para os pobres.
Você
tem razão, mas a distinção será entre os preguiçosos e aqueles que estão
ansiosos para usar suas faculdades. Essas pessoas podem existir também entre os
menos afortunados. E haverá pessoas ricas que escolherão esse caminho por
preguiça ou apatia. Mas não será fácil distinguir entre os dois mundos; nasce o
reino da imagem fantasmagórica. Cada um produzirá imagens que correspondem ao
seu próprio ponto de vista.
• O impacto será enorme no mundo
audiovisual e cultural.
Claro.
Isso vai varrer séries e filmes. Haverá atores, cenários, iluminação,
maquiagem, figurinos gerados por IA… Estamos caminhando para um desaparecimento
massivo de profissões: editor, maquiador, diretor. Estamos caminhando para a
autocriação. Produtos que nos contêm. Automúsica, ou o autolivro. Em vez de
descobrir, construiremos nossa própria pequena ficção. E esse é um furacão que
vai atingir o mundo da cultura.
• Haverá perda de empregos, mas talvez uma
nova indústria seja criada. Outra forma de entender o trabalho, menos
absorvente.
A R.
Society foi fundada no conceito de destruição criativa de Joseph Schumpeter.
Alguns desenvolvimentos tecnológicos destroem empregos, mas, a médio ou longo
prazo, levam a novos tipos de trabalho, como aconteceu com o surgimento do
setor de serviços nas décadas de 1970 e 1980. Trabalhos muito árduos passaram a
ser domínio das máquinas. Hoje, quase 80% dos empregos vêm do setor de
serviços, que se caracteriza pela mobilização de faculdades intelectuais e
criativas: advogados, tradutores, arquitetos… Mas desta vez não haverá um setor
quaternário. Pense no seu trabalho como jornalista, que você ama e que lhe dá
reconhecimento social.
• Acho que você está confundindo a época.
Ou a profissão.
Vamos
lá, você assina, você faz coisas pessoais.
• Se existe uma tecnologia que executa
tarefas mecânicas ou rotineiras muito melhor do que os humanos, por que nos
oporíamos a ela?
Não
podemos proibir nem regular. Mas podemos defender o valor do nosso trabalho.
Sei que apenas um critério importa: o ser humano como variável contábil. Os
sistemas farão o trabalho de forma mais confiável, rápida e barata. Mas existe
um conhecimento insubstituível. O problema é que estamos caminhando para um
mundo onde os humanos pedirão respostas a um sistema. Sam Altman, um ano após o
lançamento do ChatGPT, disse àqueles tolos que o aplaudiam: "Relaxem, isso
não é nada comparado ao que está por vir". Refiro-me aos superassistentes.
E isso deixará um mundo com humanos cada vez mais excluídos de sua organização.
• Os defensores dessa ideia dizem que
acabaremos recebendo uma espécie de renda básica sem fazer nada.
Que
ótimo! Isso lhe parece um futuro de tirar o fôlego? Os seres humanos são seres
criativos. Nós só queremos expressar nossas habilidades.
• Encontramo-nos numa fase semelhante à de
Deus no sexto dia da sua obra. Criamos uma inteligência à nossa imagem e
semelhança, e agora tudo o que nos resta é deitarmo-nos e desfrutar do descanso
dominical.
Claro,
mas a beleza do domingo é que o dia seguinte é segunda-feira. Imagine um
domingo sem fim, e além disso, subsidiado por gurus da tecnologia. Prefiro que
meus filhos sejam criativos; esse é o futuro. O futuro é a mão [levanta-se da
cadeira novamente e acena com a mão no ar, estendendo todos os cinco dedos].
• Tenho uma filha de três anos e outra de
oito. Você acha que elas sobreviverão a esse furacão? O que posso fazer?
O
futuro deve ser coletivo: no trabalho e no lazer. A primeira consequência do
liberalismo não é a desigualdade, mas a morte do espírito. Se você quiser ver o
inferno, vá a certos escritórios. As pessoas ficam deprimidas, enlouquecem.
Nunca houve um sentimento coletivo de saturação tão disseminado. E um desejo
tão forte de fazer algo diferente. Depois da Covid, 20 milhões de americanos
pediram demissão. Mas é difícil fazer qualquer outra coisa. O Estado, em vez de
subsidiar todas essas startups inúteis que todos querem transformar em
mercadoria, deveria apoiar coletivos ou estruturas que não estejam sujeitas à
automação. O futuro deve ser de pequenos coletivos.
• O que nossos filhos devem aprender para
evitar essa morte em vida?
Artesanato.
Veja bem, essa dicotomia já existia durante a Revolução Industrial. Karl Marx,
por um lado, e William Morris, por outro. Marx defendia a reapropriação dos
meios de produção, mas isso aumentou os desastres ecológicos e levou ao
trabalho em linha de montagem. Morris, por outro lado, uma pessoa incrível, um
socialista na origem do movimento Arts and Crafts, dizia que era preciso ser
criativo. E isso poderia ser alcançado através do artesanato, da excelência, de
obras assinadas e únicas.
• Um pouco elitista, não é? Nem todo mundo
pode comprar uma cadeira feita à mão, uma camisa de grife ou um jantar gourmet.
Muitos só podem pagar pelo McDonald's ou comprar em sites como Temu e
AliExpress.
Precisamos
defender o que você tem dentro de si [ele bate no peito]. Mas é verdade que
estamos caminhando para um mundo de duas velocidades. Uma automatizada,
prática… e outra onde algumas pessoas dirão que há algo único nos seres
humanos, e nem tudo pode ser processado por sistemas. Há afinidades no poder da
criação, na colaboração entre iguais. E é isso que precisamos defender.
• Parece não haver muita esperança.
A
esperança reside em crianças da mesma idade que os seus próprios filhos, que,
quando crescerem, escolherão outro caminho, como em Matrix. Esse momento
chegará. Chegará para algumas almas puras. Mas já perdemos muitas. Crianças que
passam o dia todo no TikTok e nem sequer conseguem escrever direito. São robôs
que só respondem a sinais, impulsos. São corpos sem autonomia.
• Essa criatura pode se tornar
independente e nos subjugar como a Skynet em O Exterminador do Futuro?
Isso é
um absurdo. Uma ilusão infantil de ficção científica. Uma visão antropomórfica
adolescente. Mas o que estou lhe dizendo é muito pior. A rendição de nossas
faculdades fundamentais! Estamos ameaçados em todos os níveis, e cada ameaça
força a humanidade a recuar do exercício daquilo que a torna grandiosa. Imagine
um mundo sem escritores, sem escolas, sem artistas. É isso que desaparece. E
garanto-lhe, é muito pior do que a Skynet. Mas você sabe quem pode impedir
isso?
• Pela sua expressão, estou começando a
imaginar.
Você.
Quer dizer, os pais! Vocês não podem usar o ChatGPT para enviar e-mails nem
nada do tipo. Como vão ensinar seus filhos a escrever? Salvar o mundo hoje
depende da conscientização dos pais.
• Você não usa nenhuma IA generativa?
Aquelas
máquinas de matar? Não, obrigado. Eu amo a vida. Escrever uma frase é difícil,
mas que alegria. E vejo jovens começando a se destacar, a rejeitar isso. Acho
que haverá heróis do dia a dia e escravos da própria preguiça. E esses verão
sua individualidade despedaçada em nome de uma verdade artificial. Enfim, estou
falando demais. Quanto espaço você vai me dar?
>>>>
Não se preocupe, vamos resumir tudo com o ChatGPT.
Fonte:
Entrevista com Eric Sadin para Daniel Verdú, no El País
Nenhum comentário:
Postar um comentário