IA
na saúde: sobre tecnologias e quem as controla
No fim
do ano passado, tive a oportunidade de fazer de abertura, no IMS/UERJ, para uma
oficina sobre “soberania popular em tecnologias em saúde” (uma realização do
Centro Brasileiro de Estudos de Saúde (Cebes) e da Fundação Oswaldo Cruz
(Fiocruz), com apoio do Ministério da Saúde. Nela estavam inúmeras autoridades
oficiais, acadêmicos e nomes históricos do movimento da reforma sanitária, mas
sobretudo compareceram diversos representantes de movimentos sociais
contemporâneos.
Na
ocasião defendi três premissas. Tal como três passos atrás, o esforço foi de
recuperar teoricamente conceitos fundamentais para os tempos de digitalização
das práticas de cuidado e atenção à saúde.
A
primeira premissa mencionada foi de que tecnologia não é sinônimo de
instrumento ou ferramenta. A segunda de que não há – e nunca houve na história
humana – práticas de cuidado e atenção à saúde que não tenham sido
tecnológicas. E a terceira se referia à ideia de que não há possibilidades de
efetivamente produzir saúde e bem-estar sem autodeterminação daqueles/as que
praticam e recebem cuidado.
Nesta
coluna, tomo a liberdade de reformular a fala daquela ocasião: neste mês resumo
a primeira premissa, no mês que vêm, tratarei da segunda e, por fim, em maio,
me dedicarei a terceira.
________________________________________
De
pronto, pode-se dizer: “Nunca antes na história…” se tornou tão importante
lembrar que tecnologia não pode ser reduzida a uma simples “coisa” que
seguramos na mão, manipulamos, implementamos etc.
Embora
tendamos a – quase que por metonímia – chamar de tecnologia todos os
instrumentos/ferramentas, para darmos conta do seu conceito, é preciso dar uma
complicada na questão. Para começar, podemos relembrar o clássico Ricardo Bruno
Mendes-Gonçalves. Dizia ele que, se não é totalmente errado chamarmos um
estetoscópio, uma máquina de Raio-X ou um smartphone de tecnologias – porque de
fato elas são ferramentas que pegamos nas mãos –, essa é só a forma com a qual
a tecnologia nos aparece no aqui e agora, é tão somente a sua forma acabada
como artefato técnico.
Quando
suspendemos essa imediatez prática à qual o quotidiano insiste nos prender, diz
Ricardo Bruno é preciso considerar, todavia, que esse artefato não tem sentido,
função e utilidade – “valor de uso” – antes ou fora das relações com as demais
coisas, formas de vida e, sobretudo, com os sujeitos humanos e com as distintas
organizações sociais das quais participa.
A
rigor, não há qualquer dose de realismo se considerarmos uma tecnologia tão
somente como uma coisa – fantasmagoricamente – isolada do objeto que ela
pretende manipular ou transformar e das pessoas que executam a atividade – e da
qual ela é um meio. Se um profissional não retirar o estetoscópio do pescoço e
utilizá-lo para auscultar, o artefato técnico pouco ou nada será diferente de
um colar. A tecnologia é sempre algo processual, relacional.
É por
isso que Ricardo Bruno insistia que é no interior de um determinado arranjo com
os objetos sobre os quais realizamos as nossas intervenções e as atividades
propriamente ditas que encontramos o conceito de tecnologia. Em saúde, isso
significa por exemplo que embora possamos nos referir ao estetoscópio, à
máquina de Raio-X, ao prontuário eletrônico ou a um chatbot, todos como
tecnologia, se faz necessário considerá-los arranjos tecnológicos. Os artefatos
são apenas partes – nunca isoláveis – dos modos como nós organizamos uma
consulta, um acolhimento, um campanha ou programa de saúde pública… Como
organizamos um (ou mais) sistema(s) de saúde.
Isso
significa que os artefatos nunca são neutros, estão sempre arranjados com o
modo como concebemos, organizamos e executamos nossas práticas de cuidado e
atenção à saúde. Inclusive na maneira como hierarquizamos saberes, profissões e
práticas, reproduzimos dominações, opressões e explorações. São processos
guiados por saberes específicos, com fins econômicos particulares, reprodutores
de normas institucionais próprias, vetores de relações de poder e de diferentes
formas de produzir cuidado.
Um
exemplo simples e caro ao pensamento crítico da saúde coletiva são os
protocolos clínicos: de um lado, podem apoiar decisões e reduzir erros, mas
também podem padronizar de tal forma a consulta que esvazia a escuta do
usuário, restringe a autonomia da equipe e subordina o cuidado a indicadores
gerenciais definidos por poderes estranhos, alienados dos territórios. O mesmo
artefato técnico, portanto, pode operar como suporte de uma prática reflexiva e
emancipadora, ou como instrumento de controle e dominação – do profissional e
do paciente.
Isolar
a tecnologia – como um mero artefato – do conjunto de relações que lhe dá
sentido e significado, seja político e econômico, seja cultural, socioambiental
ou ético, seja clínico ou sanitário, é um erro brutal e com consequências
destrutivas.
Um
velho movimento artístico como o construtivismo russo, com suas esquisitices e
brilhantismo, defendiam obras de arte na quais os processos de criação e
produção não ficassem apagados, omitidos no artefato final. Eles queriam que a
obra de algum modo se mostrasse como um momento de um processo mais amplo e
complexo. Os contra relevos de Vladimir Tatlin, por exemplo, a madeira, metal e
vidro eram deixados à mostra, com encaixes, cortes e sistemas de suspensão
aparentes, de modo que a obra “final” não fosse apresentada como uma simples
coisa, fechada e estanque, mas como um resultado parcial de uma montagem em
criação.
A
proposta vanguardista, importante registrar, não visava apenas nos lembrar do
processo que já havia acontecido antes do aqui e agora com que entramos em
contato com a coisa, isto é, o passado do artefato disposto em nossas mãos ou
de fronte ao nossos olhos. O conceito estético não era só um antídoto ao
fetichismo das mercadorias que nos faz esquecer como, porque e por quem foi
produzido a coisa que utilizamos.
Além de
nos lembrar dos corações, mentes e braços que ficam cristalizados nos
artefatos, a ideia dos revolucionários russos era nos interpelar sobre o
futuro, sobre as aberturas inscritas nos artefatos e defender a sua contínua
recriação. Segundo Boris Arvatov, ao defender que o artefato é um momento de um
complexo processo, nunca uma coisa isolada do seu antes e depois, tratava de
(re)educar as pessoas para o pertencimento ao processo criativo. Daí a máxima
de que todos somos construtores e criadores em uma rede cooperativa de
re-design, na qual as coisas estão sempre à espera de serem (re)definidas como
novos valores de uso. Consequentemente, tudo em um fluxo de (re)construção de
redes de saberes, habilidades e vínculos entre os construtores.e mais como um
“agente” que acompanha o caso junto ao paciente. Ao fim, como lembra Christina
Kiaer, segundo os construtivistas russos, os artefatos também deveriam ser
“camaradas”.
Se isso
já valia para artefatos mecânicos e analógicos, imagine agora com os artefatos
digitais conectado com as redes globais de computadores como uma IA?
<><>
A IA e a adaptabilidade
Emprestemos
uma ideia do filósofo Luciano Floridi. Para ele, a IA tem um diferencial
totalmente novo enquanto artefato: a adaptabilidade. Tais tecnologias
emergentes não apenas reagem ao ambiente, mas se reorganizam em algum medida
diante dele. As chamadas IAs “generativas” são um exemplo dessa condição.
Pensemos
em chatbots como o ChatGPT ou no que a própria literatura médica já denomina
“agentes conversacionais”. Esses sistemas ajustam seus serviços de acordo com
os inputs que recebem. Em cada interação, uma camada de seu funcionamento
interno se adequa ao usuário. Assim, um paciente que se relaciona com uma IA de
monitoramento de diabetes, no primeiro mês, receberá uma assistência mais ou
menos igual a todos os demais usuários com os mesmo problema de saúde. Com os
dias, meses ou anos de interação, longitudinalmente, todavia, o que vemos é a
IA incorporando nossos dados clínicos, comportamentais, ambientais e
preferências etc.
Tudo de
modo a se tornar cada vez mais adaptada, produzindo uma espécie de customização
dinâmica. Funcionando menos como um glicosímetro tradicional e mais como um
“agente” que acompanha o caso junto ao paciente. A cada conversa, a cada dado
novo, ela vai se ajustando, “aprendendo” um pouco mais sobre aquela pessoa e
mudando os serviços que oferece. Ofertando assistência digital que se adapta em
tempo real em acordo com a interação e o histórico.
Essa
adaptabilidade coloca em questão algo nada trivial na história humana: ao
interagir com uma IA, não consumimos um artefato acabado como um medicamento ou
equipamento médico tradicional. O momento de uso – consumo – do artefato é
também um dos momentos em que ele está sendo produzido. Quando um usuário –
profissional ou paciente – utiliza o artefato, alimentando-o com dados, ele
participa de um processo no qual consumo e produção se confundem. O artefato é
montado, desmontado e remontando continuamente com a participação do usuário.
Embora tecnicamente há distintos níveis de atualização dos sistemas, o certo é
que nunca há uma versão final da IA.
O
segredo é que a interface com a qual interagimos, a coisa com que lidamos, é
apenas um terminal: a ponta visível de uma imensa indústria em rede espalhada –
desigualmente – pelo planeta Terra, disposta em uma complexa e gigantesca
anatomia. Para que haja adaptabilidade, para que a IA alcance uma customização
razoável e em tempo real na prestação de serviços, ela depende necessariamente
do funcionamento dessa indústria global. Não há valor de uso possível de uma IA
nas práticas de cuidado e atenção à saúde sem a relação que ela, enquanto mero
artefato, estabelece ininterruptamente com outros artefatos e outros
“construtores” – que, por sinal, nunca estão no aqui e agora que o usuário se
vale do serviço.
Os
serviços oferecidos por uma IA dependem de uma ampla infraestrutura que está
operando em muitos lugares. Dependem de data centers que devoram água com
impactos socioambientais e sanitários dramáticos, redes elétricas que colocam
cidades e equipamentos de saúde em apagões, além de um exército global de
trabalhadores fantasmas sem condições mínimas de trabalho – adoecendo.
Hoje,
cada vez mais vemos profissionais da ponta sendo treinados para manusear IAs de
modo eficaz, vemos cursos para introduzi-las nos processos formativos dos novos
profissionais, vemos gestores correndo para incorporá-las nas performances
administrativa, vemos recém-formados sonhando com um nova healthtech comprada
por milhões de algum capital estrangeiro etc. (Afinal, como dizem, a roda não
pode parar!)
Ao
mesmo tempo, raros ou mesmo inexistentes têm sido os espaço onde nos
perguntamos: tais arranjos tecnológicos envoltos na chamada “saúde digital”
atual estão levando o SUS para onde? As novas tecnologias incorporadas ou
implementadas como novos instrumentos estão (re)construindo arranjos com que(m)
e para que(m)? As escolhas que tem sido feitas nos municípios, estados e união
resultarão em qual SUS daqui 1, 5, 10… 40 anos? Ou ainda, envoltos numa
acelerada e crescente indústria da IA, qual o processo de saúde-doença-cuidado
que estamos decidindo hoje enfrentar amanhã?
Quando
falamos nas novas tecnologias, portanto, estamos falando por definição de
artefatos que são eles mesmos terminais de uma rede permanente de
(re)construções. Certamente que não se trata das redes de construtores
idealizadas pela vanguarda artística dos soviéticos, cujo horizonte era o da
emancipação – em outras palavras, da “ponte para uma outra civilização”. Mas,
talvez a Arte devolva o que o olhar cansado de anos de gerencialismo e
tecnocracia esqueceu de refletir e sentir: para além das resoluções de
problemas no aqui e agora, o movimento da reforma sanitária tem a
responsabilidade com os antes e depois que os artefatos escondem, dissimulam e
fetichizam.
Fonte:
Por Leandro Modolo, em Outra Saúde
Nenhum comentário:
Postar um comentário