Os
cientistas que se espantaram com a própria descoberta
Em 2020, Sean Ekins – diretor-executivo da empresa
Collaborations Pharmaceuticals, com sede em Raleigh, na Carolina do Norte
(Estados Unidos) – recebeu um convite para participar da Conferência da
Convergência de Spiez, na Suíça.
"Nunca havia ouvido falar dela", declarou
Ekins à BBC News Mundo, o serviço em espanhol da BBC.
"Na verdade, o que me entusiasmou, mais do que
qualquer outra coisa, foi a localização, porque era na Suíça, em um lugar
bonito."
Mas a pandemia de covid-19 fez com que a conferência
fosse cancelada. Ekins e sua equipe continuaram se dedicando às suas atividades
diárias – buscar medicamentos para doenças raras e não atendidas pelas grandes
farmacêuticas, por não serem consideradas lucrativas.
Suas pesquisas englobam desde 'uma doença que reduz
o tempo de vida das crianças e afeta cerca de 100 pessoas em todo o mundo"
até infecções como a malária, já que, "embora, para alguns casos, existam
medicamentos, eles perdem a eficácia com o tempo".
"Não iremos ficar ricos, mas, pelo menos,
acredito que estejamos contribuindo para a sociedade como um todo",
destaca Ekins.
Um ano se passou e ele recebeu outro convite para a
conferência. Mas, agora, não havia o atrativo da viagem, já que ela seria
realizada pelo aplicativo Zoom.
Ekins precisou prestar mais atenção desta vez. Era
um encontro para avaliar as novas tendências das pesquisas químicas e
biológicas que pudessem representar ameaças de segurança.
"Eles estavam interessados pelo mau uso da
tecnologia, das ferramentas científicas e da ciência em geral", ele conta.
Os organizadores pediram a Ekins que fizesse uma
apresentação, o que parecia "muito estranho. [Aquilo] me obrigou a pensar
como poderíamos fazer mau uso do nosso trabalho".
·
O que eles fazem
Para descobrir remédios contra doenças raras, a
Collaborations Pharmaceuticals havia criado a plataforma de inteligência
artificial (IA) MegaSyn.
A plataforma é algo que não pode ser comprado, mas
sim montado, "como se fosse Lego", explica Ekins. Segundo ele,
"todos os pequenos tijolos" necessários para construí-la foram
obtidos em "bancos de dados de software de código aberto".
"Depois, consultamos bancos de dados de
informações, para criar modelos de aprendizado automático que conectamos à
MegaSyn", explica ele. "Isso permite projetar moléculas com
propriedades específicas."
Em outras palavras, os pesquisadores treinaram a IA
para fazer o trabalho de um químico humano, mas em velocidade descomunal.
Os medicamentos são basicamente compostos de
moléculas. A MegaSyn procura não só as moléculas já existentes, para ver se
alguma serve para combater doenças, mas pode também criar outras moléculas, até
agora inexistentes.
·
O 'Dr. Malvado'
Às vésperas da conferência, Ekins e o diretor
associado Fabio Urbina dedicaram-se à tarefa de verificar o que aconteceria se
a MegaSyn caísse nas mãos erradas. Assim nasceu o experimento que recebeu o
nome de "Projeto Dr. Malvado".
Era um projeto simples. Para gerar um novo produto
farmacêutico, é fundamental garantir que ele não seja tóxico. E se esse filtro
fosse alterado?
"Nós apenas mudamos a direção de um interruptor
no modelo. Em vez de 'não tóxico', dissemos 'tóxico'", explica Ekins.
"Literalmente, foi questão de trocar um 1 e um 0 no programa. Simples
assim."
Eles pressionaram "enter" e deixaram a
MegaSyn fazer o trabalho.
No dia seguinte, eles encontraram uma lista de
dezenas de milhares de moléculas e fizeram uma busca para ver se havia alguma
conhecida. E ficaram espantados com o resultado.
·
VX
"Esta mudança simples no programa teve um
efeito dramático", conta Ekins.
Com o simples pressionar de uma tecla, a MegaSyn
havia projetado o assustador agente nervoso VX, classificado como arma de
destruição em massa e proibido pela ONU.
Trata-se de uma das substâncias mais letais já
produzidas. Menos de uma gota em contato com a pele é suficiente para matar uma
pessoa.
Eles também confirmaram que a MegaSyn
"conseguiu encontrar moléculas precursoras até então desconhecidas –
pontos de partida para o desenvolvimento de armas químicas em massa mais
potentes".
O mais preocupante foi saber que, embora o Dr.
Malvado fosse um experimento teórico, outras pessoas, com outras intenções,
"poderiam fazer o mesmo, se é que ainda não fizeram".
"Você não precisa de doutorado, apenas de algum
conhecimento de codificação, um computador portátil básico... todo o resto está
disponível online de forma gratuita", afirmou ele.
"Se algum químico tivesse isso nas mãos e
quisesse converter essas moléculas em armas, como ninguém sabe que elas
existem, seria impossível rastreá-las e detectá-las."
·
O dilema
Alertar os bem-intencionados sobre o perigo também
significa informar aos mal-intencionados sobre as possibilidades.
Ekins e Urbina decidiram não fornecer muitos
detalhes sobre os resultados do Projeto Dr. Malvado na sua palestra em Spiez.
Eles apresentaram uma descrição genérica do seu trabalho, oferecendo apenas as
informações suficientes para prevenir os especialistas.
Mas, por mais camuflado que fosse, o potencial de
uso negativo da sua tecnologia foi o que causou maior impacto.
Pouco depois, um artigo resumindo a palestra,
publicado na revista científica Nature Machine Intelligence, chamou a atenção
de jornais e revistas, como The Washington Post e The Economist. Surgiram
discussões entre especialistas em armas químicas, inteligência artificial, a
indústria farmacêutica e até entre filósofos.
Ekins e sua equipe chegaram a ser convocados a uma
reunião com o Escritório de Política Científica e Tecnológica e o Conselho de
Segurança Nacional, na Casa Branca.
"Foi surreal", relembra ele.
Apesar dos temores iniciais de que falar sobre o
assunto poderia servir mais para inspirar do que para prevenir, Ekins precisou
assumir o risco de conscientizar as pessoas, não só pelo interesse despertado,
mas porque "já não conseguia dormir em paz".
Mas ele nunca se dispôs a compartilhar a lista de
dezenas de milhares de possíveis moléculas tóxicas gerada pela MegaSyn – nem
mesmo com a Casa Branca.
·
O que fazer?
Mesmo com todos os riscos, ninguém consegue deter o
progresso. Plataformas como a MegaSyn são imensamente benéficas e Ekins sabe
disso melhor do que a maioria das pessoas.
Uma estratégia para prevenir seu mau uso é
"educar as pessoas sobre os problemas".
"Agora que o governo está ciente, fomos
convidados a falar sobre o tema em nome das agências governamentais", ele
conta.
"Em maio, por exemplo, iremos a uma conferência
no Brasil, falar em nome do Departamento de Estado dos Estados Unidos com
acadêmicos e profissionais da indústria sobre os possíveis problemas referentes
à IA generativa."
E estas atividades terão ajudado Ekins a dormir mais
tranquilo? Bem, não muito.
"Desde que fizemos o Projeto Dr. Malvado, a IA
generativa ficou muito mais pública, com coisas como o ChatGPT e DALL-E",
comenta ele. "Até se demonstrou que os aplicativos de chat podem projetar
moléculas."
"As barreiras de entrada, hoje em dia, são
muito menores do que eram um ano e meio atrás. É fundamental educar os
cientistas que não tiveram a mesma experiência que nós", insiste Ekins.
Mas especialistas consultados pela imprensa afirmam
que não existe motivo para despertar tantos alarmes. Eles ressaltam que a identificação
de novas moléculas é apenas o primeiro passo de um longo caminho para a
produção de um novo medicamento... ou de uma nova arma. E que a maioria desses
caminhos leva ao fracasso.
Dos dois lados do debate, surge com frequência a
mesma analogia.
·
O bolo
Para alguns especialistas – aqueles para quem nada
tira o sono – o que a MegaSyn forneceu foi uma lista de ingredientes. E seria
preciso ter chefs com todas as estrelas Michelin e uma cozinha repleta de
cozinheiros para poder preparar o bolo perfeito.
"Um ano atrás, eu teria ficado tranquilo com
isso", afirma Ekins. "Sempre houve pessoas que fabricam drogas e
armas ilegalmente e, é claro, este é um nicho de mercado."
"Mas nós aumentamos o número potencial de
confeiteiros", segundo ele.
Para Ekins, tecnologias como a MegaSyn não produzem
meros ingredientes, mas sim receitas. E, se as receitas não funcionarem, elas
ajudam a aperfeiçoá-las.
"Uma vez fornecida a receita, qualquer pessoa
pode assar esse bolo", afirma ele. "Alguns farão melhor do que
outros, mas o risco sempre existe."
Mas ele destaca que existe algo que talvez nos ajude
a dormir melhor.
Diversas entidades em países como a Suíça estão
muito comprometidas com este tema. Existem discussões para verificar como
organismos como a Organização para a Proibição das Armas Químicas (Opaq), que
regulamenta as moléculas, podem incluir a IA no seu marco legal.
"Podemos usar essas tecnologias para nos
defendermos. [Podemos] nos valer das mesmas ferramentas para verificar quais
são os produtos químicos que poderiam ser utilizados para preparar novas
moléculas tóxicas e, assim, controlá-los", conclui Sean Ekins.
Fonte: BBC News Mundo
Nenhum comentário:
Postar um comentário