Palavra de Sá

Como a corrida da Rússia e da Ucrânia para aperfeiçoar drones mortais sem piloto pode prejudicar a todos nós

Em um belo dia no início de junho, soldados ucranianos lançaram seu mais novo robô assassino. Com um clique na tela, o pouco atraente Gogol-M, um drone aéreo de asa fixa com envergadura de 6 metros, decolou de um local não revelado e rumou para o vasto céu azul.

Esta "nave-mãe" viajou 200 km para dentro da Rússia antes de lançar dois drones de ataque pendurados em suas asas. Capazes de escapar do radar voando a baixa altitude, os drones menores escaneavam o solo de forma autônoma para encontrar um alvo adequado e, em seguida, miravam para o abate.

Não havia ninguém em terra pilotando as máquinas assassinas ou escolhendo alvos. Os robôs, movidos por inteligência artificial, escolheram o alvo não revelado e então voaram em sua direção, detonando sua carga explosiva no impacto.

A intervenção humana se restringiu a ensinar ao drone o tipo de alvo a ser destruído e a área geral onde procurá-lo.

A nave-mãe reutilizável e sua prole assassina custam US$ 10.000 (£ 7.500), tudo incluído. Ela pode viajar até 300 km, com os drones de ataque suicida capazes de voar mais 30 km.

Alega-se que tal missão exigiria sistemas de mísseis com um custo entre US$ 3 milhões e US$ 5 milhões. "Se tivermos financiamento adequado, podemos produzir centenas, milhares desses drones todos os meses", diz Andrii, cuja empresa, a Strategy Force Solutions, projetou a tecnologia para as forças ucranianas.

O mundo ficou deslumbrado com a Operação Spiderweb , na qual 117 drones ucranianos atacaram bases aéreas no interior da Rússia em 1º de junho, tendo como alvo os bombardeiros de longo alcance com capacidade nuclear do Kremlin.

Lançados do topo de caminhões, os drones tinham um software de “orientação terminal” que lhes permitia voar autonomamente até um alvo escolhido na milha final, quando os sistemas de interferência russos os isolavam de seus pilotos.

No entanto, isso não é nem de longe o que os ucranianos e os russos estão usando em batalha, muito menos imaginando.

A operação Spiderweb utilizou um plano astuto para enganar motoristas de caminhão russos e fazê-los conduzir veículos aéreos não tripulados para perto dos alvos. Os drones foram então pilotados para fora de seus esconderijos. Desde que a operação foi planejada há 18 meses, a escassez de mísseis dos EUA para a Ucrânia , a escassez de pilotos de drones locais e o sucesso dos sistemas de guerra eletrônica russos em bloquear conexões entre operadores e drones proporcionaram um salto extraordinário na inovação no campo de armas autônomas. O Kremlin seguiu o exemplo, com a Rússia também conseguindo explorar uma maior capacidade de produção.

“Não há tecnologia que sobreviva por mais de três meses como medida eficaz contra alguma coisa”, diz Viktor Sakharchuk, cofundador da Twist Robotics, que afirma ser a produtora dos primeiros drones com sistemas autônomos de orientação de terminais usados ​​pelas forças armadas da Ucrânia.

Sem dúvida, os sistemas mais avançados do mundo estão sendo desenvolvidos em laboratórios nos EUA e na China. Um programa do Pentágono conhecido como Replicator 1 deverá entregar " milhares " de sistemas autônomos de todos os domínios até agosto de 2025.

Uma primeira missão é supostamente iminente para o Jiu Tian, ​​um drone-mãe chinês que supostamente consegue voar a 50.000 pés (15.240 metros) com um alcance de mais de 4.000 milhas (6.400 km), carregando seis toneladas de munição e até 100 drones autônomos.

O presente duvidoso da guerra na Ucrânia para o mundo é um armamento autônomo barato e escalável, cada vez mais comprovado no campo de batalha.

“Nós lutamos pela autonomia total”, diz Mykhailo Fedorov, vice-primeiro-ministro da Ucrânia de 34 anos e ministro da transformação digital que supervisiona o esforço ucraniano no que ele descreve como uma “guerra tecnológica”.

"Nossos modelos estão sendo treinados para reconhecer alvos e entender a priorização de alvos", diz ele. "Ainda não temos autonomia total. Usamos o fator humano onde precisamos, mas estamos desenvolvendo diferentes cenários para levar a autonomia adiante."

Também estamos testando alguns drones autônomos, que ainda não anunciamos e provavelmente não planejamos anunciar, mas eles têm um alto grau de autonomia e podem potencialmente se combinar em enxames. Ainda enfrentamos problemas e obstáculos técnicos, mas já vemos um caminho a seguir nessa direção.

A tecnologia de enxame envolve vários drones trabalhando juntos para matar – um bando de predadores capazes de elaborar um plano para bloquear rotas de fuga e conversar entre si enquanto realizam suas atividades mortais.

Os alvos não são apenas tanques, aviões, terminais ferroviários e infraestrutura crítica. A prioridade máxima é matar pessoas.

“Haverá sistemas autônomos mais baratos que poderão atingir a infantaria em menor escala porque este é um alvo importante, porque a doutrina da guerra mudou e o equipamento pesado é usado cada vez menos”, diz Fedorov.

A zona cinzenta [a área de conflito fora da linha de frente] aumentou de largura, e a Rússia ataca com pequenos grupos de infantaria. E nosso objetivo, nosso principal objetivo, é encontrar uma contramedida para pequenos grupos de infantaria. Por isso, buscamos desenvolver drones menores e mais baratos para usar contra a infantaria.

Os russos também não estão “ociosos” nisso, diz Fedorov.

Erhii "Flash" Beskrestnov tornou-se uma presença popular nas redes sociais na Ucrânia nos últimos anos, fornecendo informações em tempo real sobre os desenvolvimentos tecnológicos da guerra. Ele viaja para a linha de frente uma vez por mês em uma van VW preta, famosa por um conjunto de antenas no teto.

Ele conheceu a versão russa do Gogol-M há cerca de seis meses e estima que os russos estejam lançando 50 drones, conhecidos como V2U, diariamente para atingir alvos perto das linhas de frente.

Um deles foi encontrado no centro da cidade de Sumy, a 20 km da frente de batalha no nordeste da Ucrânia, mas acredita-se que tenha um alcance de 100 km.

Assim como na versão ucraniana, sem qualquer comunicação com o operador do sistema, o V2U pode entrar em uma determinada área alvo usando apenas sua navegação visual e encontrar, selecionar e engajar o alvo de forma independente.

Não sabíamos que o Exterminador do Futuro era ucraniano. Eles podem usar sistemas de IA que reconhecem sua aparência e tentam encontrá-lo e matá-lo.

Oleg Fedoryshyn, DevDroid

Beskrestnov os viu em enxame. "Como pombas, eles voam em níveis diferentes", diz ele. "Para nós, o principal problema é que não entendemos como podemos agir contra eles. O bloqueio não funciona."

Levará tempo para que ambos os lados ampliem esse nível de autonomia, diz Kateryna Stepanenko, vice-líder da equipe da Rússia e analista do Instituto de Estudos da Guerra.

“Ainda falta muito o pensamento autônomo, aquele pensamento autônomo em que o drone consegue, sozinho, identificar um alvo e aprender com essa experiência”, diz ela. “É aí que as forças russas e ucranianas ainda estão tentando trabalhar com a tecnologia e inovar ainda mais.”

Drones de fibra óptica, que são conectados aos seus pilotos por um fio, são a tecnologia do momento porque são imunes a interferências, diz Olexii, chefe de planos de batalha futuros na Khartia, uma brigada de combate da Guarda Nacional da Ucrânia que luta na frente nordeste da região de Kharkiv.

Mas a corrida para aperfeiçoar a matança remota está acontecendo em um ritmo frenético.

Talvez seja o céu escuro acima dele e a chuva torrencial batendo no para-brisa do carro, mas enquanto Oleg Fedoryshyn observa seu mais novo veículo terrestre não tripulado, equipado com torre de metralhadora, sendo testado em um campo lamacento no oeste da Ucrânia, o chefe de pesquisa e design da DevDroid está em um estado de espírito reflexivo.

A empresa de defesa ucraniana está trabalhando para tornar essa máquina portadora de armas autônoma, permitindo que ela opere e mire sem intervenção humana, diz ele.

As considerações incluem evitar fogo amigo – os robôs se voltando contra seus criadores.

“Não sabíamos que o Exterminador do Futuro era ucraniano”, brinca Fedoryshyn. “Mas talvez um Exterminador do Futuro não seja a pior coisa que pode acontecer? Como você pode estar seguro em uma cidade se alguém tentar usar um drone para te matar? É impossível. Certo, você pode usar algum tipo de interferência na conexão radial, mas eles podem usar sistemas de IA que reconhecem visualmente sua aparência e tentam te encontrar e te matar. Não acho que o Exterminador do Futuro e o filme sejam o pior resultado. Se esta guerra nunca tivesse começado, nunca teríamos esse tipo de arma que é fácil demais de comprar e muito fácil de usar.”

Anton Skrypnyk, presidente-executivo da Roboneers, uma empresa ucraniana que desenvolve sistemas robóticos terrestres, diz acreditar que os desenvolvimentos na Ucrânia no ano passado devem levar a uma reformulação da segurança em todo o mundo, dada a chance da tecnologia cair nas mãos de terroristas.

"Todos esses controles que estamos passando nos aeroportos já são completamente inúteis, então estamos apenas perdendo nosso tempo", diz ele. "Você não precisa trazer uma bomba para explodir o avião. Você pode simplesmente esperar lá fora com o drone e esperar pelo avião, pelo primeiro-ministro.

"Você pode simplesmente voar para um aeroporto, 100 drones, 1.000 drones, em modo automático. Esses drones não terão medo do bloqueio, então toda a sua proteção, que não envolva destruição física, é inútil.

"Você instalaria uma estação remota de armas em cada aeroporto para derrubá-los? Qual seria o orçamento para tais projetos?

“A proteção das cidades deve começar no nível de monitoramento constante de todas as compras, todas as rotas, escaneamento de rostos, compreensão dos padrões de comportamento das pessoas e análise usando inteligência artificial.

O mais assustador é que ninguém se importa. É como o 11 de Setembro. Até que algo aconteça, ninguém se importa.

Skrypnyk não está totalmente certo.

Em maio, durante uma reunião consultiva de dois dias da ONU em Nova York sobre armas autônomas letais, o ministro das Relações Exteriores de Serra Leoa, Musa Kabba, foi ouvido em silêncio. “A proliferação de sistemas de armas autônomas obriga a comunidade internacional a confrontar um dilema moral e legal fundamental. Será que algoritmos deveriam algum dia ter permissão para decidir quem vive e quem morre?”, questionou. “Excelências, permitam-me refletir sobre o poema do famoso poeta irlandês W. B. Yeats em sua Segunda Vinda, quando ele disse: 'Girando e girando no giro que se alarga; O falcão não consegue ouvir o falcoeiro; As coisas se desintegram; o centro não consegue se manter; A mera anarquia se espalha sobre o mundo; A maré turva de sangue se espalha, e por toda parte; A cerimônia da inocência se afoga; Os melhores carecem de toda convicção, enquanto os piores estão cheios de intensidade apaixonada.'”

Durante oito anos, diplomatas que trabalham sob os auspícios da convenção da ONU sobre certas armas se reuniram em Genebra, Suíça, para discutir desapaixonadamente e chegar a uma decisão por consenso sobre como o direito internacional deveria se adaptar ao aumento de armas autônomas letais.

As questões levantadas incluem qual nível de intervenção humana deve ser exigido e quem deve ser responsabilizado quando um robô comete uma atrocidade.

Tem sido um exercício em grande parte infrutífero. Eles ainda não chegaram a um acordo sobre uma definição de arma autônoma letal, muito menos sobre o que proibir e o que regular.

A reunião da ONU em Nova York nasceu da frustração e foi convocada após uma resolução da assembleia geral. Três países — Rússia, Bielorrússia e Coreia do Norte — votaram contra, mas 166 votaram a favor. A Ucrânia se absteve.

Cerca de 120 dos países representados na reunião indicaram seu apoio a um novo tratado semelhante ao tratado de proibição de minas antipessoal de 1997, que proibia seu uso, produção, transferência e armazenamento.

Alexander Kmentt, diretor do departamento de desarmamento, controle de armas e não proliferação do Ministério das Relações Exteriores da Áustria, afirma: "A integração da autonomia aos sistemas de armas é extremamente rápida. A maior parte do que vemos na Ucrânia ainda não é totalmente autônomo, mas está chegando lá.

A grande maioria quer ver negociações para um instrumento juridicamente vinculativo o mais rápido possível. A grande maioria, como nós, ficaria muito feliz se esse grupo de especialistas em Genebra passasse das discussões para as negociações com urgência.

Se as tentativas de chegar a um consenso fossem abandonadas, um tratado poderia ser adotado pela assembleia geral da ONU com maioria simples de votos dos estados-membros.

O secretário-geral da ONU, António Guterres, indicou seu apoio, dizendo aos delegados que o armamento autônomo era uma “questão definidora do nosso tempo” e que um instrumento juridicamente vinculativo deveria ser concluído até 2026.

A ameaça representada pelos sistemas de armas autônomas letais, máquinas que “têm o poder e a discrição de tirar vidas humanas sem controle humano, são politicamente inaceitáveis, moralmente repugnantes e devem ser proibidas pelo direito internacional”, disse ele aos delegados.

O acordo sobre minas terrestres, conhecido como Tratado de Ottawa, parece estar desmoronando hoje, com Estônia, Letônia, Lituânia e Polônia anunciando sua intenção de se retirar. Mas teve um impacto, dizem os ativistas.

Em 1997, mais de 25.000 pessoas eram mortas ou feridas a cada ano por minas terrestres; em 2013, esse número caiu para 3.300.

Representantes da campanha Stop Killer Robots, composta por mais de 250 organizações associadas, incluindo a Anistia Internacional e a Human Rights Watch, receberam a palavra para discursar aos delegados em maio.

Humanos fizeram coisas terríveis, mas poderiam ser responsabilizados, disseram eles. Armas autônomas poderiam matar mais pessoas do que o pretendido, ou pessoas diferentes. Seus baixos custos de produção as tornavam atraentes para grupos armados não estatais e eram vulneráveis ​​a ataques cibernéticos, criando novas maneiras para hackers causarem o caos, disseram eles.

A delegada russa, sentada quatro fileiras abaixo do representante ucraniano no hemiciclo durante a reunião em Nova York, discordou. "Não vemos nenhuma razão convincente que exija a introdução de qualquer nova restrição ou proibição de armas autônomas letais", disse ela na reunião.

Os EUA também estão entre aqueles que acreditam que as leis internacionais e as medidas nacionais existentes são suficientes para abordar as preocupações éticas e legais.

Robert in den Bosch, o diplomata holandês que preside as negociações em Genebra, admite que seu mandato para considerar e formular “elementos de um instrumento ou outras medidas” para lidar com a ameaça emergente é difícil.

Mas vale a pena lutar para chegar a um acordo por consenso, afirma ele. Os acontecimentos na Ucrânia nos últimos 12 meses deram um impulso extra às negociações em Genebra, afirma ele – o delegado britânico chegou a ser interrogado recentemente por falar rápido demais para o intérprete.

“Veja o Tratado de Ottawa”, diz ele. “Sem EUA, sem Rússia, sem China, sem Índia, sem Paquistão, todos atores importantes, mas não partes do tratado. E então, se as coisas derem errado, como agora na Ucrânia, com uma guerra, com a Ucrânia sendo parte do tratado e a Rússia não. Você tem uma situação em que nem todos estão sujeitos às mesmas regras. Agora, Lituânia, Letônia, Estônia, Polônia e Finlândia até decidiram se retirar porque não é uma situação equilibrada.”

O mundo não podia esperar, disse Kabba ao Guardian após sua intervenção na reunião de Nova York.

“A guerra na Ucrânia desencadeou a busca por regulamentação... e, além disso, em um nível micro, em nossa sub-região na África Ocidental, drones são usados ​​em conflitos terroristas”, disse ele. “Existem mais de 190 países no mundo, e compreendemos a dimensão dos poderes que esses dois países [EUA e Rússia] possuem – mas a consciência coletiva da humanidade sempre tentará triunfar.”

De volta à Ucrânia, é mais difícil encontrar a confiança de que o arco do universo moral se inclina para a justiça após três anos terríveis de guerra em larga escala. Oleksii Babenko, diretor executivo da Vyriy, fabricante de drones que trabalha com tecnologia autônoma e de enxame, afirma que não há alternativa. "Esta guerra é uma questão existencial para nós, e você faz ou morre", afirma.

Falando de seu gabinete governamental em Kiev, após algumas noites de pesados ​​ataques balísticos e de drones na capital ucraniana, Fedorov diz que a Ucrânia não pode se dar ao luxo de desacelerar.

“Acredito que os parlamentares e o Ministério da Defesa estão definitivamente pensando [nas questões éticas]”, diz ele. “Mas o mais importante para nós é encontrar uma tecnologia que detenha os russos e, como nação democrática, consideraremos a regulamentação dos testes após a guerra – assim que ela terminar.”

 

Fonte: The Guardian