Drone russo equipado com chip da Nvidia e sistema de inteligência artificial mata três civis na Ucrânia
Um ataque aéreo registrado em julho na cidade de Zaporizhzhia, no sudeste da Ucrânia, provocou a morte de três civis após um pequeno drone russo, semelhante a um aeromodelo, atingir um posto de gasolina. Investigações posteriores conduzidas por especialistas em drones, por comandantes militares ucranianos e por equipes forenses indicaram que a aeronave operava com um sistema experimental de inteligência artificial capaz de selecionar alvos sem participação humana na decisão final, conforme divulgado pelo The New York Times.
A vítima mais jovem foi a estudante universitária Tetiana Bubynets, de 19 anos, que estava próxima ao posto de gasolina quando o drone desceu em direção ao local. A aeronave colidiu com uma parede antes de atingir o alvo e explodiu, espalhando estilhaços que feriram a jovem e outras pessoas nas proximidades. Bubynets foi encaminhada a um hospital, mas não sobreviveu. Oleksiy Svirin, de 41 anos, e Roman Karpiy, de 48, também morreram em consequência dos ferimentos provocados pela explosão.
Segundo os especialistas e militares ouvidos pelo jornal norte-americano, operadores humanos foram responsáveis apenas por programar o drone para seguir em direção ao posto de gasolina. Ao se aproximar do destino, o sistema de inteligência artificial teria escolhido sozinho o alvo exato, provavelmente os tanques de propano do estabelecimento, com base no treinamento recebido previamente para reconhecer esse tipo de objeto. Esse funcionamento representa uma diferença relevante em relação a drones convencionais, que dependem de controles remotos ou de coordenadas previamente definidas.
A análise dos destroços do ataque de Zaporizhzhia e de outros incidentes semelhantes na região revelou que os drones transportavam minicomputadores fabricados pela Nvidia. Os módulos foram identificados como responsáveis pelas decisões de direcionamento das armas. A ausência de antenas nas aeronaves, característica que normalmente indica transmissão de dados para um operador remoto, levou os comandantes da defesa aérea ucraniana a suspeitar de que os drones utilizavam um sistema autônomo baseado em inteligência artificial. Investigações posteriores confirmaram essa hipótese.
O módulo encontrado no drone foi identificado como um Nvidia Jetson Orin, um minicomputador comercial voltado a estudantes, desenvolvedores e startups, com custo de algumas centenas de dólares. A Nvidia informou que comercializa o produto em diversos países, mas não na Rússia, embora o equipamento esteja amplamente disponível por meio de revendedores. Os módulos localizados nos drones não estavam criptografados, o que permitiu aos investigadores acessar imagens do terreno previamente carregadas no computador e analisar como o sistema utilizava referências visuais para traçar a rota. A análise do código presente no equipamento também possibilitou identificar os tipos de objetos para os quais o drone havia sido treinado, entre eles tanques de propano.
Sistemas de inteligência artificial podem ser treinados com milhares de imagens para reconhecer categorias específicas, como veículos militares, rios ou pessoas. Em drones com capacidade autônoma de seleção de alvos, as câmeras buscam esses elementos durante o voo e o sistema identifica aqueles que correspondem ao treinamento recebido. Essa tecnologia pode oferecer precisão superior à de um piloto humano em determinadas situações, mas críticos dessas armas alertam que a ausência de intervenção humana pode aumentar o risco de erros e de violações das leis de guerra, já que um sistema pode não distinguir corretamente civis de combatentes ou interpretar equivocadamente um objeto no campo de batalha.
Kateryna Bondar, pesquisadora sênior do Wadhwani AI Center, ligado ao Center for Strategic and International Studies, em Washington, afirmou que o ataque de 6 de julho seria o primeiro caso documentado em que mortes de civis foram provocadas por um drone russo equipado com esse tipo de sistema autônomo. Segundo a pesquisadora, a presença do módulo da Nvidia é a melhor prova de que a Rússia estava experimentando inteligência artificial autônoma em armas. Antes da divulgação do caso, um assessor do presidente ucraniano Volodymyr Zelensky já havia informado, em publicação nas redes sociais, que a Rússia testava sistemas de IA capazes de selecionar alvos sozinhos, mas os detalhes técnicos e as mortes ainda não tinham sido revelados.
Especialistas em defesa aérea ucranianos afirmam que a Rússia iniciou voos de teste com drones Molniya guiados por inteligência artificial em maio. O Molniya é um modelo de asa fixa produzido em massa. Os russos também passaram a testar sistemas de seleção autônoma de alvos no V2U, outro drone de asa fixa, alguns meses antes, embora parte desses testes tenha sido limitada ao direcionamento na chamada última milha, etapa final do ataque em que um operador humano escolhe previamente o alvo e o sistema de IA apenas auxilia na aproximação.
A Ucrânia também realiza testes com sistemas autônomos. Mykhailo Fedorov, ministro da Defesa recentemente afastado do cargo, declarou ao Times, no fim de julho, que a Ucrânia havia testado nos meses anteriores um sistema de IA completamente autônomo na Crimeia ocupada pela Rússia, voltado a locais de armazenamento de combustível e equipamentos militares, sem registro de mortes civis nesses experimentos. Em Zaporizhzhia, o drone responsável pela morte dos três civis fazia parte de um grupo de aproximadamente seis aeronaves, sem emissão de sinais de rádio, característica associada aos testes russos de armas com IA. Os militares ucranianos apresentaram os destroços de dois desses drones a jornalistas do Times, que fotografaram os módulos da Nvidia encontrados nas aeronaves e tiveram a identificação confirmada pela própria empresa.
Organizações de direitos humanos e o Comitê Internacional da Cruz Vermelha se opõem ao uso de armas baseadas em inteligência artificial sem participação humana no processo de decisão, argumentando que essas máquinas passam a interpretar por conta própria as regras do direito internacional sobre alvos legítimos em um conflito. Por outro lado, há especialistas que defendem a adoção futura de sistemas obrigatórios de IA em armas, sob o argumento de que poderiam tomar decisões antes de atingir um alvo, ainda que imperfeitas, em contraste com bombas e projéteis convencionais que seguem trajetórias sem identificar o que atingem. Enquanto isso, em Zaporizhzhia e arredores, a população segue convivendo com a presença de drones interceptadores pilotados por operadores locais, redes antidrones que cobrem cerca de 386 quilômetros de estradas e mecanismos de camuflagem, como plásticos instalados em ângulos incomuns ao redor de tanques de propano, para tentar confundir os sistemas de reconhecimento visual utilizados pela inteligência artificial.
