Geoffrey Miller: Como imagens falsas de IA podem gerar tensões no Indo

Assista: O Partido Nacional admitiu o uso de inteligência artificial (IA) para criar fotos falsas para seus anúncios de ataque político. Créditos: Vídeo - Newshub; Imagem - Getty Images.

Por Geoffrey Miller do Projeto Democracia

ANÁLISE: Ver não é mais acreditar.

Surpreendentemente realistas – mas falsas – imagens criadas por Inteligência Artificial (IA) estão aqui.

Até o momento, a maioria parecia mais curiosidades do que tentativas genuínas de engano.

No mês passado, foi revelado que o Partido Nacional da Nova Zelândia havia usado o aplicativo de geração de imagens AI Midjourney para produzir imagens promocionais. Os resultados incluíram profissionais de saúde imaginários e cidadãos de aparência medrosa preocupados com o crime.

Nesse caso, o uso da IA ​​foi relativamente benigno – as criações da IA ​​efetivamente substituíram as fotos que seriam usadas no passado.

Até que um meio de comunicação levantou suspeitas, poucas pessoas – se é que alguma – notaram que as imagens de aparência realista eram realmente falsas.

Embora o exemplo da Nova Zelândia tenha mostrado como as imagens de IA podem ser usadas em campanhas eleitorais, também podemos esperar que elas tenham um impacto descomunal nas relações internacionais.

Em março, o fundador da Bellingcat, Eliot Higgins, twittou imagens 'deepfake' surpreendentes de Donald Trump sendo 'preso' pela polícia de Nova York.

Higgins, que também usou Midjourney, rotulou claramente as imagens como criações de IA.

Mas isso não impediu que as imagens viralizassem e servissem como uma vitrine da sofisticação da tecnologia.

Higgins também twittou imagens falsas geradas por IA de uma 'cúpula de paz' ​​imaginária entre Vladimir Putin e Joe Biden - intermediada pelo francês Emmanuel Macron.

Dado o estado atual da guerra na Ucrânia, é improvável que isso engane alguém.

No entanto, os deepfakes de aparência realista que Higgins criou a partir de uma explosão nuclear imaginária na Ucrânia mostraram o potencial que a IA poderia ter em meio à névoa da guerra.

Logo depois que a Rússia invadiu a Ucrânia no ano passado, um vídeo falso de Volodymyr Zelensky pedindo aos ucranianos que depusessem as armas foi publicado por hackers no site de notícias Ukraine 24.

No Indo-Pacífico, certamente é apenas uma questão de tempo até que imagens geradas por IA de aparência confiável sejam usadas para alimentar ainda mais as tensões geopolíticas na região.

O primeiro-ministro da Nova Zelândia, Chris Hipkins, ecoou sua predecessora Jacinda Ardern ao condenar o que ele chama de "militarização do Pacífico".

Mas apenas no primeiro semestre de 2023, os EUA fecharam novos acordos de defesa com as Filipinas e Papua Nova Guiné – uma resposta à China que assinou seu próprio pacto de segurança com as Ilhas Salomão no ano passado.

As tensões estão aumentando – e a IA pode levá-las ao próximo nível.

Indiscutivelmente, a vastidão do Pacífico cria algumas vantagens para as tentativas de desinformação.

Imagens falsas de, digamos, navios militares perto de um atol de uma ilha remota podem ser difíceis de refutar imediatamente.

A infra-estrutura de comunicação precária nos cantos mais remotos do Pacífico também não ajudará.

Além disso, o aumento do conteúdo criado por IA pode significar que o público fica se perguntando no que acreditar.

Um relatório da Brookings Institution publicado em janeiro identificou “semear confusão” como um dos principais objetivos daqueles por trás das operações de desinformação.

O relatório dá um exemplo de um discurso presidencial robótico do presidente do Gabão: enquanto alguns acreditavam que era uma evidência de deepfake, outros achavam que o presidente estava simplesmente doente. Independentemente da verdade real, o caos e uma tentativa de golpe militar se seguiram.

A IA tem o poder de criar uma sala de espelhos, onde mesmo o conteúdo genuíno é visto com ceticismo e desconfiança.

Um exemplo real do potencial da IA ​​para causar estragos ocorreu no mês passado, quando uma imagem falsa de uma explosão no Pentágono em Washington circulou no Twitter e causou uma breve queda nos mercados financeiros.

Existem muitas respostas potenciais para o novo desafio da IA ​​para as relações internacionais.

Uma opção é regular.