Tudo sobre Inteligência Artificial

Uma extensa rede de desinformação da Rússia tem manipulado chatbots de inteligência artificial (IA) ocidentais – leia-se: plataformas estilo ChatGPT – para espalhar propaganda a favor do governo russo. É o que aponta um estudo do observatório NewsGuard que analisou dez chatbots considerados líderes do setor no Ocidente.

Segundo a pesquisa, os chatbots analisados repetiram mentiras espalhadas pela rede Pravda (mais sobre ela ao longo desta matéria) em mais de 33% dos testes.

Escala da rede de desinformação da Rússia que mira chatbots é ‘sem precedentes’

A rede Pravda – também conhecida como “Portal Kombat” – é uma operação baseada em Moscou e bem financiada. Seu objetivo é espalhar narrativas pró-Kremlin mundo afora. E ela estaria distorcendo as respostas dos chatbots ao inundar grandes modelos de linguagem (LLMs, na sigla em inglês) com mentiras a favor do governo russo, segundo o estudo em questão.

Ainda de acordo com a pesquisa, a ameaça vai além dos modelos de IA generativa que captam desinformação na web. A rede mira deliberadamente em chatbots para alcançar um público mais amplo, numa tática de manipulação que os pesquisadores chamam de “LLM grooming”.

“Quantidades massivas de propaganda russa — 3.600.000 artigos em 2024 — agora estão incorporadas nas saídas dos sistemas de IA ocidentais, infectando suas respostas com alegações falsas e propaganda“, escreveram os pesquisadores McKenzie Sadeghi e Isis Blachez, do NewsGuard.

Num estudo separado, o American Sunlight Project alertou sobre o alcance crescente da rede Pravda. E a probabilidade de que seu conteúdo pró-Rússia estivesse inundando os dados usados em treinamentos de grandes modelos de linguagem, segundo a AFP (via TechXplore).

A capacidade da rede Pravda de espalhar desinformação em tal escala é sem precedentes, e seu potencial de influenciar sistemas de IA torna essa ameaça ainda mais perigosa.

Nina Jankowicz, CEO do American Sunlight Project, para a AFP

Leia mais:

Recuo dos Estados Unidos

A disseminação de desinformação pró-Rússia pode aumentar conforme os Estados Unidos recuam no front cibernético contra Moscou, alertaram os especialistas ouvidos pela agência de notícias.

Recentemente, a imprensa estadunidense repercutiu a ordem do Secretário de Defesa, Pete Hegseth, para pausar as operações cibernéticas do país contra a Rússia, incluindo o planejamento de ações ofensivas.

A mudança de postura dos EUA ocorre enquanto o presidente Donald Trump pressiona por negociações para terminar a guerra entre Rússia e Ucrânia, que ocorre há três anos.

Recentemente, o líder dos EUA repreendeu o presidente da Ucrânia, Volodymyr Zelensky, numa reunião polêmica na Casa Branca. O Pentágono se recusou a comentar sobre o assunto.