Olá, aqui é Javier Sampedro, seu guia para as tendências que nos levarão ao futuro imediato. A Clemson University, uma instituição pública na Carolina do Sul fundada no século XIX, tem um Centro de Perícia de Mídia que usa técnicas avançadas para entender o impacto das redes na sociedade e na política.
Em colaboração com a BBC britânica, ele revelou em 2023 que o site de notícias DCWeekly.org fazia parte de uma operação de manipulação em massa russa durante a guerra na Ucrânia.
O site espalhou histórias falsas sobre a Ucrânia e seu presidente, Volodymyr Zelensky, por meio de mídias sociais e de diversos meios de comunicação na África, Turquia, Índia e Egito. Mas seu principal alvo eram os leitores americanos e, de fato, a DCWeekly afirmava estar sediada nos Estados Unidos. Seus jornalistas eram tão fictícios quanto os relatórios que divulgavam. E, claro, eles usaram inteligência artificial (IA) para criar seus artigos.
O DCWeekly teve um sucesso notável, disseminando uma dúzia de histórias rigorosamente falsas sobre a corrupção do governo ucraniano. Por exemplo, a história de que Zelensky havia comprado vários iates de luxo se espalhou como fogo entre dezenas de milhares de usuários e chegou aos congressistas em Washington, alguns dos quais a engoliram com ceticismo.
A chave para o sucesso, de acordo com o que os pesquisadores da Clemson relatam agora , foi que a DCWeekly integrou trechos de conteúdo roubados de outras fontes em suas mensagens. Essa prática tece uma estrutura de conexões que, por mais fictícia que seja, dá à mentira uma textura que imita o mundo real, com muitos vínculos e referências cruzadas, como as pegadas deixadas na neve pela passagem de um fantasma. Os envenenadores estão se tornando cada vez mais sofisticados.
Os pesquisadores da Clemson sabem como investigar bots e viram alguns artigos da DCWeekly gerados com notas como esta: "O tom do artigo [deveria ser] crítico à posição dos EUA em apoiar a guerra na Ucrânia e cínico ao discutir o governo dos EUA, a OTAN ou os políticos dos EUA." Ou eles encorajaram o robô a "favorecer os republicanos e Trump e retratar os democratas e Biden de forma negativa".
Modelos de IA generativos ( modelos de grande linguagem , LLMs) fazem essas coisas muito bem, e muitas outras. Mentir não é uma tarefa altamente intelectual, e o robô a imita com facilidade. E engolir a mentira não requer faculdades mentais extraordinárias, como já deve estar evidente.
O envenenamento da opinião pública é certamente tão antigo quanto a própria humanidade, embora tenha sido sem dúvida exacerbado pela invenção da escrita cuneiforme na Mesopotâmia. Grande parte do debate sobre IA generativa tem se concentrado em se e em que medida ela alimenta a disseminação maliciosa de mentiras. Investigar essa questão deve ser a base para ações sociais e políticas contra essa tendência indesejável. Daí o interesse da pesquisa de Clemson.
Suas descobertas nos dizem, primeiro, que ferramentas de IA generativas, como o famoso ChatGPT (que foi o que a DCWeekly usou em sua versão 3) facilitam a geração de grandes quantidades de desinformação. Em segundo lugar, é possível saber quando um site começa a usar IA generativa pelo crescimento explosivo e amplo alcance de artigos em qualquer site.
Terceiro, e mais importante, os artigos gerados com IA generativa são tão persuasivos e têm um impacto tão duradouro quanto aqueles criados manualmente. Não que isso diga muita coisa, porque as pessoas mais instruídas não se sentem atraídas por nenhuma delas, mas tenha em mente que nem todo mundo tem doutorado em filosofia e literatura. Essas mensagens não são direcionadas a sociólogos ou cientistas políticos, mas aos segmentos mais ignorantes e crédulos da população. É aí que a IA dói.
Por outro lado, para pessoas bem informadas, a IA pode ser uma ferramenta valiosa. Sua utilidade na pesquisa científica é inquestionável, tendo recebido três Prêmios Nobel na última premiação. Sua aplicação na educação promete grandes vantagens, e alguns professores estão começando a entender isso . Os cuidados de saúde também serão beneficiados, especialmente nas áreas e países com maior déficit de saúde.
Talvez o desafio seja coibir o uso de substâncias tóxicas o máximo possível e, ao mesmo tempo, incentivar usos virtuosos. Vejo vocês na semana que vem. | 
