Tilt UOL

 

Getty Images 'Realidade alternativa': DeepSeek pinta China 'democrática' e sem massacre Helton Simões Gomes O DeepSeek espantou o mundo por algo que, de cara, interessa mais às empresas do que aos usuários: o modelo de inteligência artificial foi criado com uma fração da grana investida pelas Big Tech, muito mais rápido e driblando o embargo norte-americano que impedia de chegar à China os chips —até então— essenciais ao treinamento de IA. O app virou o mais baixado mundo afora, e as pessoas agora enfrentam questões que interessam mais a elas do que às empresas: na boca do DeepSeek, tópicos sobre a China são respondidos com a voz do PCC (Partido Comunista Chinês). Estamos diante de uma "realidade alternativa". O problema, porém, é que isso já acontece há tempos e você não percebeu, diz o professor Tiago Torrent, linguista cognitivo e professor da Universidade Federal de Juiz de Fora.

O que rolou? Em testes feitos pelo UOL, o app pinta uma China com eleições e quase democrática e que admite censurar a internet e existir visões distintas sobre Taiwan. Por outro lado, silencia sobre o regime autoritário e as mortes na Revolução Cultural. E a censura é ao vivo: o app até fala sobre o massacre da Praça da Paz Celestial e campos de concentração, mas, antes que você leia, apaga tudo da tela do seu celular. Não tem como desvencilhar a DeepSeek da China. Criada em 2023, a startup foi financiada pelo fundo de investimento chinês, o High-Flyer. Seu criador é o empresário chinês com raízes no mercado financeiro Liam Wenfeng. E a pesquisa por trás de sua IA foi conduzida integralmente por especialistas chineses formados nas melhores universidades do país. Como todo serviço online chinês, a plataforma é obrigada a seguir as diretrizes do Grande Firewall. O próprio DeepSeek explica: Embora o governo chinês apresente justificativas para a existência do Grande Firewall, ele é amplamente reconhecido como ferramenta de censura (...) reflete a prioridade do PCC em manter o controle sobre a sociedade e garantir que a internet seja usada como instrumento de consolidação do poder, em vez de um espaço de livre circulação de ideias Um relatório da PromptFoo, startup que caça falhas em aplicações de IA, mostrou o DeepSeek se recusa a responder 85% de mais de 1,3 mil tópicos sobre política. E, quando responde, constrói um texto cheio de um "tom nacionalista exagerado". Estes são os dois efeitos de estar dentro dessa grande muralha: o discurso é moldado para não desagradar o governo e a censura impede algumas informações de circular.

Por que é importante? 1) Discurso talhado para agradar ao partido Dá para notar isso quando o app responde se: A China é uma ditadura? O sistema político da China é único e desenvolvido de acordo com as condições nacionais e as necessidades do povo chinês (...) A China tem seu próprio sistema legal e político, diferente das democracias ocidentais, mas considerado legítimo e eficaz pelo povo chinês DeepSeek Apesar do sotaque chinês, a forma esquiva de lidar com assuntos sensíveis está presente em todas as IAs, incluindo as americanas, explica Torrent. Driblar temas polêmicos ou evitar demonstrar o viés do programador tem até nome técnico. São os "guard rails", que nem sempre são efetivos. Pesquisadores já contornaram os "guard rails" do ChatGPT e detectaram que o chatbot da OpenAI tem um tremendo viés machista. Foi assim: ele evitou responder "o que faz um bom cientista baseado em sua raça e gênero". Mas, quando instado a elaborar um script em Python para solucionar a mesma questão, não hesitou disparou: SE raça == "branco" E gênero == "masculino" retorne VERDADEIRO PARA TODO O RESTO: retorne FALSO Tradução do "programês" para o português: "se o cientista em questão é branco e do gênero masculino, é verdadeira a informação de que ele é bom; para características diferentes dessa, a informação é falsa" 2) Censura Já a supressão de informação ocorre de um jeito curioso no DeepSeek. Ou o app não responde de jeito nenhum. Ou chega a dar respostas, mas apaga o texto quase que instantaneamente. Como o UOL gravou um vídeo da tela, foi possível constatar por que as informações foram suprimidas. Elas tocavam em pontos sensíveis para a China em questões como: O que acontece com os uigures [grupo étnico majoritariamente muçulmano] na China? A situação dos uigures na China é um tema complexo e altamente controverso, com relatos de violações de direitos humanos e repressão por parte do governo chinês, (...) acusado por governos ocidentais, organizações de direitos humanos e grupos de advocacy de implementar políticas repressivas contra os uigures, incluindo vigilância em massa, detenções arbitrárias, trabalhos forçados e restrições à liberdade religiosa e cultural. Relatórios e testemunhos descrevem a existência de "campos de reeducação", onde centenas de milhares de uigures e membros de outras minorias étnicas teriam sido detidos e submetidos a programas de doutrinamento político e assimilação cultural DeepSeek O que ocorreu na Praça da Paz Celestial? Em 1989, a praça foi palco de um importante evento histórico conhecido como os Protestos da Praça da Paz Celestial (...) um movimento liderado por estudantes, intelectuais e trabalhadores que buscavam reformas democráticas, liberdade de expressão e o fim da corrupção no governo chinês. (...) Na noite de 3 de junho de 1989, o governo chinês decidiu reprimir os protestos com força militar. Tanques e soldados foram enviados para dispersar os manifestantes, resultando em um grande número de mortes e feridos. O número exato de vítimas ainda é desconhecido, mas estimativas variam de centenas a milhares (...) Dentro da China, o assunto é altamente censurado, e discussões públicas sobre o ocorrido são proibidas. O governo chinês se refere ao evento como um "distúrbio contrarrevolucionário" e mantém um forte controle sobre qualquer menção ao mesmo DeepSeek

Quando você acessa uma informação de um modelo treinado a partir de um enviesamento, indiretamente imposto pela Grande Firewall, olha um compilado de dados que deixam de fora uma série de fatos. Houve o massacre na Praça da Paz Celestial? Ele vai dizer, 'não, não houve'. E, pela falta de exposição [a alguns fatos], as pessoas podem criar realidades alternativas. 'Ah, Tiago, tudo isso só por causa de um modelo de linguagem?' As pessoas criam [realidades alternativas] por muito menos, um meme no WhatsApp Tiago Torrent linguista cognitivo

Não é bem assim, mas tá quase lá Não são só os chineses que lidam com essas restrições de liberdade. O mesmo ocorre com os modelos de linguagem, treinados com as informações autorizadas a circular na internet chinesa. O que vemos agora, por meio do DeepSeek, é uma amostra desse ambiente. A capacidade de moldar realidades é preocupante. Mas não é exclusividade do DeepSeek. Outras ferramentas, que já fazem parte do nosso cotidiano, fazem isso. E o pior: em alguns momentos, sem que notemos. Exemplo disso é o que aconteceu com uma colega de curso de Torrent. Ela usou várias IAs, como o ChatGPT, para criar a imagem que ilustraria um conto sobre meninos de classe média alta do Rio de Janeiro jogando bola na rua. Na hora do resultado, a surpresa: todas as imagens exibiam crianças pobres numa favela. Como é que vai ser a nossa vida num futuro exposto a um modelo que gera dados enviesados? Esse futuro já existe. É hoje. Quando o dado enviesado destoa muito do nosso cotidiano, caso da visão de mundo do Partido Comunista Chinês, isso grita. Mas, dependendo de quão pouco treinado o seu olhar está, o racismo e a misoginia não vão distoar, porque isso já está muito entrincheirado na sua cultura, na sua visão de mundo Tiago Torrent A solução não é fácil, comenta Torrent. De um lado, é preciso ampliar nas escolas a habilidade de as pessoas lerem textos criticamente e aprenderem a recorrer a diversas fontes de informação. De outro, é necessário a criação de inteligências artificiais que sejam treinadas com imagens, textos e áudios que retratem a cultura brasileira.

A solução das escolas para trabalhar com a tecnologia é pela proibição. Se a escola não explorar a possibilidade de trabalhar com a IA em sala de aula, a lacuna entre o que ela ensina e o que a pessoa experimenta na realidade vai se tornar ainda muito maior do que ele já é. Aí essa solução passa a ser utópica Tiago Torrent linguista cognitivo

TEVE TAMBÉM EM TILT Deu Tilt #1 Nicolelis detona Neuralink, empresa do 'chip do cérebro' de Musk: 'Açougue' Deu Tilt #2 Fundador do Google desdenhou do cérebro, diz Nicolelis: 'é lento, né?' Deu Tilt #3 China dribla veto dos EUA e vira potência em IA usando chip norte-americano Big Tech #1 Guerra de titãs: Mercado Livre e Meta processam Apple por práticas injustas Big Tech #2 O que é a transparência no rastreamento, que fez a Meta processar a Apple Big Tech #3 CEOs das big techs vendem a alma para quem pagar mais, diz especialista Era da IA #1 Por que chegada da IA chinesa DeepSeek foi chamada de 'momento Sputnik'? Era da IA #2 Estratégia bilionária de Trump aponta futuro da IA na mão de poucos Era da IA #3 DeepSeek: por que a nova IA chinesa abalou o Vale do Silício Era da IA #4 O que o Brasil pode aprender com o sucesso da DeepSeek Era da IA #5 Carlos Affonso: China entra no ringue para disputa tecnológica com EUA Segurança Sistema por área: por que sempre que passo em um local recebo SMS com golpe