 | Nicolas Ducat/AFP |
| X sofre pressão inédita no Brasil após onda de imagens sexuais do Grok |
|  | Helton Simões Gomes |
| O X (ex-Twitter) sofre uma pressão sem precedentes de órgãos públicos no Brasil após a onda de imagens sexuais produzidas pelo Grok, a ferramenta de inteligência artificial da rede social do bilionário Elon Musk. Usuários descobriram que bastava fornecer a foto de uma pessoa e pedir, e a IA gerava imagens em que as roupas davam lugar a trajes íntimos, como biquínis —é o chamado "deepnude", um tipo mais nefasto das "deepfakes". Em menos de 10 dias, mais de 3 milhões de imagens sexualizando principalmente mulheres e crianças pequenas invadiram a internet. A indignação das autoridades em diversos países foi imediata, com ameaças de suspensão na Malásia e na Indonésia e investigação na União Europeia, Reino Unido e até na Califórnia, nos Estados Unidos, lar do X. Depois da repercussão ruim, o site de Musk informou que passaria a impedir a geração de imagens falsas. Aqui no Brasil, a reação está sendo coordenada pelo MPF (Ministério Público Federal), Senacon (Secretaria Nacional do Consumidor do Ministério da Justiça) e ANPD (Agência Nacional de Proteção de Dados), uma união contra uma big tech como não se via desde pelo menos 2021. O que está na mesa são punições severas ao X, que podem ir de multa até a suspensão da plataforma, ainda que responsáveis por analisar o caso julguem prematuro falar nisso. |
|
|
|
|
| Em meados de janeiro, o trio de órgão públicos exigiu que o X tirasse do ar os "deepnudes" e adotasse diversas medidas. Na verdade: - As três entidades fizeram uma recomendação, que incluía: interromper imediatamente a geração de fotos e vídeos sexualizados; criação e implantação dentro de 30 dias de procedimentos para localizar as imagens problemáticas já geradas; remoção das contas dos autores do conteúdo irregular e ainda a elaboração de uma denúncia online para as vítimas sinalizarem o uso indevido de suas imagens;
- Acontece que a recomendação veio com um aviso: o descumprimento seria punido com sanções administrativas e judiciais. Quais? Não se sabia;
- Um documento a que Radar Big Tech teve acesso mostra o que pode acontecer. Segundo o relatório, as entidades deram prazo para o X responder e informaram que a ausência de manifestação seria punida de diferentes formas e usando leis diversas:
- advertência, multa de até 10% do faturamento no Brasil, suspensão temporária e proibição de exercício (conforme o artigo 12 do Marco Civil da Internet);
- rescisão de contrato com restituição dos valores àqueles que assinam o X (segundo o artigo 35 do Código de Defesa do Consumidor);
- de advertência a multa simples (2% da receita no país), passando pela bloqueio parcial ao acesso a dados de brasileiros e culminando na proibição total ou parcial das atividades (seguindo o artigo 52 da Lei Geral de Proteção de Dados);
- As informações constam da resposta do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital ao Idec (Instituto de Defesa de Consumidores), que pediu ao órgão a suspensão do X no Brasil por colocar crianças em risco. Fazem parte do colegiado representantes dos ministérios da Justiça e dos Direitos Humanos e Cidadania, além da Secretaria de Comunicação da Presidência da República e do Conanda (Conselho Nacional dos Direitos da Criança e do Adolescente);
- Como o X respondeu a tempo, esse primeiro gatilho de punição não foi ativado. A resposta, no entanto, segue sob sigilo a pedido da empresa de Elon Musk;
- Agora, está correndo o prazo de 30 dias para o X varrer da rede os "deepnudes". Caso isso não ocorra, volta para a mesa a possibilidade das sanções descritas acima;
- Fora isso, o Ministério da Justiça discute internamente a aplicação de outras punições previstas no CDC, como multa e bloqueio do X no Brasil, diz o relatório do comitê;
- O caso ainda pode escalar para uma investigação internacional contra o X. Segundo o comitê, os "deepnudes" de crianças são classificados como material de abuso sexual infantil --CSAM, para os entendidos. Por ser um provedor de serviço eletrônico nos EUA, o X é obrigado por lei federal a reportar esse tipo de material ao NCMEC (Centro Nacional para Crianças Exploradas e Desaparecidas);
- A partir daí, o NCMEC comunica autoridades policiais do mundo todo, inclusive a PF brasileira, para tomarem uma providência, afinal imagens de crianças reais estão sendo exploradas na internet;
- Segundo o relatório, o comitê fez dois pedidos à PF: 1) na hipótese de o X ter reportado casos corretamente, que instaure inquérito para apurar os crimes cometidos contra crianças brasileiros; 2) caso o X não tenha enviado os casos de CSAM para o NCMEC, que informe ao Departamento de Justiça dos EUA e ao FBI a suspeita de o X ter cometido crime federal.
|
|
|
|
| Uma movimentação tão ampla assim só foi vista em 2021, quando Cade (Conselho Administrativo de Defesa Econômica), MPF, ANPD e Senacon recomendaram que a Meta não alterasse a política de privacidade do WhatsApp. O objetivo era compartilhar dados pessoais de usuários presentes no aplicativo de mensagem com outros serviços da empresa, como Facebook e Instagram. Desde então, a integração, tão almejada pela empresa de Mark Zuckerberg, segue emperrada no Brasil. À primeira vista, os "deepfakes" do Grok infringem leis como Marco Civil da Internet, CDC, LGPD e o Estatuto da Criança e Adolescente. O caso X não é o primeiro envolvendo IA que bate à porta da ANPD, que capitaneia as ações. Em 2024, a entidade impediu a Meta de usar dados de brasileiros para treinar sua IA, o que fez a empresa de Mark Zuckerberg adiar o lançamento no Brasil do Meta AI, chatbot de IA presente no WhatsApp e Instagram. O sinal verde só foi dado quando a empresa topou algumas concessões. Para Miriam Wimmer, diretora da ANPD, o aprendizado obtido com o caso da IA da Meta —em quais hipóteses os dados podem ser usados para treinar IA? qual salvaguarda precisa ser estabelecida?— será usado com X e Grok. Porém, elementos novos, como o conteúdo sexualizado e o uso de imagem sem autorização, exigirão novo esforço dos órgãos públicos sobre qual enquadramento dar perante o arcabouço jurídico existente. Há ainda outra dificuldade à vista para o X. Ainda que as três entidades tenham agido em conjunto, a plataforma enfrentará a complexidade de responder pelo mesmo incidente separadamente a ANPD, MPF e Senacon, que conduzem cada uma processos internos distintos, com ritmos e regras diferentes. Se a pressão de agora ocorre em três frentes e tem a suspensão da rede social apenas como possibilidade, é bom lembrar que o site de Musk já foi tirado do ar no Brasil. Em 2024, ficou 38 dias fora do ar por ordem de Alexandre de Moraes, ministro do STF. Naquela época, porém, a plataforma não era alvo das investigações e foi punida por não apresentar representante legal e descumprir exigências do tribunal. Se com o Supremo o silêncio deu o tom da desobediência, severamente punida, no caso da ANPD, a norma foi e tem sido outra: as notificações da agência sempre são respondidas; e no prazo. |
|
|
|
Não é bem assim, mas tá quase lá |
| O Idec destinou o pedido de suspensão do X ao comitê intersetorial porque este é o órgão encarregado de criar a Política Nacional de Proteção de Crianças e Adolescentes no Ambiente Digital, em gestação no governo federal. Estarrecida com o absurdo das imagens geradas pelo Grok, o instituto pediu para a nova política pública prever a restrição ao uso de IA generativa para criar imagens de crianças com teor violento ou sexual. Para Julia Abad, especialista de telecomunicações e direitos digitais do Idec, casos de deepfake com mulheres não são novidade, mas o uso da IA do X para despir as pessoas representa um marco, justamente por recorrer de forma negativa a características vistas como positivas em serviços tecnológicos: acessibilidade e facilidade de uso. |
|
|
|
 | A sexualização e a humilhação que crianças, adolescentes e mulheres têm passado com a criação dessas imagens de forma tão simples, com uma possibilidade de compartilhamento tão rápida, traz um alerta gigantesco (...) Milhões de imagens foram geradas em curtíssimo período, o que mostrou a fragilidade das próprias empresas de impedir isso, se é que esse era o desejo delas. Acho que a gente tem de questionar: quanto as empresas querem que a inteligência artificial possa fazer isso? Afinal, a gente percebeu o grande engajamento [com as imagens sexualizadas] | | Julia Abad | especialista de telecomunicações e direitos digitais do Idec |
|
|
|
 | Josh Edelson/AFP |
| Nada de acordo entre Google e MPF |
| O Google não topou as condições apresentadas pelo Ministério Público Federal, que desistiu de fechar um acordo com a big tech para encerrar a disputa judicial em torno da publicidade infantil no YouTube. O MFP quer obrigar a empresa a exibir avisos na plataforma de vídeo informando que é proibida no Brasil as propagandas voltadas a crianças e conteúdos retratando crianças promovendo produtos e serviços. Na semana passada, Sergio Nereu, procurador regional da República responsável pelo caso, informou a Justiça Federal sobre o fim das tratativas para um acordo e pediu para o processo prosseguir. A pedido do Google, a proposta está em sigilo, informou o MPF. Até surgir a possibilidade do acordo, o julgamento estava marcado para 9 de dezembro de 2025. O Google já sofreu dois reveses no caso, que pode mudar a dinâmica da publicidade no YouTube, a maior plataforma de streaming do Brasil. - O 'efeito Felca': até agosto do ano passado, o caso já se arrastava havia dez anos, com uma vitória substancial do Google na primeira instância. Poucos dias após o vídeo do influenciador Felca vir a público , o juiz Glaucio Mariel, do Tribunal Regional Federal da 6ª Região, decidiu parcialmente e em caráter liminar a favor dos procuradores, obrigando o Google a exibir os avisos.
- Mudança de lado: a União era ré na ação, porque o Google argumentou que o YouTube não poderia ser responsabilizado sozinho, já que a publicidade infantil seguia regras fixadas em resolução do Conanda (Conselho Nacional dos Direitos da Criança e do Adolescente). E o texto não traz sanções para infratores. Em setembro passado, o presidente Lula sancionou o ECA Digital . A lei obriga plataformas digitais a aplicar camadas adicionais de segurança, proíbe perfilamento de crianças e adolescentes para enviar publicidade e prevê punição financeira e até suspensão de serviço no Brasil para as infratoras. No mesmo dia, um decreto presidencial transformou a ANPD em responsável pela aplicação da lei. Com isso, a União pediu e deixou de ser ré na ação, uma vez que agora possui instrumentos para sancionar empresas digitais que abusem da publicidade infantil.O TRF-6 também inverteu o polo processual. Com isso, se antes era ré, a União passou para o lado do MPF na ação civil pública.
Agora que o acordo subiu no telhado, ao que tudo indica haverá julgamento. |
|
|
|
|
