Sulinha Cidad3: Destaques de Inteligência artificial

Interesses escusos e alucinações da IA podem interferir nas urnas

Olá!

O uso da IA para criar conteúdos falsos com grau de realismo cada vez maior preocupa o governo a pouco mais de um ano das eleições. Não bastassem os modos escusos para influenciar eleitores, os próprios modelos incorrem em alucinações e enganam usuários.

Enquanto isso, as grandes empresas estão a todo vapor na corrida da IA, com exceção da Apple que parece estar presa na linha de partida. A empresa enfrenta dificuldades para construir seus próprios modelos grandes de linguagem -- sistemas de IA que compreendem e geram linguagem humana processando grandes quantidades de dados -- sobre a tecnologia de aprendizado de máquina atual da assistente digital Siri. O grande problema é que a IA tem sido um importante atrativo para a troca de aparelhos, em especial, pelos brasileiros.

Temos muitas novidades. Acomode-se e vamos aos insights!

Protagonismo indevido da IA nas eleições

A avaliação do governo é de que a manipulação de dados para produzir vídeos com informações falsas e divulgá-los nas redes sociais, ou aplicar golpes digitais, transformou-se em um problema de segurança pública e defesa da sociedade.

Em janeiro, o ministro da Fazenda, Fernando Haddad, teve de gravar um vídeo para desmentir conteúdo que havia viralizado nas plataformas digitais, com a imagem e a voz dele, afirmando que o governo cobraria imposto de cachorros de estimação e de grávidas. O vídeo também extraiu material de uma gravação autêntica, onde Haddad defendia a cobrança de imposto das “bets”, os cassinos virtuais. Nos dois casos, é justamente a associação de material original a trechos adulterados, viabilizada pela IA, que imprime verossimilhança a esse tipo de conteúdo.

O ministro da Advocacia-Geral da União (AGU), Jorge Messias, que encabeça o debate sobre a responsabilização das plataformas digitais dentro do governo, disse ao Valor que nem o Brasil nem outros países estão preparados para o “tamanho da confusão aberta com o uso da inteligência artificial, uma tecnologia distópica, ainda não regulamentada”.

Modelos mais novos mentem mais aos usuários

Em um cenário fictício, o modelo Claude Opus, da Anthropic, chegou a chantagear engenheiros ao ser ameaçado de substituição por outro sistema. Uma pesquisa recente da Palisade, uma organização que faz testes de aplicativos de IA, mostrou que o modelo o3, da OpenAI, recusou instruções explícitas para ser desligado.

Incidentes como esses são “muito assustadores, porque não queremos criar um competidor para os seres humanos neste planeta, especialmente se eles forem mais inteligentes do que nós”, diz o acadêmico canadense Yoshua Bengio, cujo trabalho ajudou nas técnicas usadas por grandes grupos de IA como a OpenAI e o Google.

Segundo o professor da USP, pesquisador do Centro de Inteligência Artificial e do Instituto de Estudos Avançados e ex-presidente do Ipea e da Finep, Glauco Arbix, a IA sempre alucinou e mentiu, o que os desenvolvedores vêm tentando mitigar. "A novidade é que alguns novos modelos alucinam mais, mentem para 'enganar' o usuário, explica ao Valor. Para o professor, esses modelos "escondem o que fazem", enquanto outros se adaptam ao usuário e falam o que ele espera. "Ou seja, não há controle sobre os novos modelos."

O mais curioso desses delírios é quando eles podem ser úteis. O colunista Claudio Garcia escreve que um grupo de professores da Wharton Business School conduziu uma experiência em uma disciplina de empreendedorismo, na qual estudantes e uma IA generativa criaram ideias de negócio separadamente. No fim, das 40 melhores ideias, 35 foram geradas pela IA, segundo juízes humanos que desconheciam a origem das propostas. Isso não significa que todas as ideias da IA foram boas - lembremos que o que chamamos de alucinação são variações. Ou seja, houve também muitas ideias medianas ou ruins.

Apple frustra expectativas sobre IA

Os investidores reagiram negativamente à ausência de novidades importantes na conferência anual de desenvolvedores da Apple na segunda-feira (9).

Embora o diretor-presidente da Apple, Tim Cook, tenha exaltado o potencial da tecnologia na Siri, a assistente digital do iPhone, tudo o que pôde apresentar por enquanto foi uma interface redesenhada. A lenta adesão da Apple à IA é um de muitos problemas . Ex-executivos da Apple disseram ao “Financial Times” que a empresa enfrenta dificuldades para construir seus próprios modelos grandes de linguagem - sistemas de IA que compreendem e geram linguagem humana processando grandes quantidades de dados - sobre a tecnologia de aprendizado de máquina atual da Siri.

Além disso, a empresa não lança um novo produto de sucesso há anos, o headset de realidade virtual Vision Pro, lançado em 2023, foi um fracasso, e o seu carro elétrico nunca chegou ao mercado.

Cresce a disputa por celular ‘premium’

No quarto maior mercado de celulares do mundo, marcas apostam no desejo do consumidor brasileiro por investir um pouco mais em aparelhos mais avançados , robustos e com design interessante. A oferta de modelos “premium” é aposta tanto das veteranas Samsung e Motorola, primeira e segunda no ranking de vendas do país, quanto das estreantes, as chinesas Jovi, Realme , Honor e Oppo. Além de inovações em design, bateria e performance, os recursos de inteligência artificial (IA) têm sido um importante atrativo para a troca de aparelhos pelos brasileiros.

Nos últimos dias, a gigante chinesa de eletroeletrônicos Huawei vem dando sinais de que está prestes a voltar a vender celulares no Brasil após seis anos ausente do mercado brasileiro. A marca comercializa atualmente produtos de consumo como relógios inteligentes, além de equipamentos de infraestrutura para redes de telecomunicações e paineis solares no país.