|
|
Oi de novo! Aqui está uma nova edição da newsletter do EL PAÍS Tecnologia. Sou Jordi Pérez Colomé, jornalista da seção, e falo sobre tecnologia e suas consequências sociais. Como quase sempre, nada de gadgets. Se você recebeu este e-mail e gostou, inscreva-se aqui. É grátis. |
|
| | |
|
|
1. Perdemos dinheiro, mas queremos alertar | |
|
| | |
|
|
|  | Sam Altman, chefe da OpenAI, em novembro de 2023 em São Francisco, Califórnia. / JUSTIN SULLIVAN (OBTENHA IMAGENS VIA AFP) |
|
|
|
Já falei várias vezes sobre as cartas públicas que foram enviadas durante um ano para nos alertar que a IA descontrolada pode nos matar. Houve vários na primavera de 2023 e depois desapareceram. Todos continuaram a desenvolver e investir a todo vapor, sem muito medo.
Mas agora outra carta retorna. Um grupo de ex-funcionários e trabalhadores anônimos da OpenAI publicou uma carta para alertar sobre como a empresa prioriza incentivos comerciais em detrimento dos perigos do desenvolvimento de sistemas de IA cada vez mais poderosos. Os signatários queixam-se da cultura interna de sigilo e de como a empresa os obriga a assinar contratos onde não podem criticar a OpenAI após a sua saída se não quiserem perder o seu dinheiro.
Na carta, assinada por cinco ex-funcionários e seis funcionários “anônimos” da OpenAI, eles pedem que a empresa rescinda esses contratos e abra canais internos de reclamação em caso de avanços perigosos. “Minha esposa e eu pensamos muito sobre isso e decidimos que minha liberdade de me expressar no futuro era mais importante do que as ações [da OpenAI]”, escreveu Daniel Kokotajlo, que deixou seu cargo no departamento em abril, no X [anteriormente Twitter ]. de Governança da OpenAI, e que disse ao New York Times que o valor das suas ações rondava os 1,6 milhões de euros.
Há algumas semanas, soube-se que a OpenAI estava, em vez disso, forçando seus ex-funcionários a abrir mão de suas ações caso criticassem a empresa em público. Sam Altman disse que isso era horrível e que eles não fariam mais isso. Nesta carta eles tentam confirmar isso.
“O mundo não está preparado e nós não estamos preparados”, escreveu Kokotajlo no seu e-mail de despedida. “E estou preocupado por termos avançado sem qualquer preocupação e sem racionalizar as nossas ações”, acrescentou. Outro signatário, William Saunders, disse à revista Time que o seu dinheiro estava em risco quando falava publicamente: "Ao falar convosco, poderia perder a oportunidade de aceder a ações no valor de milhões de dólares. Mas penso que é mais importante ter um diálogo público sobre o que acontece nessas empresas de IA.” |
|
| | |
|
|
2. O jovem com meias de argila | |
|
| | |
|
|
|  | Leopold Aschenbrenner, exemplificado da OpenAI, e o podcast de Dwarkesh Patel. |
|
|
|
No jornal dou um pouco mais de contexto sobre esse tema. Mas aqui quero me concentrar em um jovem chamado Leopold Aschenbrenner, que esta semana se tornou a nova figura da IA. Ele é um jovem de origem alemã que se formou aos 19 anos com nota máxima na Universidade de Columbia, segundo seu LinkedIn. Eu estava trabalhando na OpenAI na equipe de Ilya Sutskever, um cofundador focado em segurança que saiu em meados de maio.
Aschenbrenner confirmou em podcast que foi demitido por um “vazamento”: ele compartilhou alguns documentos não confidenciais com três pesquisadores externos. Não quero focar nisso aqui.
Ele falou em um daqueles podcasts bem longos (dura quase 5 horas) e que por algum motivo os protagonistas andam descalços. Aschenbrenner sabia disso claramente porque estava usando alguns argyles marrons muito apropriados.
As meias são importantes, mas mais importante é um documento PDF de 165 páginas com cinco ensaios que Aschenbrenner publicou ao mesmo tempo que o podcast e a carta. Analisa a “próxima década” em IA e explica por que tudo é mais perigoso do que pensamos externamente. O perigo lhe convém: após sua saída da OpenAI, ele chefiará um fundo de investimento focado em projetos gerais de IA, gíria da indústria para o momento em que as máquinas ganham a capacidade de pensar e decidir como um ser humano.
Mais perigo, mais atenção, mais dinheiro. Aschenbrenner é muito jovem e concentra boa parte de suas reflexões na segurança: o que acontecerá quando os temíveis chineses (ele combina chamar a China pelo nome e “PCC” ou Partido Comunista Chinês) tiverem mais capacidade computacional e melhores algoritmos que os Estados Unidos Mas a maior parte é pura especulação baseada no fato de que nos próximos anos, até 2027, veremos o mesmo salto que vimos em quatro anos entre o GPT-2 e o GPT-4: quando o modelo deixou de ser como um. criança até a de uma criança que está entrando no ensino médio.
Mas para isso precisamos de melhorias em algoritmos, energia e computação, segurança, dados para treinar. Ninguém sozinho está seguro, imagine tudo de uma vez. Mas para entender a magnitude da onda que preocupa algumas pessoas no Vale do Silício, vale a pena ler este parágrafo sobre a década de 2030 (faltam menos de seis anos):
|
|
| Tudo começará a acontecer incrivelmente rápido. O mundo começará a enlouquecer. Suponhamos que tivéssemos passado pelos picos de tensão geopolítica e pelos perigos provocados pelo homem do século XX em apenas alguns anos; Essa é a situação que deveríamos esperar após o surgimento da superinteligência. No final, sistemas de inteligência artificial superinteligentes comandarão as nossas forças armadas e a nossa economia. Durante toda essa loucura, teremos pouquíssimo tempo para tomar as decisões certas. Os desafios serão imensos. Teremos que dar tudo para avançar inteiros. |
|
| |
|
|
Neste ponto é melhor levar isso com calma e usar o ChatGPT de vez em quando, sem mais delongas. A curva, segundo Aschenbrenner, é exponencial mas o GPT-4 saiu em março de 2023 e ainda aguardamos novidades. |
|
| | |
|
|
3. Boas notícias, pais e mães | |
|
| | |
|
|
Enquanto no Vale do Silício acreditam que o Exterminador do Futuro já está chegando, em outros lugares a preocupação é muito mais simples: o que fazer com as telas dos jovens (que se o Exterminador do Futuro chegar não viverão até a idade adulta).
Pesquisadores da Universidade da Califórnia, em São Francisco, encontraram uma resposta bastante simples com vários experimentos. Eles intitulam seu artigo acadêmico: “Boas notícias, pais. Vocês têm poder sobre o tempo de tela de seus adolescentes”.
Quando comecei a ler pensei: vamos ver que aplicativo misterioso ou jogo inteligente temos que baixar para controlar esses tempos. Mas não. Foi muito mais simples.
Os autores do artigo descobriram que as melhores formas de controlar o tempo de tela são literalmente restringir o acesso do celular nos quartos, na mesa, e os pais darem um bom exemplo e não usarem o celular o tempo todo.
Parece bobagem, mas é provável que essas ninharias reduzam tanto o tempo de tela de crianças de 12 e 13 anos porque em muitas famílias elas não deveriam fazer isso. Como esperado, usar telas como ameaça ou punição também não funciona.
“Esses resultados são encorajadores porque fornecem aos pais estratégias concretas que eles podem usar com seus pré-adolescentes e adolescentes: estabelecer limites de tempo de tela, monitorar o uso da tela por seus filhos e evitar telas nos quartos e durante as refeições. ”, diz um dos pediatras coautor do artigo. |
|
| | |
|
|
4. O chefe da Nvidia, outra estrela do rock | |
|
| | |
|
|
|  | Muito obrigado. / EMPRESA FOTOGRÁFICA |
|
|
|
Nvidia projeta chips. Esta semana competiu com a Apple para ser a segunda empresa mais valorizada do mercado. A primeira é a Microsoft.
Seu presidente executivo, o taiwanês Jensen Huang, se tornou viral por dois atos que carregam um nível de fama semelhante ao de uma estrela do rock: um, autografando o peito de uma mulher; duas declarações de 11 segundos sobre a vida que se tornam virais. São estas e ele fala sério: "Trabalho desde o momento em que acordo até a hora de dormir. Trabalho sete dias por semana. Quando não estou trabalhando, estou pensando no trabalho. E quando trabalho, eu trabalhar." Muitas das respostas são: graças a Deus alguém faz isso e não sou eu. |
|
| | |
|
|
5. O passado também não foi tão bonito | |
|
| | |
|
|
|
É o que diz a mensagem: "Na era anterior aos celulares, duas pessoas estão no sofá assistindo a um filme. Uma diz 'pausa, preciso ir ao banheiro' e sai da sala. O que a outra pessoa estava fazendo enquanto esperado? Estudar as linhas de sua mão?"
Sempre me interessei em como era o passado em particular. Eu me lembro errado. Entre as centenas de respostas à mensagem está o que realmente fizemos: pegamos uma revista na mesa, fomos buscar um drink, ninguém pediu folga porque tinha propaganda, reabastecemos a pipoca, fomos também ao banheiro.
O melhor de lembrar disso é que ninguém, mas ninguém, diz: eu estava olhando para o teto, meditando e refletindo sobre como é lindo viver. |
|
| | |
|
|
6. Outros tópicos da seção | | |
|
| | |
|
|
|
| | JORDI PÉREZ COLOMÉ | Ele é repórter de Tecnologia, preocupado com as consequências sociais causadas pela Internet. Escreva um boletim informativo toda semana sobre a agitação causada por essas mudanças. Foi galardoado com o prémio José Manuel Porquet em 2012 e o prémio iRedes Letras Enredadas em 2014. Lecionou e leciona em cinco universidades espanholas. Entre outros estudos, é filólogo italiano.
Cidad3: Imprensa Livre!!!
Saúde, Sorte e $uce$$o: Sempre!!!
|
|
|
|
|
