Nobel

out 21 2024
0
Ilustração oficial anuncia os vencedores do Prêmio Nobel de Física de 2024: John Hopfield e Geoffrey Hinton - Foto: reprodução

A IA poderá curar o câncer, mas não podemos ignorar seus riscos pelos benefícios

By | Tecnologia | No Comments

A inteligência artificial já transformou o mundo, e esse processo está apenas engatinhando. Suas potencialidades beiram o inimaginável e devemos nos apropriar de todos esses recursos. Ainda assim, temos que cuidar para que isso não se torne um ópio que turve nossa compreensão dos riscos que ela também embute, mas vejo isso já acontecendo de forma preocupante.

Constato esse problema em pesquisadores, parte da imprensa, grandes empresários e outros líderes da sociedade, que abraçam a IA de maneira inconsequente, como se tudo dela fosse bom para a humanidade. Essas pessoas adotam um discurso deslumbrado e intransigente, criticando aqueles que propõem um debate equilibrado sobre benefícios e riscos da IA.

No dia 8, a Academia Real das Ciências da Suécia concedeu o Prêmio Nobel de Física a Geoffrey Hinton, da Universidade de Toronto (Canadá), e a John Hopfield, da Universidade de Princeton (EUA), pelos seus trabalhos pioneiros com redes neurais artificiais e com machine learning, bases da IA. Essa turma correu para incensar a vitória dessa tecnologia, escondendo que, apesar de ser considerado o “padrinho da IA”, Hinton também é um forte crítico ao seu desenvolvimento descuidado.

A defesa inabalável da IA é criadora e criatura de um profundo processo de desordem informacional que beneficia as empresas do setor. Não é um fenômeno novo: há muitos anos, as big techs manipulam a opinião pública em favor das redes sociais. Com isso, mesmo diante dos seus evidentes problemas, uma parcela significativa da população ainda as apoia irrestritamente por seus inegáveis benefícios, mas ignorando os igualmente óbvios prejuízos.

Falhamos ao impedir que essa desinformação favorável às redes sociais criasse raízes tão profundas, que impediram que essas plataformas evoluíssem de maneira mais benéfica à humanidade. Não podemos repetir o erro com a inteligência artificial!

Veja esse artigo em vídeo:

Além de comemorar o reconhecimento de seu trabalho pelo Nobel, Hinton aproveitou a entrevista que concedeu logo após o anúncio de sua vitória para reforçar essas preocupações. E já no segundo minuto de sua fala, criticou Sam Altman, CEO da OpenAI (criadora do ChatGPT), por, segundo ele, “estar muito menos preocupado com a segurança que com os lucros”, algo que classificou como “lamentável”.

Para ele, as transformações pela IA serão comparáveis às da Revolução Industrial, com a diferença que, em vez de superar as pessoas na força física, superará na força intelectual. “Isso trará aumentos brutais na produtividade, mas também temos de nos preocupar com uma série de possíveis consequências ruins, particularmente com a ameaça de que essas coisas saiam do controle”, disse.

Em maio do ano passado, Hinton se demitiu do Google para, segundo ele, poder criticar livremente os caminhos da IA e a disputa sem limites entre as big techs, o que poderia criar “algo realmente perigoso”. Ao The New York Times, disse na época estar arrependido por ter contribuído com isso. E na entrevista do dia 8, disse que, apesar disso, teria feito tudo de novo, pois, na época, não podia prever esses riscos no futuro.

Hinton comemorou o prêmio na sede do Google, junto com ex-colegas e ex-alunos, entre eles Ilya Sutskever, ex-cientista-chefe da OpenAI que tentou demitir, sem sucesso, Sam Altman no ano passado. E o local escolhido é emblemático, demonstrando como a ciência no setor depende umbilicalmente dos recursos das big techs para financiar suas milionárias pesquisas.

Não há nenhum problema na colaboração de corporações e cientistas, muito pelo contrário: se bem conduzida, isso pode trazer grandes benefícios à humanidade. Deve-se apenas ter cuidado para que isso não se distorça para gerar apenas lucros irresponsáveis, como pode estar acontecendo com a IA.

 

Alterações da realidade

Para que as empresas lucrem mais, a opinião pública precisa ser convencida de que tudo está bem, e que suas decisões são tomadas para o bem comum. E os diferentes atores sociais mencionados anteriormente têm um papel essencial nisso.

É o caso de Bill Gates, que vem, há meses, dando incontáveis entrevistas e palestras sobre como a IA tornará o mundo um lugar melhor para todos. Lançou até uma série na Netflix (muito bem-feita), chamada “O Futuro de Bill Gates”, onde reforça a ideia.

O fundador da Microsoft, maior investidora da OpenAI, afirma repetidamente que a IA permitirá que as pessoas trabalhem menos dias na semana. Em tese, isso poderia acontecer, porém o mais provável é que, com o aumento de produtividade, gestores demitam em massa, com os remanescentes trabalhando todos os dias da semana.

Em 2021, pesquisadores da Universidade de Cambridge (Reino Unido) publicaram um estudo que explicava mecanismos de ataque à capacidade da população de adquirir conhecimento. E uma das principais ameaças são as pessoas que disseminam desinformação, divididas em dois grupos. O primeiro, batizado de “adversários”, deliberadamente manipula informações, promove ataques ou incita seguidores para confundir ou enganar a população para atingir seus objetivos. O segundo, os “trapalhões”, de maneira inocente e até bem-intencionada, espalha essas bobagens, como acontece naquele grupo da família no WhatsApp.

Pelas suas informações privilegiadas, é muito mais provável que Gates e Altman sejam “adversários”, e não “trapalhões”. Nesses últimos, estão aqueles que usam a IA de maneira pouco crítica, achando que ela é uma grande assistente, quando, na verdade, em breve podem perder seu emprego para ela, pelo uso limitado que fazem.

No final das contas, o excesso de informação sobre a IA, a polarização da sociedade e o papel dos “adversários” e dos “trapalhões” podem atrapalhar profundamente o desenvolvimento de bons usos da IA, pois a população pode adquirir uma visão pouco crítica sobre essa tecnologia. Assim como aconteceu as redes sociais, muito mais que as pessoas, as grandes beneficiadas desse processo são a big techs.

Hinton afirma categoricamente que não se sabe como evitar os riscos criados pela IA. Por isso, ele afirma que mais pesquisas independentes sobre isso são urgentes. Caso contrário, esse processo de degradação cognitiva seguirá seu curso, até que eventualmente seja tarde demais e seus temores se concretizem.

Temos que nos apropriar de tudo de bom que a IA nos oferece, e não é pouca coisa. Mas não podemos ser deslumbrados inconsequentes diante disso.

 

out 09 2023
0
Ilustração oficial do Comitê Nobel no anúncio do Nobel da Paz de 2023 concedido à iraniana Narges Mohammadi - Foto: reprodução

Como a verdade desejável para alguns pode ser um ato abominável para outros

By | Educação | No Comments

Provavelmente você a as pessoas que conhece defendem os direitos das mulheres. Isso parece ser algo tão óbvio, que o oposto nem passa pela sua cabeça. Mas você se surpreenderia com a quantidade de pessoas que discordam disso, ainda que parcialmente, em pleno ano de 2023! Como justificar então um Estado e uma parcela significativa de sua população negando direitos básicos às mulheres?

Tivemos um bom exemplo na sexta, quando o Comitê Norueguês concedeu o Prêmio Nobel da Paz à iraniana Narges Mohammadi, pelo seu trabalho como defensora dos direitos das mulheres. Ela está presa no seu país, sentenciada a 31 anos de reclusão e a 154 chibatadas. O governo de Teerã protestou contra a escolha, classificando-a como “tendenciosa e política”, uma “pressão do Ocidente” que favorece alguém que, para eles, praticou “reiteradas violações da lei e cometeu atos criminosos”.

Como se pode ver, o “óbvio” pode ser construído. O fenômeno de convencimento de massas existe desde que os humanos desceram das árvores e se organizaram em sociedade, e seus métodos vêm se refinando de lá para cá. Seu ápice se deu com as redes sociais que manipulam bilhões, mas a inteligência artificial pode sofisticar esse processo ainda mais.

Agressões contra mulheres podem parecer um exemplo extremo, mas não podemos esquecer que isso acontece diariamente no Brasil. E, apesar de aqui ela não ser apoiada pelo Estado, vale lembrar que apenas recentemente, no dia 1º de agosto, o STF (Supremo Tribunal Federal) declarou inconstitucional o uso da tese da “legítima defesa da honra” como defesa para feminicídio e outras agressões contra mulheres.

Veja esse artigo em vídeo:

É interessante notar que, antes da Revolução Islâmica de 1979, liderada pelo aiatolá Ruhollah Khomeini, o Irã era uma das nações mais progressistas do Oriente Médio. Comandado pelo xá Mohammad Reza Pahlavi, o país desfrutava de um razoável desenvolvimento econômico e tecnológico, com avanços na industrialização, na educação e na saúde pública. Havia modernização do código de vestimenta, a promoção dos direitos das mulheres e a ocidentalização da cultura.

Mas nem tudo eram flores. O governo do monarca era autoritário e corrupto, o que gerava um descontentamento crescente na população. Khomeini soube capitalizar isso com apelo religioso, tornando-se o principal opositor ao xá, que acabou deixando o país em 1979. A população então votou para tornar o Irã uma república islâmica teocrática e antiocidental, tendo o aiatolá como líder supremo do país.

A Revolução Iraniana é apenas um exemplo entre incontáveis casos de persuasão de grandes massas populares, alguns por motivos nobres, outros para satisfação de desejos mesquinhos de alguns grupos, muitas vezes ligados à política.

Coincidentemente, na semana passada terminei de rever a série “Irmãos de Guerra” (“Band of Brothers”, 2001) na Netflix. Ela conta a história real das missões de um grupo de paraquedistas americanos na Segunda Guerra Mundial, desde o “Dia D” até o fim do conflito. Menos preocupada na ação e mais em retratar os dramas humanos da guerra, a série se presta muito bem a nos fazer pensar o que leva milhões de pessoas a embarcar voluntariamente em um confronto assassino e suicida ao mesmo tempo, com controle mínimo das próprias ações.

Cada episódio começa com breves entrevistas atuais com os próprios soldados representados na produção. No penúltimo episódio, um deles afirma: “Nós pensávamos que os alemães eram o pior povo do mundo, mas, com o desenrolar da guerra, descobrimos que não era bem aquilo.” Outro sugere que “muitos daqueles soldados alemães, em circunstâncias diferentes, poderiam ter sido bons amigos meus, poderíamos ter muito em comum”.

Mas na loucura da guerra, a preocupação de todos era apenas “matar o inimigo”. Se eles pudessem pensar em tudo aquilo, talvez não houvesse guerra por falta de tropas.

 

O poder da narrativa única

Precisamos ter muito cuidado antes de apontar dedos. Aqueles que nos querem convencer de algo abusam do recurso de silenciar ou desqualificar vozes dissonantes, pois seu público não pode ter acesso “ao outro lado” e conhecer seus argumentos. A narrativa única é essencial para o convencimento. Por isso, costuma-se dizer que, “em uma guerra, a verdade é a primeira vítima”.

Temos experimentado isso nas últimas eleições, com as redes sociais sendo usadas pelos diferentes grupos políticos para manter seu “curral eleitoral” dentro de uma bolha que apenas exalta suas virtudes e demoniza seus adversários. A imprensa profissional e livre, nesse e em todos os casos de convencimento de massa, deve ser combatida, pois ela insiste em explicar a realidade à população.

No final, tudo recai sobre nossos valores. A escolha em quem votaremos afeta nosso cotidiano pelos próximos quatro anos, mas é algo bem menor que a decisão de ir para uma guerra pronto para matar ou morrer, ou apoiar um regime que abertamente assassina opositores e violenta mulheres.

É verdade que o governo teocrático iraniano foi instalado por escolha popular, o que lhe dá legitimidade. Ele ascendeu ao poder atendendo a necessidades e desejos dos iranianos da década de 1970, trabalhando habilmente, com aspectos religiosos, suas emoções e um apelo à construção da identidade de um povo.

Mas tudo tem limites e eles começam a aparecer mais fortemente à medida que o tempo passa. O regime dos aiatolás está no poder há 44 anos, mas vem enfrentando oposição aberta nos últimos tempos, que é reprimida com grande violência. Os maiores movimentos contrários aconteceram no ano passado, depois que a Polícia da Moralidade matou em setembro Mahsa Amini, de 22 anos, por deixar uma mecha de seu cabelo aparecer fora do seu véu.

Isos é demais, até mesmo para uma sociedade oprimida pelo medo ou cega pela religião. O regime dos aiatolás sabe que, da mesma forma que foi guindado ao poder por revoltas populares contra o xá Reza Pahlavi, pode ser apeado dali assim. Por isso, não pode dar espaço a vozes contrárias ou a uma população bem-informada. Nesse cenário, o Prêmio Nobel da Paz para Narges Mohammadi funciona como um perigoso convite a fazer as pessoas pensarem.

Assim caminha a humanidade! Quero crer que, na média, evoluímos, apesar de enormes retrocessos que teimam em aparecer de tempos em tempos, como a ascensão do nazismo e de outros regimes totalitários políticos ou religiosos.

Crescemos mais fortemente quando a sociedade tem acesso amplo a uma educação de qualidade e a uma imprensa forte, profissional e livre. Precisamos desses recursos! Afinal a verdade costuma fugir dos extremos e abraçar o diálogo e o respeito.