regulação

Sam Altman, CEO da OpenAI, disse estar “um pouco assustado” com a inteligência artificial – Foto: Steve Jennings / Creative Commons

Como lidar com os algoritmos que se sobrepõem à verdade

By | Tecnologia | No Comments

Três acontecimentos da semana passada, que provavelmente passaram despercebidos da maioria da população, envolvem tecnologias de enorme impacto em nossas vidas. O primeiro foi uma audiência no STF (Supremo Tribunal Federal) que debateu, na terça, o Marco Civil da Internet. Na quarta, mais de mil pesquisadores, executivos e especialistas publicaram um manifesto solicitando que pesquisas de inteligência artificial diminuam o ritmo, por representarem “grandes riscos para a humanidade”. Por fim, na sexta, a Itália determinou que o ChatGPT, plataforma de produção de textos por inteligência artificial da OpenAI, fosse bloqueado no país.

Em comum, os três tratam de tecnologias existentes há anos, mas com as quais paradoxalmente ainda temos dificuldade de lidar: as redes sociais e a inteligência artificial. E ambas vêm se desenvolvendo exponencialmente em seu poder para distorcer a realidade a nossa volta, muitas vezes contra nossos interesses e a favor dos das empresas que criam essas plataformas.

Não é um exagero! As redes sociais, usadas por quase 5 bilhões de pessoas, definem como nos relacionamos, nos divertimos, conversamos e nos informamos, manipulando-nos para consumirmos o que os algoritmos consideram melhor (mesmo não sendo). A “inteligência artificial generativa”, que ganhou os holofotes no ano passado e tem no ChatGPT sua estrela, produz conteúdos incríveis, mas que podem embutir grandes imprecisões que as pessoas aceitam alegremente como fatos.

As preocupações que se impõem são como podemos aproveitar o lado bom desses serviços, enquanto nos protegemos de potenciais efeitos nocivos, além de como responsabilizar seus produtores, algo que não acontece hoje!


Veja esse artigo em vídeo:


As redes sociais já são nossas velhas conhecidas. Segundo o relatório “Digital 2023 Global Overview Report”, da consultoria americana We Are Social, os brasileiros passam uma média de 9 horas e 32 minutos na Internet por dia, das quais 3 horas e 46 minutos são em redes sociais. Nos dois casos, somos os vice-campeões mundiais.

Não é surpresa para ninguém que sejamos manipulados por elas, em maior ou menor escala. Segundo a mesma pesquisa, 65,2% dos brasileiros se dizem preocupados se o que veem na Internet é real ou falso. Nesse quesito, somos o quinto país no mundo.

Agora a inteligência artificial ganha um destaque sem precedentes nas discussões tecnológicas, pelo poder criativo das plataformas que elaboram conteúdo. Algumas pessoas acham isso a aurora de uma nova colaboração entre nós e as máquinas; outros veem como um risco considerável para a própria humanidade.

Mas ela já faz parte do nosso cotidiano profundamente. Basta ver que os principais recursos de nossos smartphones dependem da inteligência artificial. As próprias redes sociais fazem uso intensivo dela para nos convencer. E se considerarmos que isso provocou uma polarização social inédita, colocando em risco a própria sociedade, os temores dos pessimistas fazem algum sentido.

Essa amálgama de euforia e paranoia provoca decisões às vezes precipitadas, mesmo de pessoas qualificadas. Países do mundo todo, inclusive o Brasil, se debruçam sobre o tema, tentando encontrar mecanismos legais para organizá-lo.

 

Regular ou não regular?

No Brasil, o uso das redes é disciplinado pelo Marco Civil da Internet, de 2014. “Ele entrou em vigor quando discurso de ódio e fake news estavam em outro patamar”, afirma Marcelo Crespo, coordenador do curso de Direito da ESPM (Escola Superior de Propaganda e Marketing). “Acredito que a revisão seja necessária, mas não com a simples declaração de inconstitucionalidade do artigo 19, e sim a partir de sistemas mais efetivos e transparentes de como as big techs fazem a gestão dos próprios termos de uso quando violados.”

“Hoje temos interações mais rápidas e intensas, que mudam a forma como vivemos em sociedade”, explica Carolina Giovanini, advogada especialista em direito digital do Prado Vidigal Advogados. “Porém isso não significa que o Marco Civil da Internet esteja ‘ultrapassado’, pelo contrário: é uma legislação que foi pensada levando em consideração o futuro da rede.”

O referido artigo 19 está no centro dessa discussão porque protege as plataformas digitais de serem responsabilizadas pelo conteúdo que os usuários publicam em suas páginas. Segundo o texto, elas só poderiam ser penalizadas se deixassem de retirar algo do ar após uma ordem judicial.

Como a Justiça não consegue analisar tudo que se publica nas redes, especialistas defendem que as plataformas sejam obrigadas a fazer isso por sua conta. A inteligência artificial seria fundamental para decidir o que seria apagado, mas a subjetividade de muitos conteúdos dificulta a definição inequívoca do que é desinformação, o que poderia levar a censura por falsos positivos.

“A própria ideia das redes sociais é ser um portal descentralizado, sem ‘pauta editorial’ ou viés socioeconômico, para que a sociedade pulverizada ganhe voz”, sugere Matheus Puppe, sócio da área de TMT, privacidade e proteção de dados do Maneira Advogados. “Responsabilizando as plataformas, todo o modelo de negócios e o propósito da informação descentralizada vai por água abaixo.”

Na prática, isso vem permitindo que as empresas que produzem essas tecnologias gozem de uma prerrogativa rara, que é responder pouco ou nada por danos que provoquem. Não se pode imaginar um mundo sem elas, mas o crescimento explosivo da desinformação e a consequente polarização social não podem ser vistos como meros “efeitos colaterais”. É como “perdoar” um remédio que mate 5.000 pessoas para curar outras 10.000: a cura é bem-vinda, mas não se pode tolerar tantas mortes.

“O ponto é que um novo regime de responsabilidade não é desejado pelas big techs”, afirma Crespo. “Elas têm até bons argumentos para manter como está, na medida em que elas mesmas removem alguns conteúdos ilícitos por vontade própria.”

Estamos em um impasse! Como canta Ney Matogrosso, “se correr o bicho pega; se ficar, o bicho come!” As redes sociais estão no centro da nossa vida. A inteligência artificial abre possibilidade incríveis e necessárias. Eliminá-las é impossível, desacelerá-las é improvável. Mas esses problemas aparecem cada vez com mais força.

Qualquer que seja o futuro, ele precisa ser criado com a participação ativa de todos os agentes da sociedade. Essas empresas não podem continuar dando as cartas baseadas apenas na sua busca pelo lucro, pois seus produtos estão muito além de qualquer outra coisa já feita, do ponto de vista de transformação social.

Os benefícios devem ser distribuídos para todos, assim como as responsabilidades e os riscos. O futuro não pode ser distópico!

 

Nicotina, algoritmos, dopamina, curtidas e outras drogas

By | Tecnologia | No Comments

Sinto lhe dizer, mas você provavelmente é um viciado em drogas. Não me refiro às “clássicas”, como crack, heroína, cocaína ou maconha, ou às “drogas legais”, como bebidas alcoólicas ou cigarros. Estou falando de redes sociais, e isso não é um abuso de linguagem.

O que nos faz ficar grudados nas telas é a dopamina que nosso cérebro produz ao sermos bombardeados pelos algoritmos dessas plataformas com conteúdos que nos agradam. Trata-se, portanto, de uma dependência química real.

Esse debate pegou fogo na semana passada, quando a americana Frances Haugen, ex-gerente da equipe de integridade cívica do Facebook, veio a público para dizer que a empresa sabe disso e que não apenas faz pouco para combater esse efeito, como o reforça com seus algoritmos.


Veja esse artigo em vídeo:


Haugen começou a trabalhar no Facebook em janeiro de 2019. Ela se demitiu em maio deste ano por discordar das diretrizes da companhia. Mas não antes de coletar milhares de documentos que indicariam que a empresa sabe que os conteúdos que geram mais engajamento –e mais lucros– são os que, segundo ela, “fazem mal às crianças, alimentam a divisão e enfraquecem a nossa democracia”.

Ela já vinha informando, de maneira anônima, o jornal americano The Wall Street Journal, que publicou, em setembro, várias reportagens expondo essa gestão da empresa de Mark Zuckerberg. Com sua repercussão, o Congresso dos Estados Unidos decidiu investigar a companhia.

No dia 3, Haugen decidiu mostrar o rosto no programa 60 Minutes, da emissora CBS. Dois dias depois, falou ao Congresso americano. Deixou claro que o Facebook priorizou o lucro às custas da dependência e da saúde mental de seus usuários. Ao 60 Minutes, disse que “o Facebook percebeu que, se mudar o algoritmo para ser mais seguro, as pessoas vão passar menos tempo no site, vão clicar em menos anúncios e eles vão ganhar menos dinheiro”.

As acusações são gravíssimas e precisam ser naturalmente verificadas. Mesmo assim, já na segunda, as ações da empresa despencaram cerca de 5%. Zuckerberg veio a público negar tudo e dizer que seria “ilógico” promover conteúdo que criasse polarização social, e que o Facebook trabalha ativamente pelo bem-estar de seus usuários.

Mas, como diz o professor da Universidade de Yale (EUA) Edward Tufte, “existem apenas duas indústrias que chamam seus clientes de usuários: a de drogas e a de software”.

 

O dilema da rede

No sábado, um dia após ganhar o Prêmio Nobel da Paz, a jornalista filipina Maria Ressa acusou o Facebook de ser uma ameaça à democracia, justamente porque ele falha em proteger seus usuários contra a disseminação do ódio e da desinformação.

Passamos cada vez mais tempo nas redes sociais. Segundo o mais recente relatório “Digital Global Overview”, publicado pela Hootsuite e pela We Are Social, o brasileiro fica, em média, 3 horas e 42 minutos por dia nas redes sociais, atrás apenas dos filipinos e dos colombianos.

Haugen não disse nada que já não se soubesse ou pelo menos suspeitasse. O documentário “O Dilema das Redes”, lançado em setembro de 2020 pela Netflix, explicou tudo isso de maneira bastante didática. A novidade agora é uma informante tão bem documentada “colocando o dedo na ferida” de maneira pública.

Não é o primeiro grande escândalo envolvendo o Facebook. Em março de 2018, explodiu o da empresa britânica de marketing político Cambridge Analytica, que usou os recursos da plataforma para roubar os dados de 87 milhões de usuários, para manipulá-los em favor da eleição de Donald Trump em 2016. Em um primeiro momento, Zuckerberg se colocou como vítima, mas, diante da pressão do governo americano, disparou iniciativas para proteger os usuários.

Haugen diz agora que propositalmente ele faz pouco!

Isso me lembra de outro escândalo gigantesco, esse da indústria do cigarro. Em 1996, o mesmo 60 Minutes divulgou uma entrevista-bomba com Jeffrey Wigand, ex-diretor de pesquisa da Brown & Williamson, então a terceira maior empresa do setor no país.

“Somos uma empresa de entrega de nicotina”, ele disse na época. O executivo, que teve a vida devastada pelas revelações, deixou claro que os fabricantes sabiam que os cigarros faziam mal à saúde das pessoas e que eram altamente viciantes. E o que é pior: deliberadamente incluíam produtos para aumentar o vício. O caso foi retratado no filme “O Informante” (1999), com Al Pacino e Russell Crowe.

Isso provocou profundas mudanças na indústria, que ficou muito mais regulamentada no mundo todo. De maneira geral, toda sua publicidade foi proibida, a venda ficou mais controlada e intensas campanhas de conscientização foram feitas. O resultado é que a quantidade de fumantes diminuiu, especialmente entre os mais jovens.

Ainda assim, a indústria do cigarro continua ativa. De uns anos para cá, tenta uma nova roupagem com os “cigarros eletrônicos”, que fazem sucesso justamente com adolescentes.

 

O que pode ser feito

Pelo que Haugen sugere, Zuckerberg quer solucionar o problema, desde que não atrapalhe os negócios do Facebook. Mas eles (pelo menos na atual forma) são o problema! E sua dominância rendeu US$ 86 bilhões de receitas em 2020 à empresa.

Muita gente acha que a solução seria forçar a divisão do império em empresas menores concorrentes, a exemplo do que foi feito em 1982 na telefonia americana, com a AT&T, que acabou dividida em sete empresas, conhecidas como “Baby Bells”. Vale dizer que isso já foi sugerido há alguns anos com a Microsoft e o Google, sem sucesso.

Haugen acha que isso não funciona. Ela sugere que o caminho seria os algoritmos se tornarem totalmente transparentes, e a criação de uma agência para supervisionar as plataformas digitais, além de aumentar a idade mínima dos usuários.

Tudo isso é bem-vindo, mas não deve ser suficiente. A inteligência artificial precisa ser refinada para limitar conteúdos potencialmente perigosos, e usuários reconhecidamente nocivos à sociedade precisam ser banidos. Por fim, a “tirania das curtidas”, que faz com que as pessoas prefiram conteúdos “de gosto fácil” àqueles e alta qualidade, precisa ser impedida.

O usuário é o elo frágil da corrente. Como nas drogas, não consegue sair de seu vício, por mais que lhe faça mal. Por isso, provavelmente as redes sociais precisem sofrer um controle severo como o que foi imposto à indústria tabagista.

O que não é possível é não se fazer nada. A situação dramática pela qual o mundo passa, com uma polarização que cria uma ameaça real à manutenção da sociedade e da democracia, cresceu graças a essas plataformas. O negacionismo científico, que ceifou centenas de milhares de vidas pelo mundo na pandemia de Covid-19, e a radicalização política são apenas os destaques.

As redes sociais podem ser um ambiente incrível de trocas de ideias. Mas seus usuários precisam de ajuda para vencer esse vício.