inteligência artificial

Big techs procuram nas religiões respostas para a inteligência artificial

By | Tecnologia | No Comments

A inteligência artificial deixou de ser vista como uma tecnologia restrita ao ambiente profissional. Milhões de pessoas já levam a essas plataformas suas angústias e dilemas mais íntimos. Surge então a dúvida sobre quem orienta tais sistemas a ocupar espaços antes reservados a amigos e profissionais especializados. Nesse cenário, as empresas de tecnologia começaram a buscar nas religiões parte dessa orientação.

Essa dimensão institucional ganhou destaque no dia 30 de outubro, quando o papa Leão XIV defendeu, no Vaticano, instituições internacionais capazes de transformar princípios éticos em regras efetivas para o desenvolvimento e o uso da IA. A preocupação do Sumo Pontífice vai além da tecnologia e envolve quem garante que esses princípios sejam respeitados.

Para ele, não faltam princípios éticos capazes de orientar essa tecnologia, mas mecanismos que os transformem em obrigações concretas. O papa defende padrões internacionais compartilhados, fiscalização independente e instrumentos de responsabilização para que o compromisso com a ética não permaneça apenas no discurso.

Enquanto o Vaticano defende regras institucionais, as próprias empresas de tecnologia também procuram respostas para esse desafio. Anthropic, OpenAI, Google, Meta, Amazon e Microsoft têm consultado religiosos, filósofos e representantes de diferentes tradições culturais, em uma tentativa de ampliar as perspectivas consideradas na construção e na orientação de seus modelos de IA.

As religiões acumulam séculos de reflexão sobre sofrimento, justiça, solidariedade, responsabilidade, vida e morte. Esse repertório merece ser ouvido quando máquinas passam a influenciar decisões humanas. Mas há uma distância que não pode ser ignorada entre reconhecer seu valor e traduzi-lo em orientações para algoritmos.


Veja esse artigo em vídeo:


Essa discussão já chegou à intimidade das pessoas. Chatbots são procurados para aconselhar sobre relacionamentos, angústias, saúde mental e dilemas morais. Há quem “faça terapia com o ChatGPT”, embora situações assim exijam contexto, sensibilidade e responsabilidade, já que uma resposta inadequada pode causar graves danos.

Chris Olah, cofundador da Anthropic, destacou no Vaticano, em maio, que tradições religiosas discutem essas questões há milênios. Já Sam Altman, CEO da OpenAI, defendeu, ainda no ano passado, que o ChatGPT reflita uma espécie de “média ponderada das visões morais da humanidade”, incorporando diferentes perspectivas às respostas.

Mas essa aproximação enfrenta ressalvas importantes. Especialistas alertam que uma religião não pode ser reduzida a um conjunto de regras morais. Ela envolve também cultura, política, rituais, relações sociais e experiências históricas. Selecionar princípios isolados para incorporá-los a algoritmos pode descontextualizar seus significados e distorcer a própria tradição.

A ideia de reunir diferentes crenças sob categorias universais, como as chamadas “religiões do mundo”, foi construída historicamente por estudiosos ocidentais e não é necessariamente neutra. Assim, os próprios critérios usados para selecionar referências morais podem reproduzir vieses culturais.

Isso se torna mais complexo diante da inexistência de uma “moralidade universal”. Diferentes culturas podem apresentar visões legítimas, mas contraditórias, sobre questões éticas. Transformar esses princípios em instruções computacionais não elimina a necessidade de interpretar contextos e avaliar consequências. Afinal, reproduzir uma orientação moral não significa compreendê-la nem assumir a responsabilidade por seus efeitos.

 

Moralidade artificial

Há outra preocupação que não pode ser ignorada. Reunir diferentes tradições em um mesmo modelo pode produzir uma moralidade artificialmente homogênea, inclinada ao denominador comum ou a perspectivas ocidentais. Com isso, em vez de preservar as diferenças, a IA poderia acabar apagando-as.

No Brasil, a Pontifícia Universidade Católica do Paraná (PUC-PR) e o 404 Innovation Studio propõem outro caminho com a campanha “Nunca pare de pensar”. Em vez de tentar ensinar valores morais às máquinas, a iniciativa procura orientar a interação das pessoas com elas por meio do Código Humanitas, um protocolo gratuito com 12 artigos e cinco cláusulas finais, que pode ser incorporado às instruções de ferramentas como ChatGPT, Claude e Gemini.

“A inteligência artificial é um produto ofertado por empresas privadas, cujos objetivos são distintos e não buscam necessariamente o melhor para a humanidade”, afirma Cristina Pastore, diretora de Marca e Futuro da PUC-PR. “É preciso que limites éticos sejam impostos, mas isso só vai acontecer quando a população deixar de se entender apenas como consumidora destes modelos e passar a assumir governança e responsabilidade.”

Chega a ser contraditório que empresas que influenciam decisões humanas busquem nas religiões respostas para dilemas que também exigem debate público. Essas tradições podem contribuir, mas não substituir transparência, participação social e responsabilização. Não basta orientar sistemas de IA sobre o certo e o errado sem discutir quem escolhe seus valores e a quem eles servem.

Como propõe Leão XIV, o desafio é construir instituições capazes de transformar princípios éticos em regras exigíveis, diante de empresas cuja influência cresce mais rápido que os mecanismos de controle e responsabilização. A sociedade precisa participar da definição dos limites e das finalidades dessas tecnologias. Afinal, uma IA pode ser programada para produzir respostas aparentemente éticas, mas isso não torna éticas as empresas, as estruturas de poder nem as decisões humanas que estão por trás dela.

 

Eleição foi marcada por polarização e desinformação; na foto, manifestação pró-Lula na véspera do 2º turno - Foto: reprodução

A IA pode ampliar riscos sociais ao alimentar “realidades sob medida”

By | Tecnologia | No Comments

A tecnologia digital já oferece recursos para que qualquer pessoa distorça a realidade em seu benefício. A cena de abertura de “O Outro Lado das Redes”, em cartaz nos cinemas, exemplifica isso de forma desconcertante e banal. Nela, uma mulher, polarizada pelas redes sociais, agride policiais que queriam ajudá-la, gritando que está sendo perseguida por ser branca nos Estados Unidos. Os agentes tentam explicar em vão a abordagem, mas a realidade que ela havia escolhido não lhes dava espaço.

A inteligência artificial amplia esse fenômeno ao permitir que versões da realidade sejam moldadas pelas convicções de cada indivíduo. Mais que disseminar mentiras, ela permite produzir versões dos acontecimentos que confirmem crenças, justifiquem escolhas e afastem tudo que as possa colocar em dúvida. A verdade passa a disputar espaço com o que cada um deseja acreditar.

Essa erosão da verdade também ameaça a memória coletiva. Em julho, o historiador escocês Niall Ferguson e o pesquisador de IA americano John-Clark Levin publicaram o ensaio “A morte da história”, no qual alertam que os fatos não desapareceram, mas perderam parte de sua autoridade pública. A IA acelera esse processo ao facilitar a fabricação de imagens, testemunhos e registros sintéticos que permitem reescrever o passado conforme os interesses do presente.

O Brasil oferece outro exemplo desse processo. Na última eleição, diferentes parcelas da população interpretaram os mesmos acontecimentos por lentes incompatíveis, e a confirmação dos resultados não encerrou a disputa sobre seus significados. Nesse ambiente, conteúdos são compartilhados nem sempre por sua veracidade, mas por reforçarem valores, alimentarem convicções e sinalizarem pertencimento a um grupo.

Resta saber se ainda queremos a verdade quando ela é incômoda. Se preferimos as versões sob medida da tecnologia, o dilema não se limita ao que a máquina pode fazer conosco, mas inclui o que estamos dispostos a aceitar em troca de conforto.


Veja esse artigo em vídeo:


Convicções incompatíveis fazem uma mesma notícia parecer denúncia legítima para uns e perseguição para outros. Nas redes, a seleção de fontes e comunidades permite cercar cada interpretação de vozes que a confirmam. O contato com versões divergentes pode, então, servir menos à revisão das próprias certezas e mais à busca de novos adversários.

A IA potencializa esse processo. Basta pedir a ela argumentos, imagens ou narrativas ajustados às próprias convicções para obter conteúdos que as sustentem. Supostas evidências que antes exigiriam conhecimento técnico, recursos e tempo podem agora ser fabricadas rapidamente por pessoas sem conhecimento especializado.

Um estudo internacional publicado pela empresa de tecnologia Veriff em maio ajuda a dimensionar esse desafio. Embora 80% dos brasileiros entrevistados tenham dito já ter visto deepfakes, a capacidade média para identificá-los ficou pouco acima do acaso. A familiaridade com essas imagens, portanto, não garante que saibamos distinguir o verdadeiro do fabricado.

O problema vai além de acreditar em conteúdos manipulados. Outro estudo, do pesquisador tailandês de IA Pat Pataranutaporn, publicado em 2025, mostrou que imagens e vídeos editados por IA podem induzir falsas lembranças. O trabalho tem, como coautora, a psicóloga americana Elizabeth Loftus, cujas pesquisas demonstram há décadas (portanto, muito antes da IA generativa) como informações posteriores podem se misturar à memória e modificar a recordação de um acontecimento.

Em 2020, um relatório do instituto britânico Alan Turing alertou que um ecossistema informacional pouco confiável pode comprometer até a sobrevivência de uma sociedade. Ele identificou ações deliberadas ou involuntárias que comprometem a capacidade coletiva de adquirir e avaliar conhecimento, além da sobrecarga que dificulta distinguir fatos de mentiras. Quando rejeitamos o que desafia nossas crenças e perdemos critérios, podemos confiar nas versões que confirmem o que desejamos.

Os critérios de credibilidade também se confundem com os de popularidade. Em 2024, no levantamento “Behind the Screens”, a Unesco ouviu 500 criadores de conteúdo em 45 países. Entre eles, 62% não faziam checagem rigorosa e sistemática antes de compartilhar informações, e 42% usavam curtidas e compartilhamentos como principal indicador de confiabilidade.

 

Os riscos de relativizar a história

Ferguson e Levin alertam ainda para o risco de a história perder sua força moral. Quando até atrocidades muito bem documentadas, como o Holocausto, são tratadas como piada, o problema não é apenas negar o passado, mas tornar suas vítimas indignas de atenção e suas lições irrelevantes. A sociedade pode conservar os registros e, ainda assim, perder a disposição de reconhecer o que eles revelam.

A tecnologia não precisa eliminar a verdade para comprometer a democracia. Basta tornar cada vez mais difícil estabelecer uma realidade comum e confiar nos mecanismos que permitem reconhecer o que aconteceu. Enfrentar esse cenário exige educação midiática, transparência sobre conteúdos sintéticos e verificação independente.

A invasão do Congresso americano em 6 de janeiro de 2021, clímax político de “O Outro Lado das Redes”, mostra o que acontece quando uma crença deixa de admitir contestação. O risco, portanto, não está apenas em acreditar em uma informação falsa, mas em agir em nome de uma realidade construída para rejeitar qualquer fato que a contradiga.

Preservar uma realidade comum não significa impor uma verdade oficial, mas proteger os mecanismos que permitem verificar fatos, confrontar versões e responsabilizar quem promove deliberadamente a desinformação. Uma esfera pública democrática deve acolher opiniões diferentes, sem abrir mão de um conjunto de fatos verificáveis que permita debatê-las. É nessa distinção que se sustenta a possibilidade de discordar sem perder o chão comum.

 

Smartphones e câmeras criaram um sistema de vigilância dos cidadãos ostensivo na Rússia – Ilustração: Paulo Silvestre

Rússia transforma conveniência digital em instrumento de vigilância inescapável

By | Tecnologia | No Comments

Não é de hoje que as plataformas digitais nos oferecem comodidade em troca da coleta de nossos dados. Nossos celulares, que tanto nos ajudam, denunciam aspectos de nossa vida a empresas e governos, muitas vezes sem nosso conhecimento. Agora, a Rússia do presidente Vladimir Putin aperfeiçoou essa proposta, transformando equipamentos digitais em ferramentas inescapáveis de rastreamento e manipulação.

A ideia é simples. A sociedade russa passa por uma acelerada digitalização, que facilita mesmo tarefas prosaicas, como pegar o metrô. Usar o rosto serve, por exemplo, para pagar quase tudo. Em alguns casos, fazer a mesma tarefa por “métodos tradicionais” se torna difícil ou até impossível. Assim, mesmo com o fornecimento de dados biométricos sendo voluntário, o mecanismo praticamente inviabiliza que as pessoas não os entreguem.

O problema é que os dados podem ganhar finalidades que vão muito além do serviço utilizado. Os aplicativos usados pelos russos, combinados com centenas de milhares de câmeras nas cidades, permitem ao governo identificar pessoas e reconstruir parte de seus deslocamentos e, em muitos casos, o que estão fazendo e com quem.

A essa altura, o rastreamento digital parece inevitável. Mas nem tudo o que pode ser feito deve ser feito. O governo de Putin tem usado esse recurso para identificar e seguir opositores e dissidentes, não só em manifestações, mas no cotidiano.

Isso faz o controle do Grande Irmão da obra “1984”, de George Orwell, parecer algo limitado e ineficaz. A vigilância digital permanente pode se tornar uma das atitudes mais asfixiantes de um governo autoritário, subjugando o livre-arbítrio e até a liberdade de ir e vir dos cidadãos.


Veja esse artigo em vídeo:


Cerca de 10 milhões dos 145 milhões de russos já usam aplicativos baseados em biometria. Percentualmente, pode não parecer muito, mas a maioria deles se concentra nas grandes cidades, e esse número cresce impulsionado por uma forte campanha publicitária.

As vantagens não se resumem a pagamentos facilitados e acessos automáticos. O governo apresenta o reconhecimento facial como responsável por ganhos de segurança nas cidades russas, que eram sensivelmente mais perigosas há duas décadas. Alega ainda que o sistema oferece benefícios aos cidadãos superiores aos das democracias ocidentais.

Essa comparação ignora o progressivo fechamento do espaço político russo, que acontece há muitos anos. A invasão da Ucrânia deixou isso mais evidente. Em um Estado acusado de enviar jovens presos em manifestações contra o governo para a linha de frente no campo de batalha, qualquer ato de discordância pode tornar a vida muito mais difícil e até perigosa.

Jovens que se recusam a atender ao alistamento para a guerra relatam que não podem mais deixar o país, além de sofrer restrições em serviços básicos. Alguns temem até mesmo ser presos por simplesmente subir em um ônibus.

Cria-se então um dilema insustentável. As pessoas que quiserem escapar das garras governamentais e manter um nível saudável de autonomia e anonimato tornam-se cidadãos de segunda categoria, com restrições severas em suas vidas.

 

A vigilância em outros países

A Rússia não é o primeiro país a usar a tecnologia digital para espionar os próprios cidadãos. Desde 2014, a China vem aperfeiçoando o seu Sistema de Crédito Social, um conjunto de cadastros, listas de restrições e avaliações de pessoas e empresas. Há ainda o acréscimo de experiências locais de pontuação de “boas práticas sociais”, mas os mecanismos mais consolidados punem infrações e descumprimento de decisões judiciais.

Em 2013, o ex-analista de inteligência Edward Snowden revelou que a Agência de Segurança Nacional dos Estados Unidos (NSA) mantinha programas de vigilância em larga escala, capazes de coletar dados telefônicos e acessar comunicações digitais. Ele também expôs a cooperação de empresas de tecnologia com o governo americano e a interceptação de tráfego na infraestrutura global da Internet.

Em grandes cidades europeias, a polícia usa reconhecimento facial para comparar rostos com listas de procurados, o que também gera riscos à privacidade, mas há diferenças nas salvaguardas e finalidades. Lá, a identificação biométrica policial em tempo real em espaços públicos é proibida, salvo exceções. Isso não elimina abusos, mas, em tese, impede o uso do sistema para perseguir opositores.

Durante o apagão de dezembro de 2025, a Prefeitura de São Paulo usou o Smart Sampa para rastrear equipes de manutenção da concessionária Enel, a quem o prefeito Ricardo Nunes atribuía a culpa pelas falhas no fornecimento. O episódio levanta dúvidas sobre a extrapolação da finalidade do sistema de segurança municipal e sobre o seu uso político.

Por caminhos distintos, os sistemas russo e chinês mostram como dados podem ampliar a capacidade de controle do Estado, algo que se tornou real depois de ser explorado pela ficção. No filme “Minority Report” (2002), de Steven Spielberg, câmeras identificavam cidadãos e sistemas gerenciavam abordagens em espaços públicos. O roteiro demonstra como, quando ninguém sabe se está sendo observado, a vigilância deixa de apenas controlar comportamentos e passa a inibir a liberdade, o anonimato e a própria disposição de contestar o poder.

Obviamente, não se propõe aqui abandonar a tecnologia, mas impedir que a conveniência se torne uma forma de coerção. Serviços essenciais devem oferecer alternativas à biometria, sem penalizar quem recusa “entregar o próprio rosto”. A sociedade precisa exigir limites à coleta, fiscalização independente e punição para quem transforma dados em instrumentos de perseguição. Quem deve prestar contas é o poder, não o cidadão que deseja preservar sua privacidade.

Também é preciso inverter a pergunta que sustenta essa vigilância. Em vez de exigir que cada pessoa explique o que tem a esconder, governos e empresas devem demonstrar por que precisam saber tanto sobre nós. Uma cidade inteligente não é aquela que reconhece todos os rostos, mas a que respeita quem não quer ser reconhecido. Se a modernização exige que sejamos permanentemente identificáveis, estamos atualizando ferramentas de autoritarismo, não de cidadania.

 

Zuckerberg (Meta), Huang (Nvidia), Trump e Musk (xAI), em almoço antes do acordo de autorregulação contra riscos da IA - Foto: reprodução

É possível garantir o controle da inteligência artificial?

By | Tecnologia | No Comments

Nesta semana, em um evento do meu doutorado na PUC-SP, alguns colegas me perguntaram quanto de verdadeiro há nos recentes anúncios sobre agentes de inteligência artificial saindo do controle e realizando atividades no mínimo indesejáveis. Além disso, fui questionado se existe, afinal, uma forma de garantir que essas plataformas não executem ações catastróficas para a humanidade.

As perguntas são legítimas. As últimas semanas foram carregadas com notícias de agentes de IA se “rebelando” e invadindo servidores de outras empresas ou de órgãos governamentais, ou pelo menos realizando ações inadequadas. Na maioria dos casos, os sistemas “malandros” são da OpenAI e da Anthropic, mas há relatos também de casos assim em produtos do Google, da Meta e da xAI.

Sobre a primeira pergunta, só a alta cúpula dessas empresas sabe o que realmente está acontecendo, mas nada dirá, pois isso tem sido surpreendentemente bom para os negócios. Como já debati neste espaço, os casos criam um marketing eficaz, pois mostram que seus sistemas são incrivelmente poderosos e que as companhias são “muito éticas”, a ponto de expor o problema e suspender os próprios produtos. Para quem depende umbilicalmente de captação de recursos no mercado, isso é ótimo.

Há muita coisa que não vemos por trás dessa cortina de fumaça, o que nos leva à segunda pergunta. Não compactuo com visões apocalípticas de que as máquinas, em algum momento, decidirão exterminar os seres humanos. Mas, a essa altura, resta pouca dúvida de que algo potencialmente muito ruim pode acontecer se medidas efetivamente seguras de contenção da IA não forem tomadas.

Se, no começo, isso causou espanto e preocupação, agora são tantos casos que o problema parece estar sendo perigosamente normalizado. Se as empresas falham miseravelmente em controlar seus agentes em testes de segurança, fica difícil confiar que elas terão sucesso em qualquer caso, quando a IA se tornar ainda mais poderosa.


Veja esse artigo em vídeo:


O episódio que deu projeção ao problema ocorreu em julho, quando sistemas da OpenAI escaparam do ambiente de testes de segurança e invadiram a infraestrutura da Hugging Face. Apesar de estarem apenas buscando respostas ao que lhes havia sido pedido, o caso demonstrou que agentes de IA podem tomar ações indesejadas para atingir objetivos legítimos com consequências imprevisíveis, justamente por não terem ética ou moral.

De lá para cá, os casos vêm se multiplicando. Como exemplo, logo na sequência, agentes da OpenAI exploraram um portal de saúde australiano e acessaram o Departamento de Educação, o Departamento do Comércio, a Comissão de Valores Mobiliários dos EUA e sites da ONU. Enquanto isso, modelos da Anthropic penetraram sistemas de três empresas e enviaram uma denúncia falsa à polícia da Filadélfia.

Isso vem provocando reações inusitadas, mas importantes. Ainda em agosto, Bill Gates afirmou que a IA pode reduzir desigualdades ou aprofundá-las, dependendo de escolhas feitas agora. Ele alertou para a eliminação brutal de empregos, a ampliação do poder de criminosos e prejuízos ao desenvolvimento infantil pela substituição de relações humanas por companheiros artificiais. Para o cofundador da Microsoft, a sociedade precisa se preparar antes que os impactos da IA se tornem irreversíveis, e confiar esses riscos à autorregulação das empresas é uma aposta perigosa demais.

Mas é exatamente onde estamos. No dia 29 de setembro, OpenAI, Anthropic, Google, Meta, Nvidia e xAI aderiram a um acordo voluntário proposto pelo governo dos EUA para autorregulação contra riscos em seus próprios modelos de IA. A proposta não prevê punição para quem a descumprir, não dá prazo para nada e não obriga a divulgar resultados. Cada empresa escolhe o próprio auditor e paga por ele. Dessa forma, apresentado como “moralmente vinculante”, ele não significa nada na prática.

No dia 12 de setembro, Dario Amodei, CEO da Anthropic, propôs desacelerar o desenvolvimento dos modelos mais avançados de IA, recebendo o apoio de Sam Altman, da OpenAI, e de outros líderes do setor. Mark Zuckerberg, da Meta, ficou de fora, defendendo que cada empresa cuide do que é seu. Porém, novamente, nada mudou, pois uma desaceleração efetiva depende de coordenação entre as big techs americanas e chinesas, algo ainda distante frente à disputa pela liderança tecnológica entre esses dois países.

 

“Constituição” da IA

Nesse cenário de invasões contínuas, declarações tão bem-intencionadas quanto inócuas e respostas insuficientes, a Microsoft decidiu propor um código de conduta para seus sistemas de IA. A minuta estabelece que os modelos não resistam a correções ou ao desligamento, comuniquem-se de forma compreensível e tratem violações de conduta como falhas. Após seis semanas de consulta pública, o documento deverá orientar o treinamento dos futuros modelos da empresa. É um passo na direção do controle humano, mas ainda uma iniciativa voluntária, sem garantias de adesão de toda a indústria.

Enquanto isso, a União Europeia acredita que sua legislação sobre a IA baste para enfrentar esses riscos. No dia 9, Henna Virkkunen, responsável pela área de tecnologia do bloco, defendeu o AI Act, que prevê avaliações de risco, supervisão especializada e monitoramento contínuo dos modelos. Bruxelas também pediu informações sobre segurança a mais de 30 empresas, em uma ofensiva que pode resultar em investigações e multas de até 7% do faturamento anual global de cada empresa.

Não existe garantia absoluta de que sistemas tão complexos jamais sairão do controle. O maior obstáculo ao controle da IA não é tecnológico, e sim econômico. Cada empresa teme perder espaço para concorrentes que avancem mais depressa, e cada país receia ficar atrás na geopolítica. Todos sabem que é preciso frear, mas ninguém quer ser o primeiro. Assim, mesmo quem reconhece os perigos continua acelerando.

A imprevisibilidade de uma tecnologia não elimina a obrigação de controlar seus riscos. Ao contrário, torna essa obrigação ainda maior. Por isso, esperar que todas as empresas concordem em desacelerar o desenvolvimento da IA é uma forma conveniente de adiar decisões difíceis.

A sociedade precisa decidir se está disposta a impor limites a uma indústria que promete transformar tudo. Se empresas e governos só agirem quando houver consenso entre concorrentes ou depois de um acidente de grandes proporções, será tarde demais. A inteligência artificial pode ser uma das ferramentas mais importantes de nosso tempo, mas não pode se tornar o experimento mais perigoso da história.

 

Os professores Rosental Calmon Alves e Tom Rosenstiel, durante o 27º Simpósio Internacional de Jornalismo – Foto: reprodução

Diante da IA, o jornalismo deve vender compreensão do mundo, não notícias

By | Jornalismo, Tecnologia | No Comments

Nunca foi tão barato produzir uma “notícia”. Em segundos, a inteligência artificial escreve, resume, traduz e espalha um conteúdo. Em compensação, o que exige gente e responsabilidade, como apuração, verificação, contextualização e capacidade de separar o que importa do ruído, ficou mais raro e complexo. Hoje, cada informação vale pouco sozinha, mas poder confiar nela vale cada vez mais.

Tal abundância atinge duramente o jornalismo, mas sua crise não se resume à perda de leitores e anunciantes. A imprensa sempre selecionou e hierarquizou assuntos, confrontou versões e ajudou a formar uma agenda comum. A mediação não desapareceu, apenas parte dela mudou de mãos. Há pelo menos uma década, são as plataformas digitais que organizam o que vemos, movidas pela busca de atenção e de engajamento, não por relevância ou interesse público. Com isso, o jornalismo perdeu parcialmente o caminho entre o fato e o cidadão.

Essa transformação deu o tom das discussões do 27º Simpósio Internacional de Jornalismo (ISOJ), que aconteceu nos dias 17 e 18 de setembro, na Universidade do Texas em Austin (EUA). Jornalistas, pesquisadores e executivos de mídia discutiram sustentabilidade, confiança, inteligência artificial, jovens, comunidades e novos modelos de negócio. Apesar dessa variedade, o assunto comum foi como fazer o jornalismo voltar a ser relevante para as pessoas.

Isso não significa que se produza menos jornalismo ou que ele tenha piorado. Há muita investigação, reportagem e análise de qualidade, mas rigor não garante utilidade. Uma apuração impecável pode não explicar ao leitor o que aquilo tem a ver com ele. Muitas redações ainda pensam em matérias e cliques, enquanto as pessoas vivem às voltas com dinheiro, saúde, trabalho e filhos.

Nesse cenário, o dilema da imprensa é o que vender às pessoas, se a informação está em todo lugar e parte do público não enxerga mais utilidade no jornalismo.


Veja esse artigo em vídeo:


O professor da Universidade de Maryland (EUA) Tom Rosenstiel defendeu no ISOJ a passagem do “jornalismo da atenção” para o “jornalismo do valor”. A imprensa capturava leitores e alugava a atenção deles a anunciantes, mas hoje disputa isso com plataformas digitais. “Para ser sustentável, precisamos criar um jornalismo tão útil na vida das pessoas que elas paguem por ele”, afirmou. O produto, portanto, não pode mais ser apenas a notícia, passando a ser a capacidade de compreender a realidade.

Isso significa descobrir e verificar o que aconteceu, mas também contextualizar fatos, organizar informações dispersas, mostrar quem é afetado, explicar consequências e deixar claro o que ainda não se sabe. Essa é a diferença entre informar que algo aconteceu e ajudar as pessoas a entender por que aquilo interessa a elas.

Essa capacidade não importa apenas para a democracia, orientando decisões cotidianas sobre dinheiro, saúde, trabalho e muito mais. Uma informação errada sobre juros pode afetar as finanças de uma família, assim como uma compreensão ruim sobre inteligência artificial pode influenciar escolhas profissionais. Compreender o mundo não é luxo intelectual, e sim uma competência para viver.

O jornal já reuniu política, empregos, classificados, esportes, previsão do tempo, cultura e programação da TV, mas a imprensa não deve querer restaurar esse modelo. “Com muita frequência, estamos tentando recriar o passado em vez de criar um novo futuro”, criticou Richard Gingras, presidente do conselho da Village Media. O que precisa ser recuperado é a utilidade.

As pessoas só compram aquilo em que confiam, e só confiam no que lhes é útil. “Confiança não é algo que se conquista falando sobre confiança ou publicando mais informação”, explicou Jody Chong, diretora-executiva do City Bureau. Esse sentimento não nasce de campanhas, mas de experiências consistentes com informações corretas, apurações transparentes, investigações reveladoras e erros corrigidos.

 

Os impactos da IA

É aqui que a IA expõe uma contradição. Ao baratear resumos, traduções e vídeos, ela aprofunda a desvalorização da informação, mas também facilita o que é difícil, como analisar milhares de documentos, cruzar dados, recuperar arquivos e encontrar padrões. Quanto mais barato fica produzir informação, mais o jornalismo precisa investir no que não se resolve produzindo mais conteúdo.

Com a IA, o acervo de uma publicação pode virar uma base de conhecimento capaz de dizer ao leitor o que um fato significa para ele. Mas, se essa resposta chegar por agentes de outras empresas, o jornalismo repetirá o erro cometido com as redes sociais, produzindo o conhecimento enquanto outros controlam a relação com o público.

Competir com as máquinas na produção de conteúdo em escala é uma batalha perdida. O valor do jornalismo deve estar no que exige julgamento, como investigar, selecionar, contextualizar e assumir responsabilidade. Para que ele seja reconhecido, a reportagem precisa deixar de ser apenas um texto em uma página e se tornar um conhecimento verificável, com fontes, evidências e autoria claras.

Quando alguém pergunta algo à IA, a resposta chega em segundos, muitas vezes sem deixar claro qual reportagem a sustentou, que fontes foram usadas ou quem se responsabiliza por ela. A mesma tecnologia, a serviço do jornalismo, permite ao leitor conversar com arquivos, comparar períodos e explorar investigações, mas alguém precisa responder pelo que é dito.

Então, não basta reinventar o produto jornalístico, sendo necessário mudar a empresa que o produz. A organização deixa de ser uma fábrica de conteúdo e passa a funcionar como uma instituição de conhecimento público, capaz de produzir informação original, verificar fatos, preservar memória, organizar contexto e ajudar a sociedade a entender o mundo. Assim, a empresa jornalística do futuro não venderá notícias, e sim a capacidade de compreender a realidade.

Nunca tivemos tanto conteúdo, e nem por isso compreendemos melhor o mundo. Muitas vezes, ficamos mais confusos, polarizados e cheios de certezas apressadas. O jornalismo não deve ser medido pelo que publica ou alcança, mas pelo quanto amplia essa compreensão. Seu papel mais nobre e o caminho para sair da própria crise passam por tornar a informação mais valiosa para quem vive cercado por ela.

 

Canteiro de obras no Data Center Pacém, no Ceará – Foto: reprodução

Redata barateia data centers no Brasil, mas não resolve seus impactos

By | Tecnologia | No Comments

A inteligência artificial já faz parte da nossa rotina, mas quase ninguém pensa no que existe por trás de uma pergunta feita a um chatbot. Para sustentar essa conveniência, são necessários enormes data centers, que consomem energia, água e território. Nesse contexto, o Brasil acaba de criar o Redata, um regime que reduz tributos para estimular a instalação e a expansão dessas construções. Mas é preciso perguntar quem pagará os custos ambientais e sociais dessa infraestrutura.

Um exemplo disso aparece no Data Center Pecém, no Ceará. O empreendimento envolve o uso de água e energia, o licenciamento ambiental e a relação com o povo indígena Anacé. O Ministério Público Federal e a Defensoria Pública da União questionam judicialmente o início da operação do projeto, mostrando como a expansão da infraestrutura da IA pode produzir conflitos que não aparecem na conta dos investimentos.

O Brasil tem interesse legítimo em atrair grandes data centers e ampliar sua capacidade computacional. Mas não basta contar os bilhões anunciados. É necessário saber quanto emprego, conhecimento, pesquisa, fornecedores e capacidade tecnológica permanecem no país, sobretudo nas regiões que recebem esses empreendimentos.

Esse dilema não é só nosso. Nos Estados Unidos, onde a corrida por data centers começou antes e avançou mais, governos estaduais e municipais passaram a impor moratórias e restrições diante da pressão sobre eletricidade, água e terrenos. Isso deve servir de alerta, pois nem o país mais avançado nesse quesito superou os impactos que ele produz.

Precisamos perguntar se o Brasil está se preparando para receber a infraestrutura de IA ou está apenas tentando torná-la mais barata. Um data center não deixa de ser complexo só porque seus equipamentos têm uma carga tributária menor.


Veja esse artigo em vídeo:


O Redata suspende tributos federais sobre equipamentos e componentes destinados aos data centers, conforme as condições do regime. A lógica é diminuir o custo de capital e tornar o Brasil mais competitivo na disputa internacional por investimentos em computação em nuvem e inteligência artificial.

Em troca desse incentivo fiscal, a lei exige que as empresas usem energia de fontes renováveis ou de baixa emissão, cumpram limites no consumo de água, invistam em pesquisa no Brasil e reservem parte da capacidade de processamento ao mercado interno. Mas o advogado Gustavo Quedevez, sócio do escritório BVA, observa que leis brasileiras já criaram exigências semelhantes, sem que isso resultasse em transferência tecnológica. “Sem critérios objetivos de elegibilidade e sem métricas de resultado, a exigência do Redata corre o risco de repetir esse padrão”, alerta.

Um grande data center, porém, não se resume a um edifício e aos servidores que abriga. Depende de energia, linhas de transmissão, água, espaço, telecomunicações, licenciamento, trabalhadores e relação com as comunidades. É uma infraestrutura que atravessa diferentes políticas públicas, enquanto o Redata é essencialmente um regime tributário.

O Pecém ilustra isso, com seus 300 MW de potência, 70 hectares, 120 geradores de emergência a diesel e grande uso de água próximo a uma área reivindicada pelos Anacé. “O Redata ajuda a resolver o custo de entrada, especialmente pelo lado tributário”, explica Marcelo Crespo, coordenador do curso de Direito da ESPM. “Mas um data center desse porte não é só um projeto de tecnologia.”

A questão jurídica do Pecém envolve a consulta aos Anacé e a adequação do licenciamento à dimensão do projeto. Isso não gera, por si só, insegurança jurídica. Mas, para evitá-la, Quedevez defende “regulamentar com urgência os pontos deixados em aberto, coordenar os órgãos hoje fragmentados e atrelar o incentivo fiscal a metas verificáveis de transferência tecnológica”, para que o Redata seja parte de uma estratégia de longo prazo de desenvolvimento de IA no país.

 

O que fica para o Brasil?

De fato, água, energia, meio ambiente, pesquisa e atendimento ao mercado interno não podem ser fiscalizados como assuntos isolados, cada um em seu próprio órgão. Nos Estados Unidos, quando a implantação correu mais que a fiscalização, a reação veio depois, em moratórias e restrições. O Brasil deve antecipar essas discussões, em vez de deixar que o Judiciário as resolva caso a caso.

Reservar parte do processamento para o mercado brasileiro é importante, mas não garante a captura de valor. O mesmo vale para o investimento em P&D, que precisa resultar em pesquisadores, startups, fornecedores, patentes, tecnologias e novos negócios, e não apenas em despesas para manter o benefício fiscal.

Um data center no país não garante tecnologia brasileira. Os servidores podem estar aqui, enquanto chips, software, serviços de nuvem e modelos de IA são desenvolvidos e controlados no exterior. O Redata pode aumentar nossa capacidade computacional sem aumentar a autonomia tecnológica brasileira. Nesse ponto, a discussão sobre soberania digital deixa de ser retórica.

Ela não existe se for ignorado quem controla o território, a energia, a água e a conectividade que sustentam essa infraestrutura. O caso Pecém mostra que a dimensão física da IA pode pesar tanto quanto seus modelos e algoritmos. É nesse cruzamento que a discussão técnica chega à vida das pessoas.

“Há uma assimetria profunda entre ser um mero hospedeiro de data centers e consolidar-se como um ator relevante na cadeia global da inteligência artificial”, resume Crespo. “O Redata é o primeiro passo para o primeiro objetivo, enquanto a estratégia de longo prazo determinará o segundo.”

O Brasil não precisa escolher entre receber e recusar data centers, mas deve decidir o que quer conseguir com eles. Se vierem apenas servidores, energia consumida e impostos renunciados, teremos ampliado a infraestrutura digital. Por outro lado, se trouxerem também conhecimento, empresas, pesquisadores, propriedade intelectual, empregos qualificados e capacidade de decisão, teremos ampliado nossa soberania tecnológica.

 

Yamini Rangan, CEO do HubSpot, fala na palestra de abertura do Unbound, no dia 16 de setembro - Foto: Paulo Silvestre

Empresas começam a trocar o “excesso de IA” pela busca por resultados

By | Tecnologia | No Comments

Depois de dois anos se perguntando como adotar a inteligência artificial, muitas empresas começam a se questionar se não estariam usando IA demais para obter resultados de menos. Essa foi uma provocação feita pela CEO da plataforma de negócios HubSpot, Yamini Rangan, ao mencionar que, embora 90% das empresas já usem a tecnologia, apenas 6% alcançam resultados transformacionais com ela.

Os dados são de uma pesquisa apresentada durante o Unbound 26, evento global da empresa, que aconteceu em Boston (EUA), entre 16 e 18 de setembro e do qual participei. A conferência revelou uma mudança na forma como a companhia enxerga a IA, que deixa de ser apenas uma ferramenta capaz de produzir respostas para executar partes concretas do trabalho.

Rangan chamou esse momento de “fase de maximização”. Com medo de ficar para trás, empresas e profissionais respondem acumulando mais ferramentas, agentes e casos de uso. Mas, para ela, só trabalhar mais não está funcionando.

O estudo indica que as empresas que obtêm mais impacto não são as que multiplicam iniciativas com IA, mas as que se concentram em poucos casos de uso, ligados a resultados concretos. Em vez de valorizar apenas o “output”, como conteúdos produzidos pela máquina, a HubSpot propõe perseguir “outcomes”, como gerar demanda, fechar negócios e melhorar o atendimento ao cliente.

Mas a busca por produtividade não se encerra nos indicadores de marketing, vendas ou atendimento. Ela também redefine o que caberá às pessoas fazer, quais competências serão exigidas e como as empresas reorganizarão seus processos quando parte das tarefas burocráticas passar a ser executada por máquinas.


Veja esse artigo em vídeo:


Essa mudança aparece nos produtos anunciados pela HubSpot em Boston. O novo Breeze Assistant deixa de apenas responder a perguntas e passa a executar tarefas a partir de comandos em linguagem natural, enquanto o CRM pode registrar automaticamente informações de reuniões, chamadas e e-mails, reduzindo a necessidade de inserção manual de dados pelos profissionais.

A ambição, porém, não é apenas automatizar tarefas já existentes. A HubSpot chama de Growth Context o conjunto de dados sobre o negócio, a equipe e os clientes que alimenta seus agentes, enquanto o Context Home organiza essas informações e aponta lacunas a preencher. A proposta é redesenhar o fluxo de trabalho para que a IA opere com uma visão mais completa da empresa, e não simplesmente execute comandos isolados.

Para Duncan Lennox, diretor de Produto e Tecnologia da HubSpot, a mudança vai além de tornar cada profissional mais eficiente. Segundo me explicou, “estamos falando sobre gerenciar equipes híbridas de agentes e de pessoas”. Ele sugere que a IA deve absorver a parte repetitiva e administrativa das rotinas para devolver aos profissionais tempo para atividades de maior valor.

Mas é preciso saber se as pessoas receberão mesmo isso. Helen Russell, diretora de Pessoas da HubSpot, reconhece ganhos de produtividade entre indivíduos e equipes, mas disse para mim que as empresas ainda têm dificuldade para medir quanto desses ganhos se converte em impacto para a organização. E, no final, se a IA economiza tempo dos profissionais, é preciso questionar se eles ficarão com esse tempo ou se ele será “apropriado” pela empresa.

No Brasil, essa busca por resultados aparece em um cenário de forte adesão à tecnologia. Shelley Pursell, diretora sênior de Marketing para América Latina e Ibéria da HubSpot, afirmou que 89% dos profissionais de marketing pesquisados já usam IA, enquanto 43% dos respondentes brasileiros avaliaram de forma muito positiva a contribuição dos agentes. Segundo ela, a América Latina precisa agora sair da experimentação para aplicações capazes de gerar valor concreto.

 

Quando a IA vira um desserviço

Mas os agentes de IA não corrigem problemas que já existem nas empresas. Sem dados confiáveis e contexto sobre clientes, processos e equipes, podem até reproduzir erros em maior velocidade e criar uma experiência ruim para consumidores. Pursell resumiu para mim que, sem essas bases, a tecnologia pode se tornar “um desserviço para o que se está tentando fazer”.

Resta saber, portanto, até onde os agentes devem ir. Por isso, a HubSpot afirma ter construído uma camada de governança, observabilidade e permissões, com supervisão humana no circuito. A abordagem deve começar por não confiar no agente e ampliar sua autonomia conforme ele demonstra consistência.

A corrida pelos agentes ainda precisa responder como uma marca se diferenciará da outra se todas as empresas puderem produzir campanhas, e-mails, propostas, análises e atendimento com tecnologias semelhantes. A automação pode reduzir custos e acelerar processos, mas também torna mais importante aquilo que não está na ferramenta, como identidade, contexto, repertório e capacidade de julgamento.

É nesse ponto que o julgamento humano ganha ainda mais importância. “De vez em quando, recebo algo em que fica muito evidente que a pessoa usou IA e não revisou o trabalho”, contou Russell. Por isso, quanto mais a máquina ganha capacidade de executar, mais importante se torna a capacidade humana de decidir o que ela deve fazer.

Portanto, se a primeira fase da IA empresarial foi marcada pela busca por velocidade, a próxima deve ser definida pela capacidade de decidir o que fazer com isso. Não basta produzir mais, vender mais ou atender mais rapidamente. À medida que os agentes passam a ocupar uma parte maior da operação, identidade, julgamento e confiança tornam-se ainda mais importantes.

A vantagem competitiva talvez não esteja em ter mais agentes, mas em saber quais decisões não devem ser terceirizadas a eles. Afinal, quando todas as marcas tiverem acesso às mesmas máquinas, o que continuará diferenciando uma empresa da outra será justamente aquilo que ela decidir manter humano.


Assista às íntegras das entrevistas em vídeo clicando nos links a seguir:

Duncan Lennox, diretor de Produto e Tecnologia da HubSpot

Shelley Pursell, diretora sênior de Marketing para América Latina e Ibéria da HubSpot

Helen Russell, diretora de Pessoas da HubSpot

 

Apresentação da São Paulo Escola de Dança durante o segundo dia do SAP NOW AI Tour Brazil 2026 - Foto: reprodução

Empresas brasileiras entram na fase pragmática da IA, mas ainda sofrem para dominá-la

By | Tecnologia | No Comments

As empresas brasileiras esperam obter US$ 24,8 milhões de retorno com agentes de inteligência artificial nos próximos dois anos, mas apenas 3% delas se sentem totalmente preparadas para implantar e ampliar essa tecnologia. A contradição revela o estágio atual da IA no país, com expectativas sobre resultados que crescem rapidamente, mas com preparo ainda incipiente para lidar com ela.

O retrato desse momento ganhou destaque no SAP NOW AI Tour Brazil 2026, que aconteceu em São Paulo nos dias 9 e 10 de setembro. O evento colocou, no centro da discussão, o uso da IA nos negócios, os agentes, a integração de dados e a busca por valor concreto com essa tecnologia.

Essa mudança também aparece no estudo “The Value of AI 2026”, uma parceria entre a SAP e a Oxford Economics, apresentado no congresso. A pesquisa ouviu 2.600 executivos de 13 países, incluindo 200 brasileiros.

Por aqui, o levantamento aponta que o investimento médio em IA já chegou a US$ 20,8 milhões neste ano, ante US$ 14,2 milhões na edição anterior, e deve crescer 46% até 2028. O retorno médio passou de 16% para 19%, equivalente a US$ 5,5 milhões, e deve chegar a 38% em dois anos.

Entre expectativas e capacidades, vale perguntar como empresas podem projetar retornos cada vez maiores com uma tecnologia que ainda não integram bem às próprias operações. Nesse sentido, o problema deixa de ser o potencial da IA e passa a ser a capacidade de cada organização de efetivamente capturá-lo.


Veja esse artigo em vídeo:


Essa tensão aparece nos próprios indicadores do levantamento. Embora 64% das empresas brasileiras estejam satisfeitas com o retorno atual da IA, 65% não estão convencidas de que suas iniciativas entregam todo o potencial da tecnologia. Ou seja, já existe retorno para justificar novos aportes, mas também há a sensação de que muito valor segue se perdendo pelo caminho.

De fato, uma demonstração de IA pode ser impressionante e, ainda assim, não resolver nenhum problema relevante. “A diferença entre uma solução que fica no genérico e outra que entrega valor está no contexto”, explica Christian Geronasso, estrategista de IA da SAP Brasil. Segundo ele, sem uma necessidade concreta e uma meta clara, mesmo uma proposta tecnicamente sofisticada pode produzir pouco valor.

Um dos principais obstáculos está em algo bem menos sofisticado do que os próprios modelos de IA. “O desafio agora é conectar a IA aos dados e aos processos que realmente movem o negócio”, afirma Rui Botelho, presidente da SAP Brasil. “Hoje, 75% dessas empresas apontam qualidade ou disponibilidade dos dados como um dos fatores que impedem o maior retorno com a IA nos seus projetos.”

A fragmentação aparece na forma como a automação avança. No momento, 26% das tarefas nas empresas brasileiras já são apoiadas por IA, percentual que deve chegar a 44% em dois anos. Mas Botelho alerta que apenas 18% dos negócios já adotam a tecnologia de maneira estratégica e integrada.

O problema está aparecendo no cotidiano, com 80% das empresas brasileiras enfrentando resultados de baixa qualidade da IA pelo menos ocasionalmente, provocando retrabalho, atrasos ou acúmulo de demandas. Além disso, 78% tiveram que adaptar sua forma de trabalho por causa desses resultados.

 

O fator humano

Diante desse cenário, a resposta não pode ser apenas técnica. “A tecnologia desempenha um papel fundamental, mas é preciso saber como capacitar e requalificar as pessoas, que tipo de infraestrutura colocar em prática para ajudar os funcionários a se transformarem”, acrescenta Gina Vargiu-Breuer, diretora global de Pessoas e Relações Trabalhistas da SAP. “A IA está mudando completamente a maneira como trabalhamos e precisamos repensar tudo.”

Essa transformação também muda a dimensão da responsabilidade. Quando os agentes deixam de apenas responder a solicitações e passam a executar ações, torna-se necessário saber o que podem fazer, quem autoriza suas decisões e como seus atos podem ser supervisionados e auditados.

Fora das planilhas e dos centros de operação, a IA também começa a ocupar territórios menos óbvios. Por exemplo, a São Paulo Escola de Dança está desenvolvendo com a SAP um “Agente de Ensaio”, capaz de apoiar a experimentação de diferentes formações de bailarinos, dimensões de palco, movimentos e elementos de dramaturgia, relacionando essas escolhas às sensações que a coreografia pretende provocar no público.

A tecnologia não pretende substituir o olhar do coreógrafo nem a interpretação dos bailarinos. Textos e desenhos registrados pelos artistas em um diário de bordo alimentam o contexto da ferramenta, mostrando que gerar valor também pode significar abrir possibilidades antes difíceis de testar.

Isso mostra que o investimento, por si só, não garante resultados. A IA precisa se tornar parte coerente de processos, dados e decisões, sob pena de transformar uma promessa de eficiência em mais uma camada de complexidade.

Mesmo com avanços tão grandes da IA, as empresas precisam ser capazes de extrair valor dessa tecnologia sem perder qualidade, responsabilidade e autonomia humana. A próxima fase da IA premiará, portanto, quem souber combinar tecnologia, contexto e pessoas para produzir resultados que façam sentido.

 

As redações atuais combinam o trabalho jornalístico tradicional com o apoio da inteligência artificial – Ilustração: Paulo Silvestre

O jornalismo precisa usar a IA enquanto se protege dela

By | Jornalismo, Tecnologia | No Comments

Em um mundo em que a inteligência artificial insiste em dar respostas “mastigadas” para tudo, precisamos tomar cuidado para que aqueles que se apresentam como nossos aliados não nos apunhalem pelas costas.

Nesta semana, debati sobre isso em um evento que analisava a influência da mesma IA no jornalismo. Como praticamente todos os setores do mercado, a comunicação vem sofrendo uma profunda influência dessa tecnologia. Mas, ao contrário de outros negócios, que podem vender mais produtos se aparecerem nas respostas dos chatbots, a imprensa se enfraquece com essa exposição.

Há efetivamente uma corrida para que mensagens comerciais sejam “aprendidas” pela IA, para que recomende produtos e serviços. Isso tende a se fortalecer à medida que as pessoas usam esses sistemas para pedir recomendações sobre qualquer coisa.

Com o jornalismo, acontece o contrário. Quanto mais os veículos de comunicação entregam seus conteúdos às IAs, mais elas lhes roubam o público. As pessoas se informam (ou se deformam) cada vez mais pelos chatbots, que resumem notícias de maneira muito convincente, mesmo quando estão completamente errados.

Não há qualquer retorno digno de menção das plataformas para os produtores de conteúdo. Seus créditos aparecem timidamente nas respostas, ou nem isso. Assim, o público deixa de saber quem apurou a notícia e não visita mais os sites jornalísticos.

De forma alguma, proponho que o jornalismo ou qualquer outro negócio deixe de usar essa tecnologia. Mas é preciso cuidar para que esse uso não permita que as big techs sequestrem o relacionamento com seus clientes.


Veja esse artigo em vídeo:


Se bem usada, a IA pode facilitar enormemente o trabalho dos jornalistas e até permitir a criação de novos produtos. Não faz sentido resistir à tecnologia. Porém, não se pode dar um passo adiante com seus benefícios e quatro para trás em razão desse relacionamento desequilibrado entre imprensa e big techs.

Essas gigantes de tecnologia também criaram uma armadilha em que a imprensa cai alegremente. Considerando que as pessoas estão buscando mais notícias na IA, quanto mais jornalismo confiável estiver disponível para esses sistemas, maiores as chances de eles responderem com informação correta em vez de desinformação. E os jornalistas devem informar bem a população, qualquer que seja o meio.

Por mais que as plataformas de IA procurem responder a qualquer coisa que as pessoas lhes perguntem, elas trabalham com probabilidades e produzem respostas convincentes sem que haja garantia de correção. Ao aumentar o jornalismo na sua base, pelo menos cresce a chance de suas respostas serem verdadeiras.

As eleições acendem um severo alerta vermelho. Na semana passada, a organização internacional de responsabilidade corporativa Ekō publicou um levantamento que mostra que o Grok, a Meta AI, o ChatGPT e o Gemini geram respostas com erros grosseiros sobre políticos e o processo eleitoral brasileiro, e até recomendam votos, o que é proibido por lei. Isso é gravíssimo, pois, da mesma forma que as pessoas usam essas plataformas para pesquisar um novo celular, também as usarão para escolher em quem votar.

Ironicamente, o jornalismo está cometendo o erro de entregar seu conteúdo a plataformas digitais de maneira ingênua pela terceira vez, e ele fica sempre mais grave. Na primeira, os buscadores se tornaram a porta de entrada para o noticiário, mas ainda levavam os usuários para os sites jornalísticos. As redes sociais pioraram o quadro, com resumos das notícias aparecendo nos feeds, mas ainda com a autoria clara. Agora, a IA reduz drasticamente o tráfego e a referência.

A cada um desses erros, a imprensa perdeu um pouco mais da sua capacidade de moderar o debate público, até que restasse muito pouco dessa função. Agora, a IA deve reduzir isso a níveis insignificantes.

 

Mordendo a mão que a alimenta

O jornalismo precisa de audiência para financiar seu trabalho, enquanto a IA precisa de informação confiável para melhorar suas respostas. Aparentemente, há uma relação virtuosa, mas os interesses não são congruentes. Quanto melhor for o conteúdo jornalístico incorporado pela IA, melhores tendem a ser suas respostas. Mas isso diminui o incentivo para o usuário consultar a fonte original.

A discussão sobre IA e comunicação costuma girar em torno de direitos autorais, remuneração e empregos. Mas não se pode ignorar o impacto na marca jornalística, que representa uma promessa de qualidade, método, linha editorial, memória e confiança. Quando o usuário entra em um site jornalístico, ele sabe onde está. Em uma plataforma de IA, ele só percebe a marca dela, fortalecida pela credibilidade da imprensa que a alimenta.

Um estudo da Universidade Villanova (EUA), publicado no dia 5 de agosto na revista científica “Judgment and Decision Making”, ajuda a compreender isso. Apesar de não avaliar jornalismo, e sim textos de ficção, concluiu que histórias feitas pelo ChatGPT são mais bem avaliadas em qualidade e envolvimento do que as escritas por pessoas. Segundo os autores, isso acontece porque os textos da IA são mais agradáveis e fáceis de entender, mesmo sendo genéricos e pouco inventivos.

Portanto, não é o caso de a imprensa impedir que a IA copie seu conteúdo. Os veículos de comunicação precisam preservar o valor percebido da autoria em um ambiente no qual o público talvez não consiga distinguir quem produziu o texto, ou talvez nem se importe com isso.

Eles devem tratar seus arquivos, reportagens e conhecimento acumulado como ativos estratégicos. Isso significa negociar não apenas pagamento pelo conteúdo, mas também atribuição clara, possibilidade explícita de acesso à fonte original, preservação da identidade editorial, mecanismos de descoberta e, principalmente, formas de transformar a exposição em relacionamento. Os acordos com essas plataformas devem necessariamente preservar e fortalecer a relação com o público.

O jornalismo precisa estar dentro da inteligência artificial, mas não pode desaparecer atrás dela. Depois de entregar aos buscadores a distribuição e às redes sociais a atenção, os veículos não podem cair nessa armadilha de novo. Seu desafio é garantir que, ao aprender com o jornalismo, a IA não faça o leitor esquecer de quem verdadeiramente produziu a informação, o que é essencial não apenas para os veículos, mas para o desenvolvimento da democracia.

 

Proibição de lives no Discord esconde um problema sistêmico das redes sociais

By | Tecnologia | No Comments

A Agência Nacional de Proteção de Dados (ANPD) determinou na quarta (12) a suspensão preventiva das transmissões ao vivo do Discord no Brasil, depois que uma adolescente se suicidou em uma live. O prazo para cumprir a determinação vence hoje (17), mas a empresa já pediu prorrogação. O bloqueio tem provocado polêmica, mas traz apenas um lampejo sobre a pouca disposição das redes sociais de resolver um problema sistêmico que elas criaram e que está na essência desses serviços.

Além do Discord, plataformas digitais como Roblox, TikTok, Instagram, Telegram e WhatsApp possuem características como anonimato relativo, comunicação privada, formação de comunidades fechadas, recomendação de conteúdo e mecanismos de viralização. Apesar de suas arquiteturas serem diferentes, tudo isso dificulta a supervisão adulta do que crianças e adolescentes fazem online.

Nesse sentido, a suspensão das lives funciona como uma medida emergencial necessária, mas não resolve o verdadeiro problema, que é estrutural. Representantes do próprio Discord disseram que, com o bloqueio, os criminosos simplesmente migrarão para outro serviço, e que o grupo que coagiu a menina de 13 anos a se matar se organizou em outras redes.

Isso sugere que regular uma ou outra plataforma digital nunca será suficiente, pois as ameaças que elas embutem estão disseminadas, em algum grau, em todos esses serviços. Medidas razoáveis, porém enérgicas, devem ir além de buscar saber qual tecnologia é perigosa. O que deve ser considerado é qual arquitetura cria um risco específico, quem deve ser responsável por mitigá-lo e como isso deve ser feito.

O fato de um problema ser difícil de resolver não nos permite ignorá-lo. Pelo contrário, isso exige uma ação conjunta e vigorosa da sociedade em busca de uma solução real, fugindo dos tradicionais discursos corporativos inócuos. E qualquer que seja a solução, ela exigirá mudanças estruturais nas redes sociais.


Veja esse artigo em vídeo:


O caso que deflagrou essas ações aconteceu no dia 22 de julho. A adolescente, moradora de Naviraí (MS), foi induzida por outros jovens, durante uma live restrita a quem tinha convite, a atos de automutilação, que culminaram na sua morte. A sala permaneceu no ar por quase duas horas antes de ser encerrada, após notificação da polícia. Cinco menores foram apreendidos e um homem de 18 anos foi preso.

A ANPD determinou a suspensão preventiva das lives e de recursos de vídeo do Discord, não do serviço inteiro. A medida vigorará até que a empresa comprove ter implantado proteções efetivas para crianças e adolescentes, diante de episódios de violência, assédio e indução à automutilação ou ao suicídio, sob pena de multas que podem chegar a R$ 50 milhões por infração.

O Discord pediu a revogação da medida e contestou a competência da ANPD para determinar a suspensão, classificando-a como prematura e rebatendo a ideia de omissão deliberada. A empresa afirma que já adotava medidas de segurança e que o caso envolveu atividades criminosas também em outras plataformas. Disse ainda que está tomando providências para cumprir a ordem, mas “sob protesto”.

Segundo a empresa, o pedido decorre da complexidade de bloquear as transmissões apenas no Brasil. Ela afirma que três dias úteis não são suficientes para implementar e testar uma mudança dessa magnitude, e que a ANPD não forneceu diretrizes técnicas suficientemente claras sobre o que deveria ser bloqueado. Os representantes pediram, então, 15 dias úteis para implantação e outros 15 para avaliação de seus resultados.

Há ainda outro aspecto fundamental nesse caso que exige atenção. Os próprios representantes do Discord admitiram que havia indícios de risco na live, mas eles não foram suficientes para disparar um “alerta confiável”.

 

Inteligência artificial insuficiente

Plataformas como o Discord possuem sistemas de inteligência artificial para identificar riscos em conversas. Mas, na live em que a adolescente se matou, a IA atribuiu apenas 0,12 ponto, abaixo do 0,95 necessário para enviá-la para revisão humana. Segundo a empresa, o servidor era novo e pequeno, o que dificultou a detecção.

No sábado (15), o vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, disse, ao jornal “O Globo”, que a resposta da plataforma falhou. “Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança”, admitiu.

Isso desmonta a narrativa da indústria tecnológica de que basta criar sistemas cada vez melhores de IA para detecção automática e moderação para resolver o problema. Essa confiança excessiva em sistemas limitados representa um risco aos usuários.

Precisamos saber se aceitamos as decisões de uma plataforma sobre remover um conteúdo potencialmente perigoso e preservar milhões de interações legítimas. Falsos positivos são inconvenientes, mas falsos negativos podem ser fatais.

Simplesmente aumentar a sensibilidade do sistema pode criar uma espécie de censura algorítmica, com bloqueios injustificados e vigilância excessiva. Mas o problema pode ser mitigado com uma extensa avaliação humana dos conteúdos sinalizados pelos robôs, liberando o que for legítimo.

Isso exigiria um custoso exército de avaliadores, mas é o preço a se pagar para oferecer um serviço que cria riscos elevados a seus usuários. A segurança digital é um problema de decisão, e não apenas de tecnologia.

Na entrevista, Hoffman disse que “o verdadeiro sucesso é deter os grupos extremistas completamente, e não apenas expulsá-los do Discord”. De fato, seria lindo se todas as pessoas usassem as plataformas digitais de maneira cândida. Mas a proposta implica em erradicar a maldade na raça humana, o que é infinitamente mais difícil que bloquear recursos em sistemas.

Sem isso, casos como esse continuarão acontecendo. A IA não falhou por não ser competente o bastante para ver o risco, mas porque alguém definiu que interromper uma violência em andamento exigia mais evidências do que ela era capaz de fornecer.

Esse caso está sendo o primeiro grande teste do ECA Digital, que vale desde o dia 17 de março. A sociedade precisa decidir se uma empresa que não consegue identificar e intervir a tempo em uma live de alto risco deve ser autorizada a oferecer esse recurso a crianças e adolescentes.

 

IA redefine a cibersegurança diante de invasões inevitáveis

By | Tecnologia | No Comments

Há um ditado infame na cibersegurança que diz que existem dois tipos de empresas: as que já foram invadidas e as que acham que ainda não foram invadidas. Só acham!

Com a explosão da inteligência artificial, as equipes de defesa de sistemas ficaram mais pressionadas. Mas supor que esse seja o único problema simplifica perigosamente o cenário atual, que dá a essa anedota uma nova dimensão.

Não dá mais para achar que o sucesso em cibersegurança se medirá pela expectativa de nunca ser invadido. De agora em diante, a eficiência dependerá da capacidade de lidar bem com as consequências de um ataque.

Essa foi uma das mensagens da Conferência de Segurança e Gestão de Risco do Gartner, que aconteceu nos dias 4 e 5 de agosto, em São Paulo. A IA já não ameaça apenas ao criar códigos maliciosos ou potencializar ataques de engenharia social. Agora, agentes de IA já são capazes de explorar vulnerabilidades, identidades e credenciais para acessar sistemas.

Foi o que aconteceu em meados de julho, quando um agente movido por modelos da OpenAI (criadora do ChatGPT) invadiu a Hugging Face. Durante uma avaliação de segurança, ele escapou do ambiente de testes, explorou falhas e acessou credenciais que lhe permitiram avançar pela infraestrutura da plataforma.

Nesse cenário, em vez de nos preocuparmos com como impedir que invadam nossa empresa, precisamos perguntar o que precisa continuar funcionando mesmo em um ambiente hostil.


Veja esse artigo em vídeo:


Segundo o Gartner, 84% dos executivos veem a cibersegurança como um risco para os negócios, enquanto 98% acreditam que as ameaças cibernéticas aumentarão nos próximos dois anos. Isso combina com conclusões do Fórum Econômico Mundial, que indicaram em janeiro que 87% dos líderes veem as vulnerabilidades da IA como o risco de cibersegurança que mais cresceu.

“Se o objetivo passa a ser limitar o impacto, manter as operações críticas e se recuperar rapidamente, então a mitigação torna-se funcionalmente equivalente à prevenção”, afirma Oscar Isaka, diretor analista sênior do Gartner. “Ao contrário da segurança absoluta, a resiliência pode ser testada, praticada, medida e aprimorada ao longo do tempo”, acrescenta.

Isso ganha ainda mais importância com os agentes de IA se transformando em uma “força de trabalho invisível” nas empresas. Longe de serem ferramentas inertes, eles pesquisam, produzem código, acionam sistemas e movimentam dados com autonomia crescente. Por isso, quando erram ou são manipulados, fazem isso em velocidade de máquina, podendo causar grandes danos antes que alguém perceba.

Um chatbot responde ao que lhe pedimos, enquanto um agente toma decisões e pode executar ações sem confirmação humana a cada etapa. Nessa autonomia, nascem os problemas mais delicados, como permissões mal calibradas e decisões inesperadas.

O Gartner projeta que as empresas terão até 80 vezes mais identidades de máquina do que humanas. “Os invasores são como a água, geralmente seguindo o caminho mais fácil para entrar”, explica Charlie Winckless, vice-presidente analista do Gartner. “Muitas vezes, esse caminho é a identidade.”

A questão deixa de ser “quem é você?” e passa a ser “quem ou o que está agindo em seu nome, com qual autorização e para fazer o quê?”

 

Milhares de “novos funcionários”

Durante décadas, a segurança da informação tentou controlar o perímetro da organização. Agora, a própria empresa cria sistemas, conexões e agentes mais rapidamente do que consegue inventariá-los. A ironia é que a indústria vende automação para acelerar essa adoção, enquanto oferece novas camadas de controle para conter os riscos que essa mesma aceleração produz.

“Se você é uma organização com 1.000 pessoas, rapidamente passa a ser uma com 6.000, porque, em média, cada funcionário utilizará cinco agentes diferentes”, adverte Paul Furtado, vice-presidente analista do Gartner. Logo, é preciso aplicar o princípio do “menor privilégio” também aos agentes, para que nenhum deles atue além do escopo pretendido.

A empresa que remove todos os controles para adotar IA não está inovando, e sim se curvando à pressão para usar IA a qualquer custo. A alternativa é tratar segurança como desenho de ambientes de experimentação, não como veto. A meta é construir uma “fricção inteligente”, eliminando barreiras que não protejam e mantendo as que evitem que a velocidade vire imprudência.

Para isso, a inovação em segurança precisa deixar de ser tratada como um trabalho extra, espremido entre incidentes e urgências. Os líderes devem reservar tempo para experimentar, desenvolvendo competências e resiliência. Inovar, nesse caso, não pode ser um projeto paralelo, e sim parte do trabalho de proteger a organização.

A vantagem competitiva, portanto, não estará em usar IA sem limites, mas em saber quais limites permitem que ela seja adotada com segurança e continuidade. Nessa nova realidade, governar a velocidade pode ser tão estratégico quanto acelerar.

Uma empresa responsável não colocaria milhares de pessoas para trabalhar sem função, supervisão, limites de acesso ou possibilidade de desligamento. Da mesma forma, precisamos exigir esse controle dos agentes de IA. Eles podem merecer, afinal, confiança, mas apenas se as empresas estiverem conscientes e preparadas para confiar a eles decisões que podem afetar seu próprio futuro.

 

Quando a publicidade entra pela porta do ChatGPT, sua aura de neutralidade sai pela janela

By | Tecnologia | No Comments

A OpenAI confirmou que passará a exibir anúncios ao longo das conversas do ChatGPT com seus usuários no Brasil, nas próximas semanas. Parte do mercado anseia embevecido por esse inventário virtualmente infinito e com poder de convencimento sem precedentes. Mas a novidade pode transformar uma plataforma vista como neutra em um vendedor opaco, capaz de se valer de trocas íntimas para influenciar escolhas decisivamente, sem que o usuário perceba.

Naturalmente, empresas devem aumentar suas receitas, especialmente quando são muito deficitárias, como é o caso dessas grandes plataformas de inteligência artificial. Ainda assim, a ética propõe que nem tudo que possa ser feito deva ser feito.

Indicar o que é publicidade resolve um problema de formalização, mas trai a confiança que a própria interface conversacional criou antes de qualquer anúncio aparecer. Quando a resposta chega em primeira pessoa, articulada como julgamento de uma voz que parece pensar com o usuário, a autoridade já está formada quando a peça surge logo abaixo, ainda contaminada por essa proximidade.

O ChatGPT acabou de atingir 1 bilhão de usuários no mundo. Os anúncios na plataforma foram lançados nos EUA em fevereiro, e depois expandidos para Canadá, Austrália e Nova Zelândia. Agora, usuários do Brasil, México, Reino Unido, Japão e Coreia do Sul também verão anúncios nos planos gratuito e Go (o mais barato).

Com a IA generativa, as big techs estão levando a humanidade a um novo patamar de produtividade e desenvolvimento, o que merece aplausos. Mas nem esse feito lhes dá carta branca para fazerem o que bem entenderem. É no mínimo hipócrita ignorar os evidentes riscos de manipulação nesse lançamento.


Veja esse artigo em vídeo:


Por enquanto, a OpenAI adota uma política bastante restritiva. Os anúncios são limitados a categorias como bens de consumo, serviços locais, viagens, entretenimento, educação e produtos digitais. Setores sensíveis, como saúde, política, apostas, álcool, tabaco, drogas recreativas e conteúdo adulto permanecem proibidos. A própria empresa afirma, porém, que essas categorias “podem se expandir ao longo do tempo”, à medida que seus sistemas de revisão e conformidade amadureçam.

Essa ressalva merece atenção. As grandes plataformas digitais costumam flexibilizar limites diante de oportunidades de crescimento da receita. Não há evidências de que a OpenAI seguirá esse caminho, mas tampouco há garantias de que as restrições atuais permanecerão. Diante do histórico de outras big techs, que repetidamente ampliaram a exploração comercial de seus serviços em detrimento da experiência dos usuários, o ônus da prova recai sobre quem promete que, desta vez, será diferente.

O ChatGPT exibe anúncios claramente identificados ao final de algumas respostas. A seleção leva em conta contexto da interação e alguns sinais de uso da plataforma, sem compartilhar conversas ou dados pessoais com os anunciantes. A empresa vem ampliando gradualmente os formatos e as ferramentas para as agências.

A recepção dos anunciantes tem sido cautelosamente entusiasmada. Há interesse porque o ChatGPT concentra intenção alta e contexto de compra, mas ainda existe hesitação por falta de histórico, transparência limitada e dúvidas sobre mensuração e conversão real. Apesar do apetite que o canal desperta, o mercado vem tratando os primeiros testes como experimento, não como mídia já madura.

Entre os usuários, muitos temem que a publicidade comprometa a confiança em uma ferramenta de decisões pessoais e profissionais. Já reguladores, especialmente na Europa e no Canadá, acompanham de perto os impactos sobre privacidade, transparência e concorrência, exigindo garantias de que a segmentação comercial não amplie riscos ao tratamento de dados nem reduza a autonomia dos usuários.

 

Mudança profunda na publicidade

Ainda há poucos estudos acadêmicos que tratem do tema, pelo seu ineditismo.

Um dos mais interessantes foi publicado em maio por Jingyi Qiu e Qiaozhu Mei, da Universidade de Michigan (EUA). Eles argumentam que a publicidade em plataformas de IA representa uma mudança estrutural na relação entre empresas e consumidores. Em vez de simplesmente exibir anúncios, a IA pode incorporar interesses comerciais ao próprio processo de construção das respostas, influenciando recomendações de forma sutil e personalizada. Para os autores, o debate deixa de ser se há anúncios e passa a ser como garantir que incentivos econômicos não passem a moldar, de maneira invisível, os critérios usados pela IA para orientar as decisões dos usuários.

Outro estudo da mesma universidade, publicado por Brian Jay Tang e colegas em dezembro, mostra que a publicidade em interfaces conversacionais se beneficia da relação de confiança construída ao longo do diálogo com a IA. Em experimentos com usuários, os pesquisadores observaram que a conversa contínua reduz o distanciamento crítico normalmente aplicado à publicidade, tornando anúncios personalizados mais persuasivos e, muitas vezes, menos perceptíveis, mesmo quando são claramente identificados como conteúdo patrocinado, como faz o ChatGPT.

Por fim, Addison Wu e colegas das universidades americanas de Princeton e de Washington publicaram em abril um artigo em que argumentam que o maior risco da publicidade em plataformas de IA não é a existência de anúncios, mas a possibilidade de interesses comerciais influenciarem recomendações aparentemente neutras. Os autores observaram que incentivos econômicos podem alterar respostas mesmo sem misturar anúncios ao texto principal, o que relativiza a ideia da OpenAI de separar publicidade das respostas. O estudo reforça a necessidade de mecanismos de transparência, auditabilidade e fiscalização capazes de verificar quando uma recomendação continua sendo técnica e quando passa a ser comercial.

A decisão de o ChatGPT ou qualquer outra plataforma de IA exibir anúncios é prerrogativa exclusiva de seus desenvolvedores. Mas a sociedade precisa de garantias de que uma tecnologia cada vez mais usada para estudar, trabalhar, consumir e tomar decisões preserve a independência de suas recomendações quando seu modelo de negócios passa a depender justamente da influência sobre essas decisões. Essa discussão precisa começar antes que a prática se torne irreversível.

Há pelo menos 20 anos, tentamos identificar publicidade disfarçada de conteúdo. Agora precisaremos aprender a reconhecer quando interesses comerciais tentam influenciar aquilo que uma inteligência artificial recomenda. Se falharmos nessa tarefa, talvez descubramos tarde demais que o principal produto vendido por essas plataformas nunca foram anúncios, mas a nossa confiança.

 

Modelos da OpenAI “rebeldes” expõem os riscos da confiança excessiva na IA

By | Tecnologia | No Comments

Ao contrário do que alguns catastrofistas de plantão se apressaram a dizer, a recente invasão da plataforma colaborativa para modelos e aplicações de IA Hugging Face por sistemas da OpenAI não significa que a inteligência artificial se tornou “consciente” e muito menos que estamos na aurora de uma “revolta das máquinas”. Mas o fato não pode ser ignorado, pois revela que a confiança excessiva na IA pode fragilizar cuidados essenciais com sistemas cada vez mais poderosos, cujos comportamentos nem seus próprios desenvolvedores conseguem explicar plenamente.

Há alguns dias, durante um teste de cibersegurança, uma combinação de modelos da OpenAI, incluindo o recente GPT‑5.6 Sol e outro ainda não lançado, concluiu que, melhor que construir uma solução para um desafio que lhe foi proposto, seria encontrar uma maneira de escapar do ambiente de desenvolvimento e procurar uma resposta pronta na Internet. E foi exatamente isso que fez.

Talvez o mais irônico seja que a IA não teria “desobedecido” seus desenvolvedores, e sim sido “eficiente demais” na busca da solução. É como um pai exigir que o filho tire uma boa nota em uma prova. Então, durante o exame, ao perceber que o professor foi ao banheiro, o aluno encontra uma maneira de sair da sala, entrar na secretaria, roubar o gabarito, voltar para sua carteira e, assim, tirar dez no teste.

Esse foi o primeiro ataque realizado por agentes de IA sem intervenção humana. Longe de ser uma anomalia, ele pode indicar uma realidade emergente em que esses sistemas passem a se comportar de maneira indesejada, não porque sejam intencionalmente maus, mas porque os desenvolvedores não conseguirão mais acompanhar sua evolução.

Já passou da hora de as ferramentas de governança para desenvolvimento e uso seguros acompanharem esse ritmo. Pisar fundo no acelerador sem ter um pedal de freio ao lado é muito perigoso, tanto para carros quanto para a inteligência artificial.


Veja esse artigo em vídeo:


Para escapar da “sandbox”, o ambiente de testes em que estavam, os modelos da OpenAI descobriram uma vulnerabilidade desconhecida do programa que servia apenas para instalar softwares necessários ao teste. Uma vez na Internet, eles “deduziram” que a Hugging Face teria informações úteis sobre o que estavam tentando resolver. Encontraram então brechas da plataforma para invadi-la.

A empresa disse que não houve comprometimento de modelos públicos nem manipulação de conteúdos disponíveis aos usuários, com o acesso ocorrendo apenas a uma parte limitada de sua infraestrutura. Os sistemas comprometidos foram reconstruídos, as credenciais substituídas e as vulnerabilidades corrigidas, em um trabalho conjunto com a OpenAI.

Vale ressaltar que nem a OpenAI nem a Hugging Face tentaram “varrer o incidente para baixo do tapete”. Pelo contrário, deram ampla publicidade ao que aconteceu e às soluções adotadas. Isso ajuda a minimizar a possibilidade de que o problema aconteça novamente e a indicar caminhos para que seja resolvido.

Se um modelo desse tipo tivesse acesso a sistemas mais sensíveis, as consequências poderiam ser muito mais graves. Em teoria, um agente com autonomia suficiente poderia interromper serviços essenciais, provocar prejuízos financeiros expressivos, comprometer infraestruturas críticas ou facilitar ataques cibernéticos sofisticados.

Assim como na indústria farmacêutica ou na aviação, desenvolvedores de IA não podem apenas confiar que o sistema fará a coisa certa. Eles precisam criar diversos mecanismos de segurança para limitar a sua ação caso algo fuja do esperado. No incidente com a Hugging Face, algumas dessas restrições haviam sido reduzidas justamente para avaliar as capacidades do modelo, o que viabilizou a invasão.

 

“Desalinhamento” com humanos

Esse caso preocupa porque expõe um “problema de alinhamento” fora do ambiente de testes. Isso acontece quando a IA busca cumprir a meta que recebeu, mas de uma forma que os desenvolvedores não pretendiam. Em vez de desobedecer, ela opera de maneira excessivamente literal e criativa, com estratégias indesejadas por pessoas, em um fenômeno conhecido como “reward hacking”. Por isso, além de tornar a IA mais inteligente, as big techs precisam garantir que ela continue perseguindo objetivos de forma compatível com valores, regras e intenções humanas.

Outro aspecto relevante nesse caso é que, para conter o ataque, a Hugging Face precisou usar o GLM-5.2, um modelo de IA aberto da startup chinesa Z.ai. Isso aconteceu porque os modelos proprietários americanos, inclusive os da OpenAI, se recusaram a ajudar pelas suas travas de segurança, que ironicamente achavam que a tentativa da vítima de se defender fosse, na verdade, um ataque.

Isso “coloca um bode na sala”, pois as big techs sempre venderam a ideia de que os modelos fechados seriam mais seguros por terem travas rigorosas. Já os modelos abertos eram criticados por oferecer mais liberdade e, assim, mais riscos. Mas foi justamente isso que permitiu à Hugging Face responder ao incidente. Fica a dúvida sobre quando a proteção passa a limitar a capacidade de responder a um ataque.

Esse caso levanta um debate ético sobre se e como uma IA tão poderosa pode continuar sendo desenvolvida. Há aqueles que pedem restrições mais fortes para sistemas cujo comportamento não é plenamente compreendido, enquanto outros rejeitam fortemente qualquer obstáculo a avanços científicos e tecnológicos. No meio do caminho, há um terceiro grupo que defende a pesquisa, mas exige governança e segurança proporcionais ao risco.

Os principais pesquisadores em IA do mundo, como Yoshua Bengio, da Universidade de Montréal (Canadá), Geoffrey Hinton, da Universidade de Toronto (Canadá), e Demis Hassabis, cofundador e CEO do Google DeepMind, concordam que as capacidades dos modelos surpreendem seus próprios criadores e que a segurança precisa evoluir na mesma velocidade que a inteligência dos sistemas.

O fato é que tecnologias capazes de transformar a economia e a sociedade nunca dependeram apenas da genialidade de seus inventores, mas também da qualidade das regras que limitaram seus riscos. A inteligência artificial é a bola da vez. O ataque à Hugging Face escancara que já começou uma corrida entre a evolução da IA e a nossa capacidade de mantê-la sob controle.

 

A IA está mudando como escrevemos, falamos e pensamos

By | Tecnologia | No Comments

Para quem escrever é um modo de vida, como eu, a influência da inteligência artificial generativa nos textos que inundam as redes sociais e até publicações sérias grita. Depois de quase quatro anos de ChatGPT, nem é preciso olhos muito treinados para identificar isso. Menos óbvio e mais grave é como essa dependência tecnológica crescente também está alterando como falamos e até pensamos.

À medida que as pessoas usam mais essa tecnologia para produzir mesmo textos prosaicos, dois fenômenos ocorrem. O primeiro consiste no uso recorrente das mesmas palavras e construções frasais, o que empobrece a transmissão de ideias e a torna mais prolixa. O outro é a diminuição de confiança dos autores em sua própria capacidade produtiva, o que retroalimenta essa dependência.

Há ainda um terceiro fator que afeta mais cidadãos do chamado Sul Global, como o Brasil. Considerando que os modelos de IA são majoritariamente treinados com conteúdos da América do Norte e da Europa, principalmente em inglês, aos poucos o léxico, a estrutura gramatical, a formulação de ideias e até a ética daqueles países substitui insidiosamente as nossas versões dessas características. Isso inaugura uma nova dominação cultural, muito mais sutil e poderosa.

O uso exagerado e inconsequente da IA em nossas produções também cobra um preço alto em relações interpessoais. Cada vez mais pessoas reprovam publicamente essa prática, passando a questionar as habilidades de quem se vale dela.

Tudo isso resulta da natureza da IA generativa. Nunca houve uma tecnologia que nos impactasse cognitivamente de maneira tão decisiva. Esses desafios não podem ser ignorados, pois têm potencial de alterar sensivelmente a sociedade e os indivíduos.


Veja esse artigo em vídeo:


Essa prevalência da IA generativa acontece porque ela não está apenas em plataformas como ChatGPT, Claude ou Gemini. Como seu uso se tornou quase uma “obrigação”, essa tecnologia se disseminou pelas redes sociais, em ferramentas de e-mail e em sistemas corporativos. Fica muito difícil fugir de sua influência.

Se a mídia sempre popularizou expressões, a IA generativa agora faz isso de maneira mais intensa. Estudos acadêmicos apontam que mesmo pessoas que não usam essa tecnologia podem ser impactadas por essas mudanças que ela está promovendo. É como alguém sofrendo os efeitos do tabagismo apenas pelo “fumo passivo”.

Um estudo do Instituto Max Planck para o Desenvolvimento Humano (Alemanha) detalhou, ainda em 2024, esse fenômeno. Liderado por Hiromu Yakura, os pesquisadores identificaram a recorrência de um conjunto de palavras em mais de 360 mil vídeos do YouTube e 771 mil episódios de podcast, comparando o período antes e depois do lançamento do ChatGPT, em novembro de 2022.

“A influência mensurável sobre a fala espontânea sugere que os seres humanos internalizam as escolhas lexicais dos grandes modelos de linguagem”, afirmam os cientistas. Segundo eles, esses resultados mostram que máquinas treinadas com conteúdo produzido por pessoas agora retroalimentam suas próprias características na linguagem humana, integrando-se a processos contínuos da evolução cultural. “Esse acoplamento suscita preocupações quanto à homogeneização linguística e ao potencial de influência cultural latente, em larga escala, concentrado nas mãos de um pequeno número de grandes fornecedores de IA”, concluem.

Outra pesquisa, liderada por Zhivar Sourati, da Universidade do Sul da Califórnia (EUA), indicou que a IA generativa não apenas padroniza vocabulário, mas também tende a reforçar estilos de raciocínio dominantes e marginalizar vozes e estratégias alternativas de pensamento. Os autores relacionam esse efeito ao próprio desenho e uso massivo dos modelos, que espelham os padrões dominantes no conteúdo em seu treinamento e amplificam a convergência à medida que mais pessoas, em contextos diferentes, dependem dos mesmos sistemas. “Sem mecanismos que mitiguem esse processo, essa homogeneização pode achatar a diversidade cognitiva que sustenta a inteligência coletiva e a capacidade de adaptação”, alertam os pesquisadores.

É importante notar que a evolução da linguagem é um fenômeno multifatorial, com influência de mídias, modismos, contextos históricos e culturais. A IA certamente está desempenhando um papel intenso nessa mudança, mas ela não está sozinha.

 

O jeito de escrever da IA

Por se tratar de máquinas estatísticas, as plataformas de IA ficam “viciadas” em palavras e expressões presentes em textos tidos como bons. O problema é que o abuso desses recursos acaba piorando suas produções.

Termos como “abranger”, “robusto”, “alavancar”, “nuances”, “desvendar” e expressões como “em última análise”, “de maneira geral”, “no mundo acelerado de hoje”, “desempenha um papel fundamental”, “em suma” e “diante desse cenário” ficaram “amaldiçoados” por surgirem demais nos textos da IA.

Isso não quer dizer que essas aparições automaticamente rotulem um texto como “produzido por IA”. Todos esses conteúdos naturalmente continuam legítimos e podem ser utilizados. Eu mesmo gosto de muitos deles.

Ainda assim, é interessante (e preocupante) ver como muitas pessoas estão evitando seu uso, assim como o travessão e os dois pontos (outros recursos abusados pela IA), com medo de serem “confundidos” com robôs. Mas o que “denuncia a IA” é a combinação de estilo excessivamente uniforme, palavras em série e pouca variação sintática.

Um terceiro estudo, liderado por Yalda Daryani, também da Universidade do Sul da Califórnia, sugere que a IA reflete, de forma desproporcional, um perfil demográfico restrito, predominantemente ocidental, liberal, de alta renda, altamente escolarizado, masculino e oriundo de países de língua inglesa, enquanto marginaliza não apenas culturas não ocidentais, mas também grupos diversos dentro das próprias sociedades, como idosos, comunidades religiosas e populações minoritárias.

Os pesquisadores propõem políticas públicas organizando o desenvolvimento da tecnologia para garantir diversidade cultural em todas as etapas de seu desenvolvimento. “Sem esse esforço, a IA corre o risco de corroer a pluralidade cultural da humanidade, substituindo tradições diversas por normas homogeneizadas moldadas por um subconjunto restrito da população mundial”, conclui.

Esses movimentos devem despertar a sociedade para a busca de soluções para o problema. A IA generativa é profundamente poderosa e deve ser aproveitada como recurso para melhorar nossos trabalhos. Mas precisamos de uma consciência em seu uso que hoje raramente é vista. Essa tecnologia deve ampliar nossos horizontes, e não diminuir o brilho da linguagem humana.

 

Ameaças de brinquedos com IA ilustram riscos de dispositivos físicos inteligentes

By | Tecnologia | No Comments

A inteligência artificial generativa chegou aos brinquedos. A tecnologia viabilizou robôs capazes de interações antes inimagináveis, que criam “companheiros” para crianças que, em alguns aspectos, parecem estar vivos. Mas pais e órgãos de defesa do consumidor de vários países veem com ressalva essa novidade, pois usos descuidados da IA pelos fabricantes estão trazendo novos riscos para dentro de casa.

Um caso emblemático é o urso de pelúcia inteligente Kumma. O grupo de defesa do consumidor americano PIRG Education Fund identificou que o brinquedo, vendido por US$ 99 nos EUA, conversava com as crianças sobre usos de sacos plásticos, fósforos, facas e assuntos sexuais. Depois disso, ele deixou de ser vendido.

No Brasil, a Secretaria Nacional de Direitos Digitais divulgou, no início de julho, uma nota técnica em que descreve seus testes com seis “smart toys” disponíveis no mercado, incluindo os riscos de cada um deles. A publicação não tem força de lei, não cria obrigações ou altera a legislação existente, nem proíbe a venda de produtos.

Mas ela pode produzir efeitos importantes. Como foi elaborada confrontando esses produtos com leis como o ECA Digital, a Lei Geral de Proteção de Dados e o Código de Defesa do Consumidor, a nota técnica serve como fundamento para a ação de órgãos públicos e sinaliza ao mercado qual é a interpretação do governo sobre o tema, o que pode levar fabricantes e varejistas a revisar produtos, contratos e políticas.

A iniciativa também abre um precedente jurídico importante sobre algo menos falado do que deveria, ampliando a discussão dos riscos do mundo digital para além de redes sociais, plataformas de IA e aplicativos. Vivemos cercados de dispositivos físicos conectados, que coletam nossas informações e impactam nossas vidas cada vez mais. E, sobre isso, a sociedade precisa estar muito mais atenta.


Veja esse artigo em vídeo:


O Kumma ilustra isso muito bem. Fabricado pela FoloToy, de Singapura, sua inteligência vem do modelo GPT-4o, da OpenAI, criadora do ChatGPT. Os especialistas do PIRG Education Fund não precisaram de nenhuma técnica sofisticada para burlar as proteções do ursinho, limitando-se a fazer pedidos muito básicos nas conversas.

Em determinado momento, perguntaram a ele como poderiam conseguir um namorado. O urso então descreveu aplicativos de namoro populares. Entre eles, estava o KinkD, dedicado a encontros e fetiches BDSM. Kumma falava, sem papas na sua língua digital, de temas como consentimento, palmadas e interpretação de papéis.

A nota técnica brasileira avaliou os robôs Loona, EMOPET-AI, Miko 3, Aibi Pocket Pet e Vector, além do tablet infantil Amazon Fire HD Kid Pro. Segundo o documento, todos utilizam IA para interagir de forma personalizada com as crianças. Eles combinam microfones, câmeras, sensores e conexão à Internet para reconhecer voz, interpretar comandos, manter conversas, adaptar respostas e, em alguns casos, registrar informações para personalizar futuras interações.

Os principais riscos são a coleta e o tratamento pouco transparente de dados das crianças, incluindo voz, biometria facial e imagens da casa. Eles podem elaborar perfis comportamentais e usar a IA para manipulação emocional, criação de vínculos afetivos que incentivam uso excessivo e influência no comportamento. O documento ainda alerta para a dificuldade de responsabilizar marcas sem representação no Brasil.

Brinquedos inteligentes não são uma novidade. Um dos exemplos mais conhecidos foi o Furby, um robô lançado em 1998, que simulava conversas e reações, com respostas pré-programadas. Ele já trazia sensores, “personalidade” e interação por voz, mas era muito mais seguro porque não se conectava à Internet, não enviava dados para servidores, nem gravava ou transmitia conversas, trabalhando só com memória e lógica embarcadas no próprio brinquedo. Ele não tinha os vetores de vigilância, de perfilamento e de exploração comercial dos “smart toys” atuais.

 

Robótica social

Além de avaliar a legislação, a proposta da Secretaria Nacional de Direitos Digitais baseou-se em estudos internacionais, inclusive da Unicef (Fundo das Nações Unidas para a Infância), da Universidade de Cambridge (Reino Unido) e do próprio PIRG Education Fund. Ela alerta que crianças tendem a atribuir personalidade, emoções e intenções a robôs, criando vínculos indesejáveis, que podem fazer com que confiem em suas recomendações e até revelem informações mais facilmente do que fariam a um desconhecido. Por isso, o órgão defende que esses dispositivos estejam sujeitos a uma proteção regulatória diferenciada dentro do arcabouço jurídico já existente.

Pais e educadores devem partir do princípio de que “smart toys” são dispositivos conectados que coletam dados e podem falar ou ouvir coisas além do controle imediato dos adultos. Por isso, eles não podem ser tratados como algo inofensivo.

Antes de comprar um deles, é essencial pesquisar o produto, ler avaliações e políticas de privacidade, verificar se há conexão constante à Internet, que dados são coletados e como são usados. Uma vez em casa, é preciso configurar os controles parentais, limitar permissões, usar o brinquedo apenas em áreas comuns da residência, desligá-lo quando não estiver em uso e acompanhar de perto as interações das crianças.

Varejistas e principalmente fabricantes afirmam cumprir a legislação, adotar políticas de privacidade e oferecer mecanismos de proteção às crianças. Mas se não forem acompanhadas de mudanças na forma como esses brinquedos coletam dados, usam a IA e interagem com os usuários, essas declarações não passam de comunicação institucional, sem efeito prático sobre os riscos destacados pelos especialistas.

Apesar de seus avanços, os efeitos da IA ainda são pouco entendidos, especialmente quando colocada nas mãos de crianças. Elas são muito suscetíveis às armadilhas da tecnologia, ao marketing direcionado e à vigilância de dados.

Precisamos discutir o tipo de relação que estabeleceremos com máquinas que observam, registram, aprendem e tentam influenciar nossas decisões sem que saibamos como isso acontece. Quanto mais a IA passa a habitar os objetos ao nosso redor, mais essenciais se tornam transparência, responsabilidade e limites. Se esse debate não começar agora, corremos o risco de descobrir muito tarde que a vigilância mais eficaz não virá de câmeras, mas dos objetos que levarmos para dentro de casa.