Category Archives: Tecnologia

As redações atuais combinam o trabalho jornalístico tradicional com o apoio da inteligência artificial – Ilustração: Paulo Silvestre

O jornalismo precisa usar a IA enquanto se protege dela

By | Jornalismo, Tecnologia | No Comments

Em um mundo em que a inteligência artificial insiste em dar respostas “mastigadas” para tudo, precisamos tomar cuidado para que aqueles que se apresentam como nossos aliados não nos apunhalem pelas costas.

Nesta semana, debati sobre isso em um evento que analisava a influência da mesma IA no jornalismo. Como praticamente todos os setores do mercado, a comunicação vem sofrendo uma profunda influência dessa tecnologia. Mas, ao contrário de outros negócios, que podem vender mais produtos se aparecerem nas respostas dos chatbots, a imprensa se enfraquece com essa exposição.

Há efetivamente uma corrida para que mensagens comerciais sejam “aprendidas” pela IA, para que recomende produtos e serviços. Isso tende a se fortalecer à medida que as pessoas usam esses sistemas para pedir recomendações sobre qualquer coisa.

Com o jornalismo, acontece o contrário. Quanto mais os veículos de comunicação entregam seus conteúdos às IAs, mais elas lhes roubam o público. As pessoas se informam (ou se deformam) cada vez mais pelos chatbots, que resumem notícias de maneira muito convincente, mesmo quando estão completamente errados.

Não há qualquer retorno digno de menção das plataformas para os produtores de conteúdo. Seus créditos aparecem timidamente nas respostas, ou nem isso. Assim, o público deixa de saber quem apurou a notícia e não visita mais os sites jornalísticos.

De forma alguma, proponho que o jornalismo ou qualquer outro negócio deixe de usar essa tecnologia. Mas é preciso cuidar para que esse uso não permita que as big techs sequestrem o relacionamento com seus clientes.


Veja esse artigo em vídeo:


Se bem usada, a IA pode facilitar enormemente o trabalho dos jornalistas e até permitir a criação de novos produtos. Não faz sentido resistir à tecnologia. Porém, não se pode dar um passo adiante com seus benefícios e quatro para trás em razão desse relacionamento desequilibrado entre imprensa e big techs.

Essas gigantes de tecnologia também criaram uma armadilha em que a imprensa cai alegremente. Considerando que as pessoas estão buscando mais notícias na IA, quanto mais jornalismo confiável estiver disponível para esses sistemas, maiores as chances de eles responderem com informação correta em vez de desinformação. E os jornalistas devem informar bem a população, qualquer que seja o meio.

Por mais que as plataformas de IA procurem responder a qualquer coisa que as pessoas lhes perguntem, elas trabalham com probabilidades e produzem respostas convincentes sem que haja garantia de correção. Ao aumentar o jornalismo na sua base, pelo menos cresce a chance de suas respostas serem verdadeiras.

As eleições acendem um severo alerta vermelho. Na semana passada, a organização internacional de responsabilidade corporativa Ekō publicou um levantamento que mostra que o Grok, a Meta AI, o ChatGPT e o Gemini geram respostas com erros grosseiros sobre políticos e o processo eleitoral brasileiro, e até recomendam votos, o que é proibido por lei. Isso é gravíssimo, pois, da mesma forma que as pessoas usam essas plataformas para pesquisar um novo celular, também as usarão para escolher em quem votar.

Ironicamente, o jornalismo está cometendo o erro de entregar seu conteúdo a plataformas digitais de maneira ingênua pela terceira vez, e ele fica sempre mais grave. Na primeira, os buscadores se tornaram a porta de entrada para o noticiário, mas ainda levavam os usuários para os sites jornalísticos. As redes sociais pioraram o quadro, com resumos das notícias aparecendo nos feeds, mas ainda com a autoria clara. Agora, a IA reduz drasticamente o tráfego e a referência.

A cada um desses erros, a imprensa perdeu um pouco mais da sua capacidade de moderar o debate público, até que restasse muito pouco dessa função. Agora, a IA deve reduzir isso a níveis insignificantes.

 

Mordendo a mão que a alimenta

O jornalismo precisa de audiência para financiar seu trabalho, enquanto a IA precisa de informação confiável para melhorar suas respostas. Aparentemente, há uma relação virtuosa, mas os interesses não são congruentes. Quanto melhor for o conteúdo jornalístico incorporado pela IA, melhores tendem a ser suas respostas. Mas isso diminui o incentivo para o usuário consultar a fonte original.

A discussão sobre IA e comunicação costuma girar em torno de direitos autorais, remuneração e empregos. Mas não se pode ignorar o impacto na marca jornalística, que representa uma promessa de qualidade, método, linha editorial, memória e confiança. Quando o usuário entra em um site jornalístico, ele sabe onde está. Em uma plataforma de IA, ele só percebe a marca dela, fortalecida pela credibilidade da imprensa que a alimenta.

Um estudo da Universidade Villanova (EUA), publicado no dia 5 de agosto na revista científica “Judgment and Decision Making”, ajuda a compreender isso. Apesar de não avaliar jornalismo, e sim textos de ficção, concluiu que histórias feitas pelo ChatGPT são mais bem avaliadas em qualidade e envolvimento do que as escritas por pessoas. Segundo os autores, isso acontece porque os textos da IA são mais agradáveis e fáceis de entender, mesmo sendo genéricos e pouco inventivos.

Portanto, não é o caso de a imprensa impedir que a IA copie seu conteúdo. Os veículos de comunicação precisam preservar o valor percebido da autoria em um ambiente no qual o público talvez não consiga distinguir quem produziu o texto, ou talvez nem se importe com isso.

Eles devem tratar seus arquivos, reportagens e conhecimento acumulado como ativos estratégicos. Isso significa negociar não apenas pagamento pelo conteúdo, mas também atribuição clara, possibilidade explícita de acesso à fonte original, preservação da identidade editorial, mecanismos de descoberta e, principalmente, formas de transformar a exposição em relacionamento. Os acordos com essas plataformas devem necessariamente preservar e fortalecer a relação com o público.

O jornalismo precisa estar dentro da inteligência artificial, mas não pode desaparecer atrás dela. Depois de entregar aos buscadores a distribuição e às redes sociais a atenção, os veículos não podem cair nessa armadilha de novo. Seu desafio é garantir que, ao aprender com o jornalismo, a IA não faça o leitor esquecer de quem verdadeiramente produziu a informação, o que é essencial não apenas para os veículos, mas para o desenvolvimento da democracia.

 

Proibição de lives no Discord esconde um problema sistêmico das redes sociais

By | Tecnologia | No Comments

A Agência Nacional de Proteção de Dados (ANPD) determinou na quarta (12) a suspensão preventiva das transmissões ao vivo do Discord no Brasil, depois que uma adolescente se suicidou em uma live. O prazo para cumprir a determinação vence hoje (17), mas a empresa já pediu prorrogação. O bloqueio tem provocado polêmica, mas traz apenas um lampejo sobre a pouca disposição das redes sociais de resolver um problema sistêmico que elas criaram e que está na essência desses serviços.

Além do Discord, plataformas digitais como Roblox, TikTok, Instagram, Telegram e WhatsApp possuem características como anonimato relativo, comunicação privada, formação de comunidades fechadas, recomendação de conteúdo e mecanismos de viralização. Apesar de suas arquiteturas serem diferentes, tudo isso dificulta a supervisão adulta do que crianças e adolescentes fazem online.

Nesse sentido, a suspensão das lives funciona como uma medida emergencial necessária, mas não resolve o verdadeiro problema, que é estrutural. Representantes do próprio Discord disseram que, com o bloqueio, os criminosos simplesmente migrarão para outro serviço, e que o grupo que coagiu a menina de 13 anos a se matar se organizou em outras redes.

Isso sugere que regular uma ou outra plataforma digital nunca será suficiente, pois as ameaças que elas embutem estão disseminadas, em algum grau, em todos esses serviços. Medidas razoáveis, porém enérgicas, devem ir além de buscar saber qual tecnologia é perigosa. O que deve ser considerado é qual arquitetura cria um risco específico, quem deve ser responsável por mitigá-lo e como isso deve ser feito.

O fato de um problema ser difícil de resolver não nos permite ignorá-lo. Pelo contrário, isso exige uma ação conjunta e vigorosa da sociedade em busca de uma solução real, fugindo dos tradicionais discursos corporativos inócuos. E qualquer que seja a solução, ela exigirá mudanças estruturais nas redes sociais.


Veja esse artigo em vídeo:


O caso que deflagrou essas ações aconteceu no dia 22 de julho. A adolescente, moradora de Naviraí (MS), foi induzida por outros jovens, durante uma live restrita a quem tinha convite, a atos de automutilação, que culminaram na sua morte. A sala permaneceu no ar por quase duas horas antes de ser encerrada, após notificação da polícia. Cinco menores foram apreendidos e um homem de 18 anos foi preso.

A ANPD determinou a suspensão preventiva das lives e de recursos de vídeo do Discord, não do serviço inteiro. A medida vigorará até que a empresa comprove ter implantado proteções efetivas para crianças e adolescentes, diante de episódios de violência, assédio e indução à automutilação ou ao suicídio, sob pena de multas que podem chegar a R$ 50 milhões por infração.

O Discord pediu a revogação da medida e contestou a competência da ANPD para determinar a suspensão, classificando-a como prematura e rebatendo a ideia de omissão deliberada. A empresa afirma que já adotava medidas de segurança e que o caso envolveu atividades criminosas também em outras plataformas. Disse ainda que está tomando providências para cumprir a ordem, mas “sob protesto”.

Segundo a empresa, o pedido decorre da complexidade de bloquear as transmissões apenas no Brasil. Ela afirma que três dias úteis não são suficientes para implementar e testar uma mudança dessa magnitude, e que a ANPD não forneceu diretrizes técnicas suficientemente claras sobre o que deveria ser bloqueado. Os representantes pediram, então, 15 dias úteis para implantação e outros 15 para avaliação de seus resultados.

Há ainda outro aspecto fundamental nesse caso que exige atenção. Os próprios representantes do Discord admitiram que havia indícios de risco na live, mas eles não foram suficientes para disparar um “alerta confiável”.

 

Inteligência artificial insuficiente

Plataformas como o Discord possuem sistemas de inteligência artificial para identificar riscos em conversas. Mas, na live em que a adolescente se matou, a IA atribuiu apenas 0,12 ponto, abaixo do 0,95 necessário para enviá-la para revisão humana. Segundo a empresa, o servidor era novo e pequeno, o que dificultou a detecção.

No sábado (15), o vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, disse, ao jornal “O Globo”, que a resposta da plataforma falhou. “Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança”, admitiu.

Isso desmonta a narrativa da indústria tecnológica de que basta criar sistemas cada vez melhores de IA para detecção automática e moderação para resolver o problema. Essa confiança excessiva em sistemas limitados representa um risco aos usuários.

Precisamos saber se aceitamos as decisões de uma plataforma sobre remover um conteúdo potencialmente perigoso e preservar milhões de interações legítimas. Falsos positivos são inconvenientes, mas falsos negativos podem ser fatais.

Simplesmente aumentar a sensibilidade do sistema pode criar uma espécie de censura algorítmica, com bloqueios injustificados e vigilância excessiva. Mas o problema pode ser mitigado com uma extensa avaliação humana dos conteúdos sinalizados pelos robôs, liberando o que for legítimo.

Isso exigiria um custoso exército de avaliadores, mas é o preço a se pagar para oferecer um serviço que cria riscos elevados a seus usuários. A segurança digital é um problema de decisão, e não apenas de tecnologia.

Na entrevista, Hoffman disse que “o verdadeiro sucesso é deter os grupos extremistas completamente, e não apenas expulsá-los do Discord”. De fato, seria lindo se todas as pessoas usassem as plataformas digitais de maneira cândida. Mas a proposta implica em erradicar a maldade na raça humana, o que é infinitamente mais difícil que bloquear recursos em sistemas.

Sem isso, casos como esse continuarão acontecendo. A IA não falhou por não ser competente o bastante para ver o risco, mas porque alguém definiu que interromper uma violência em andamento exigia mais evidências do que ela era capaz de fornecer.

Esse caso está sendo o primeiro grande teste do ECA Digital, que vale desde o dia 17 de março. A sociedade precisa decidir se uma empresa que não consegue identificar e intervir a tempo em uma live de alto risco deve ser autorizada a oferecer esse recurso a crianças e adolescentes.

 

IA redefine a cibersegurança diante de invasões inevitáveis

By | Tecnologia | No Comments

Há um ditado infame na cibersegurança que diz que existem dois tipos de empresas: as que já foram invadidas e as que acham que ainda não foram invadidas. Só acham!

Com a explosão da inteligência artificial, as equipes de defesa de sistemas ficaram mais pressionadas. Mas supor que esse seja o único problema simplifica perigosamente o cenário atual, que dá a essa anedota uma nova dimensão.

Não dá mais para achar que o sucesso em cibersegurança se medirá pela expectativa de nunca ser invadido. De agora em diante, a eficiência dependerá da capacidade de lidar bem com as consequências de um ataque.

Essa foi uma das mensagens da Conferência de Segurança e Gestão de Risco do Gartner, que aconteceu nos dias 4 e 5 de agosto, em São Paulo. A IA já não ameaça apenas ao criar códigos maliciosos ou potencializar ataques de engenharia social. Agora, agentes de IA já são capazes de explorar vulnerabilidades, identidades e credenciais para acessar sistemas.

Foi o que aconteceu em meados de julho, quando um agente movido por modelos da OpenAI (criadora do ChatGPT) invadiu a Hugging Face. Durante uma avaliação de segurança, ele escapou do ambiente de testes, explorou falhas e acessou credenciais que lhe permitiram avançar pela infraestrutura da plataforma.

Nesse cenário, em vez de nos preocuparmos com como impedir que invadam nossa empresa, precisamos perguntar o que precisa continuar funcionando mesmo em um ambiente hostil.


Veja esse artigo em vídeo:


Segundo o Gartner, 84% dos executivos veem a cibersegurança como um risco para os negócios, enquanto 98% acreditam que as ameaças cibernéticas aumentarão nos próximos dois anos. Isso combina com conclusões do Fórum Econômico Mundial, que indicaram em janeiro que 87% dos líderes veem as vulnerabilidades da IA como o risco de cibersegurança que mais cresceu.

“Se o objetivo passa a ser limitar o impacto, manter as operações críticas e se recuperar rapidamente, então a mitigação torna-se funcionalmente equivalente à prevenção”, afirma Oscar Isaka, diretor analista sênior do Gartner. “Ao contrário da segurança absoluta, a resiliência pode ser testada, praticada, medida e aprimorada ao longo do tempo”, acrescenta.

Isso ganha ainda mais importância com os agentes de IA se transformando em uma “força de trabalho invisível” nas empresas. Longe de serem ferramentas inertes, eles pesquisam, produzem código, acionam sistemas e movimentam dados com autonomia crescente. Por isso, quando erram ou são manipulados, fazem isso em velocidade de máquina, podendo causar grandes danos antes que alguém perceba.

Um chatbot responde ao que lhe pedimos, enquanto um agente toma decisões e pode executar ações sem confirmação humana a cada etapa. Nessa autonomia, nascem os problemas mais delicados, como permissões mal calibradas e decisões inesperadas.

O Gartner projeta que as empresas terão até 80 vezes mais identidades de máquina do que humanas. “Os invasores são como a água, geralmente seguindo o caminho mais fácil para entrar”, explica Charlie Winckless, vice-presidente analista do Gartner. “Muitas vezes, esse caminho é a identidade.”

A questão deixa de ser “quem é você?” e passa a ser “quem ou o que está agindo em seu nome, com qual autorização e para fazer o quê?”

 

Milhares de “novos funcionários”

Durante décadas, a segurança da informação tentou controlar o perímetro da organização. Agora, a própria empresa cria sistemas, conexões e agentes mais rapidamente do que consegue inventariá-los. A ironia é que a indústria vende automação para acelerar essa adoção, enquanto oferece novas camadas de controle para conter os riscos que essa mesma aceleração produz.

“Se você é uma organização com 1.000 pessoas, rapidamente passa a ser uma com 6.000, porque, em média, cada funcionário utilizará cinco agentes diferentes”, adverte Paul Furtado, vice-presidente analista do Gartner. Logo, é preciso aplicar o princípio do “menor privilégio” também aos agentes, para que nenhum deles atue além do escopo pretendido.

A empresa que remove todos os controles para adotar IA não está inovando, e sim se curvando à pressão para usar IA a qualquer custo. A alternativa é tratar segurança como desenho de ambientes de experimentação, não como veto. A meta é construir uma “fricção inteligente”, eliminando barreiras que não protejam e mantendo as que evitem que a velocidade vire imprudência.

Para isso, a inovação em segurança precisa deixar de ser tratada como um trabalho extra, espremido entre incidentes e urgências. Os líderes devem reservar tempo para experimentar, desenvolvendo competências e resiliência. Inovar, nesse caso, não pode ser um projeto paralelo, e sim parte do trabalho de proteger a organização.

A vantagem competitiva, portanto, não estará em usar IA sem limites, mas em saber quais limites permitem que ela seja adotada com segurança e continuidade. Nessa nova realidade, governar a velocidade pode ser tão estratégico quanto acelerar.

Uma empresa responsável não colocaria milhares de pessoas para trabalhar sem função, supervisão, limites de acesso ou possibilidade de desligamento. Da mesma forma, precisamos exigir esse controle dos agentes de IA. Eles podem merecer, afinal, confiança, mas apenas se as empresas estiverem conscientes e preparadas para confiar a eles decisões que podem afetar seu próprio futuro.

 

Quando a publicidade entra pela porta do ChatGPT, sua aura de neutralidade sai pela janela

By | Tecnologia | No Comments

A OpenAI confirmou que passará a exibir anúncios ao longo das conversas do ChatGPT com seus usuários no Brasil, nas próximas semanas. Parte do mercado anseia embevecido por esse inventário virtualmente infinito e com poder de convencimento sem precedentes. Mas a novidade pode transformar uma plataforma vista como neutra em um vendedor opaco, capaz de se valer de trocas íntimas para influenciar escolhas decisivamente, sem que o usuário perceba.

Naturalmente, empresas devem aumentar suas receitas, especialmente quando são muito deficitárias, como é o caso dessas grandes plataformas de inteligência artificial. Ainda assim, a ética propõe que nem tudo que possa ser feito deva ser feito.

Indicar o que é publicidade resolve um problema de formalização, mas trai a confiança que a própria interface conversacional criou antes de qualquer anúncio aparecer. Quando a resposta chega em primeira pessoa, articulada como julgamento de uma voz que parece pensar com o usuário, a autoridade já está formada quando a peça surge logo abaixo, ainda contaminada por essa proximidade.

O ChatGPT acabou de atingir 1 bilhão de usuários no mundo. Os anúncios na plataforma foram lançados nos EUA em fevereiro, e depois expandidos para Canadá, Austrália e Nova Zelândia. Agora, usuários do Brasil, México, Reino Unido, Japão e Coreia do Sul também verão anúncios nos planos gratuito e Go (o mais barato).

Com a IA generativa, as big techs estão levando a humanidade a um novo patamar de produtividade e desenvolvimento, o que merece aplausos. Mas nem esse feito lhes dá carta branca para fazerem o que bem entenderem. É no mínimo hipócrita ignorar os evidentes riscos de manipulação nesse lançamento.


Veja esse artigo em vídeo:


Por enquanto, a OpenAI adota uma política bastante restritiva. Os anúncios são limitados a categorias como bens de consumo, serviços locais, viagens, entretenimento, educação e produtos digitais. Setores sensíveis, como saúde, política, apostas, álcool, tabaco, drogas recreativas e conteúdo adulto permanecem proibidos. A própria empresa afirma, porém, que essas categorias “podem se expandir ao longo do tempo”, à medida que seus sistemas de revisão e conformidade amadureçam.

Essa ressalva merece atenção. As grandes plataformas digitais costumam flexibilizar limites diante de oportunidades de crescimento da receita. Não há evidências de que a OpenAI seguirá esse caminho, mas tampouco há garantias de que as restrições atuais permanecerão. Diante do histórico de outras big techs, que repetidamente ampliaram a exploração comercial de seus serviços em detrimento da experiência dos usuários, o ônus da prova recai sobre quem promete que, desta vez, será diferente.

O ChatGPT exibe anúncios claramente identificados ao final de algumas respostas. A seleção leva em conta contexto da interação e alguns sinais de uso da plataforma, sem compartilhar conversas ou dados pessoais com os anunciantes. A empresa vem ampliando gradualmente os formatos e as ferramentas para as agências.

A recepção dos anunciantes tem sido cautelosamente entusiasmada. Há interesse porque o ChatGPT concentra intenção alta e contexto de compra, mas ainda existe hesitação por falta de histórico, transparência limitada e dúvidas sobre mensuração e conversão real. Apesar do apetite que o canal desperta, o mercado vem tratando os primeiros testes como experimento, não como mídia já madura.

Entre os usuários, muitos temem que a publicidade comprometa a confiança em uma ferramenta de decisões pessoais e profissionais. Já reguladores, especialmente na Europa e no Canadá, acompanham de perto os impactos sobre privacidade, transparência e concorrência, exigindo garantias de que a segmentação comercial não amplie riscos ao tratamento de dados nem reduza a autonomia dos usuários.

 

Mudança profunda na publicidade

Ainda há poucos estudos acadêmicos que tratem do tema, pelo seu ineditismo.

Um dos mais interessantes foi publicado em maio por Jingyi Qiu e Qiaozhu Mei, da Universidade de Michigan (EUA). Eles argumentam que a publicidade em plataformas de IA representa uma mudança estrutural na relação entre empresas e consumidores. Em vez de simplesmente exibir anúncios, a IA pode incorporar interesses comerciais ao próprio processo de construção das respostas, influenciando recomendações de forma sutil e personalizada. Para os autores, o debate deixa de ser se há anúncios e passa a ser como garantir que incentivos econômicos não passem a moldar, de maneira invisível, os critérios usados pela IA para orientar as decisões dos usuários.

Outro estudo da mesma universidade, publicado por Brian Jay Tang e colegas em dezembro, mostra que a publicidade em interfaces conversacionais se beneficia da relação de confiança construída ao longo do diálogo com a IA. Em experimentos com usuários, os pesquisadores observaram que a conversa contínua reduz o distanciamento crítico normalmente aplicado à publicidade, tornando anúncios personalizados mais persuasivos e, muitas vezes, menos perceptíveis, mesmo quando são claramente identificados como conteúdo patrocinado, como faz o ChatGPT.

Por fim, Addison Wu e colegas das universidades americanas de Princeton e de Washington publicaram em abril um artigo em que argumentam que o maior risco da publicidade em plataformas de IA não é a existência de anúncios, mas a possibilidade de interesses comerciais influenciarem recomendações aparentemente neutras. Os autores observaram que incentivos econômicos podem alterar respostas mesmo sem misturar anúncios ao texto principal, o que relativiza a ideia da OpenAI de separar publicidade das respostas. O estudo reforça a necessidade de mecanismos de transparência, auditabilidade e fiscalização capazes de verificar quando uma recomendação continua sendo técnica e quando passa a ser comercial.

A decisão de o ChatGPT ou qualquer outra plataforma de IA exibir anúncios é prerrogativa exclusiva de seus desenvolvedores. Mas a sociedade precisa de garantias de que uma tecnologia cada vez mais usada para estudar, trabalhar, consumir e tomar decisões preserve a independência de suas recomendações quando seu modelo de negócios passa a depender justamente da influência sobre essas decisões. Essa discussão precisa começar antes que a prática se torne irreversível.

Há pelo menos 20 anos, tentamos identificar publicidade disfarçada de conteúdo. Agora precisaremos aprender a reconhecer quando interesses comerciais tentam influenciar aquilo que uma inteligência artificial recomenda. Se falharmos nessa tarefa, talvez descubramos tarde demais que o principal produto vendido por essas plataformas nunca foram anúncios, mas a nossa confiança.

 

Modelos da OpenAI “rebeldes” expõem os riscos da confiança excessiva na IA

By | Tecnologia | No Comments

Ao contrário do que alguns catastrofistas de plantão se apressaram a dizer, a recente invasão da plataforma colaborativa para modelos e aplicações de IA Hugging Face por sistemas da OpenAI não significa que a inteligência artificial se tornou “consciente” e muito menos que estamos na aurora de uma “revolta das máquinas”. Mas o fato não pode ser ignorado, pois revela que a confiança excessiva na IA pode fragilizar cuidados essenciais com sistemas cada vez mais poderosos, cujos comportamentos nem seus próprios desenvolvedores conseguem explicar plenamente.

Há alguns dias, durante um teste de cibersegurança, uma combinação de modelos da OpenAI, incluindo o recente GPT‑5.6 Sol e outro ainda não lançado, concluiu que, melhor que construir uma solução para um desafio que lhe foi proposto, seria encontrar uma maneira de escapar do ambiente de desenvolvimento e procurar uma resposta pronta na Internet. E foi exatamente isso que fez.

Talvez o mais irônico seja que a IA não teria “desobedecido” seus desenvolvedores, e sim sido “eficiente demais” na busca da solução. É como um pai exigir que o filho tire uma boa nota em uma prova. Então, durante o exame, ao perceber que o professor foi ao banheiro, o aluno encontra uma maneira de sair da sala, entrar na secretaria, roubar o gabarito, voltar para sua carteira e, assim, tirar dez no teste.

Esse foi o primeiro ataque realizado por agentes de IA sem intervenção humana. Longe de ser uma anomalia, ele pode indicar uma realidade emergente em que esses sistemas passem a se comportar de maneira indesejada, não porque sejam intencionalmente maus, mas porque os desenvolvedores não conseguirão mais acompanhar sua evolução.

Já passou da hora de as ferramentas de governança para desenvolvimento e uso seguros acompanharem esse ritmo. Pisar fundo no acelerador sem ter um pedal de freio ao lado é muito perigoso, tanto para carros quanto para a inteligência artificial.


Veja esse artigo em vídeo:


Para escapar da “sandbox”, o ambiente de testes em que estavam, os modelos da OpenAI descobriram uma vulnerabilidade desconhecida do programa que servia apenas para instalar softwares necessários ao teste. Uma vez na Internet, eles “deduziram” que a Hugging Face teria informações úteis sobre o que estavam tentando resolver. Encontraram então brechas da plataforma para invadi-la.

A empresa disse que não houve comprometimento de modelos públicos nem manipulação de conteúdos disponíveis aos usuários, com o acesso ocorrendo apenas a uma parte limitada de sua infraestrutura. Os sistemas comprometidos foram reconstruídos, as credenciais substituídas e as vulnerabilidades corrigidas, em um trabalho conjunto com a OpenAI.

Vale ressaltar que nem a OpenAI nem a Hugging Face tentaram “varrer o incidente para baixo do tapete”. Pelo contrário, deram ampla publicidade ao que aconteceu e às soluções adotadas. Isso ajuda a minimizar a possibilidade de que o problema aconteça novamente e a indicar caminhos para que seja resolvido.

Se um modelo desse tipo tivesse acesso a sistemas mais sensíveis, as consequências poderiam ser muito mais graves. Em teoria, um agente com autonomia suficiente poderia interromper serviços essenciais, provocar prejuízos financeiros expressivos, comprometer infraestruturas críticas ou facilitar ataques cibernéticos sofisticados.

Assim como na indústria farmacêutica ou na aviação, desenvolvedores de IA não podem apenas confiar que o sistema fará a coisa certa. Eles precisam criar diversos mecanismos de segurança para limitar a sua ação caso algo fuja do esperado. No incidente com a Hugging Face, algumas dessas restrições haviam sido reduzidas justamente para avaliar as capacidades do modelo, o que viabilizou a invasão.

 

“Desalinhamento” com humanos

Esse caso preocupa porque expõe um “problema de alinhamento” fora do ambiente de testes. Isso acontece quando a IA busca cumprir a meta que recebeu, mas de uma forma que os desenvolvedores não pretendiam. Em vez de desobedecer, ela opera de maneira excessivamente literal e criativa, com estratégias indesejadas por pessoas, em um fenômeno conhecido como “reward hacking”. Por isso, além de tornar a IA mais inteligente, as big techs precisam garantir que ela continue perseguindo objetivos de forma compatível com valores, regras e intenções humanas.

Outro aspecto relevante nesse caso é que, para conter o ataque, a Hugging Face precisou usar o GLM-5.2, um modelo de IA aberto da startup chinesa Z.ai. Isso aconteceu porque os modelos proprietários americanos, inclusive os da OpenAI, se recusaram a ajudar pelas suas travas de segurança, que ironicamente achavam que a tentativa da vítima de se defender fosse, na verdade, um ataque.

Isso “coloca um bode na sala”, pois as big techs sempre venderam a ideia de que os modelos fechados seriam mais seguros por terem travas rigorosas. Já os modelos abertos eram criticados por oferecer mais liberdade e, assim, mais riscos. Mas foi justamente isso que permitiu à Hugging Face responder ao incidente. Fica a dúvida sobre quando a proteção passa a limitar a capacidade de responder a um ataque.

Esse caso levanta um debate ético sobre se e como uma IA tão poderosa pode continuar sendo desenvolvida. Há aqueles que pedem restrições mais fortes para sistemas cujo comportamento não é plenamente compreendido, enquanto outros rejeitam fortemente qualquer obstáculo a avanços científicos e tecnológicos. No meio do caminho, há um terceiro grupo que defende a pesquisa, mas exige governança e segurança proporcionais ao risco.

Os principais pesquisadores em IA do mundo, como Yoshua Bengio, da Universidade de Montréal (Canadá), Geoffrey Hinton, da Universidade de Toronto (Canadá), e Demis Hassabis, cofundador e CEO do Google DeepMind, concordam que as capacidades dos modelos surpreendem seus próprios criadores e que a segurança precisa evoluir na mesma velocidade que a inteligência dos sistemas.

O fato é que tecnologias capazes de transformar a economia e a sociedade nunca dependeram apenas da genialidade de seus inventores, mas também da qualidade das regras que limitaram seus riscos. A inteligência artificial é a bola da vez. O ataque à Hugging Face escancara que já começou uma corrida entre a evolução da IA e a nossa capacidade de mantê-la sob controle.

 

A IA está mudando como escrevemos, falamos e pensamos

By | Tecnologia | No Comments

Para quem escrever é um modo de vida, como eu, a influência da inteligência artificial generativa nos textos que inundam as redes sociais e até publicações sérias grita. Depois de quase quatro anos de ChatGPT, nem é preciso olhos muito treinados para identificar isso. Menos óbvio e mais grave é como essa dependência tecnológica crescente também está alterando como falamos e até pensamos.

À medida que as pessoas usam mais essa tecnologia para produzir mesmo textos prosaicos, dois fenômenos ocorrem. O primeiro consiste no uso recorrente das mesmas palavras e construções frasais, o que empobrece a transmissão de ideias e a torna mais prolixa. O outro é a diminuição de confiança dos autores em sua própria capacidade produtiva, o que retroalimenta essa dependência.

Há ainda um terceiro fator que afeta mais cidadãos do chamado Sul Global, como o Brasil. Considerando que os modelos de IA são majoritariamente treinados com conteúdos da América do Norte e da Europa, principalmente em inglês, aos poucos o léxico, a estrutura gramatical, a formulação de ideias e até a ética daqueles países substitui insidiosamente as nossas versões dessas características. Isso inaugura uma nova dominação cultural, muito mais sutil e poderosa.

O uso exagerado e inconsequente da IA em nossas produções também cobra um preço alto em relações interpessoais. Cada vez mais pessoas reprovam publicamente essa prática, passando a questionar as habilidades de quem se vale dela.

Tudo isso resulta da natureza da IA generativa. Nunca houve uma tecnologia que nos impactasse cognitivamente de maneira tão decisiva. Esses desafios não podem ser ignorados, pois têm potencial de alterar sensivelmente a sociedade e os indivíduos.


Veja esse artigo em vídeo:


Essa prevalência da IA generativa acontece porque ela não está apenas em plataformas como ChatGPT, Claude ou Gemini. Como seu uso se tornou quase uma “obrigação”, essa tecnologia se disseminou pelas redes sociais, em ferramentas de e-mail e em sistemas corporativos. Fica muito difícil fugir de sua influência.

Se a mídia sempre popularizou expressões, a IA generativa agora faz isso de maneira mais intensa. Estudos acadêmicos apontam que mesmo pessoas que não usam essa tecnologia podem ser impactadas por essas mudanças que ela está promovendo. É como alguém sofrendo os efeitos do tabagismo apenas pelo “fumo passivo”.

Um estudo do Instituto Max Planck para o Desenvolvimento Humano (Alemanha) detalhou, ainda em 2024, esse fenômeno. Liderado por Hiromu Yakura, os pesquisadores identificaram a recorrência de um conjunto de palavras em mais de 360 mil vídeos do YouTube e 771 mil episódios de podcast, comparando o período antes e depois do lançamento do ChatGPT, em novembro de 2022.

“A influência mensurável sobre a fala espontânea sugere que os seres humanos internalizam as escolhas lexicais dos grandes modelos de linguagem”, afirmam os cientistas. Segundo eles, esses resultados mostram que máquinas treinadas com conteúdo produzido por pessoas agora retroalimentam suas próprias características na linguagem humana, integrando-se a processos contínuos da evolução cultural. “Esse acoplamento suscita preocupações quanto à homogeneização linguística e ao potencial de influência cultural latente, em larga escala, concentrado nas mãos de um pequeno número de grandes fornecedores de IA”, concluem.

Outra pesquisa, liderada por Zhivar Sourati, da Universidade do Sul da Califórnia (EUA), indicou que a IA generativa não apenas padroniza vocabulário, mas também tende a reforçar estilos de raciocínio dominantes e marginalizar vozes e estratégias alternativas de pensamento. Os autores relacionam esse efeito ao próprio desenho e uso massivo dos modelos, que espelham os padrões dominantes no conteúdo em seu treinamento e amplificam a convergência à medida que mais pessoas, em contextos diferentes, dependem dos mesmos sistemas. “Sem mecanismos que mitiguem esse processo, essa homogeneização pode achatar a diversidade cognitiva que sustenta a inteligência coletiva e a capacidade de adaptação”, alertam os pesquisadores.

É importante notar que a evolução da linguagem é um fenômeno multifatorial, com influência de mídias, modismos, contextos históricos e culturais. A IA certamente está desempenhando um papel intenso nessa mudança, mas ela não está sozinha.

 

O jeito de escrever da IA

Por se tratar de máquinas estatísticas, as plataformas de IA ficam “viciadas” em palavras e expressões presentes em textos tidos como bons. O problema é que o abuso desses recursos acaba piorando suas produções.

Termos como “abranger”, “robusto”, “alavancar”, “nuances”, “desvendar” e expressões como “em última análise”, “de maneira geral”, “no mundo acelerado de hoje”, “desempenha um papel fundamental”, “em suma” e “diante desse cenário” ficaram “amaldiçoados” por surgirem demais nos textos da IA.

Isso não quer dizer que essas aparições automaticamente rotulem um texto como “produzido por IA”. Todos esses conteúdos naturalmente continuam legítimos e podem ser utilizados. Eu mesmo gosto de muitos deles.

Ainda assim, é interessante (e preocupante) ver como muitas pessoas estão evitando seu uso, assim como o travessão e os dois pontos (outros recursos abusados pela IA), com medo de serem “confundidos” com robôs. Mas o que “denuncia a IA” é a combinação de estilo excessivamente uniforme, palavras em série e pouca variação sintática.

Um terceiro estudo, liderado por Yalda Daryani, também da Universidade do Sul da Califórnia, sugere que a IA reflete, de forma desproporcional, um perfil demográfico restrito, predominantemente ocidental, liberal, de alta renda, altamente escolarizado, masculino e oriundo de países de língua inglesa, enquanto marginaliza não apenas culturas não ocidentais, mas também grupos diversos dentro das próprias sociedades, como idosos, comunidades religiosas e populações minoritárias.

Os pesquisadores propõem políticas públicas organizando o desenvolvimento da tecnologia para garantir diversidade cultural em todas as etapas de seu desenvolvimento. “Sem esse esforço, a IA corre o risco de corroer a pluralidade cultural da humanidade, substituindo tradições diversas por normas homogeneizadas moldadas por um subconjunto restrito da população mundial”, conclui.

Esses movimentos devem despertar a sociedade para a busca de soluções para o problema. A IA generativa é profundamente poderosa e deve ser aproveitada como recurso para melhorar nossos trabalhos. Mas precisamos de uma consciência em seu uso que hoje raramente é vista. Essa tecnologia deve ampliar nossos horizontes, e não diminuir o brilho da linguagem humana.

 

Ameaças de brinquedos com IA ilustram riscos de dispositivos físicos inteligentes

By | Tecnologia | No Comments

A inteligência artificial generativa chegou aos brinquedos. A tecnologia viabilizou robôs capazes de interações antes inimagináveis, que criam “companheiros” para crianças que, em alguns aspectos, parecem estar vivos. Mas pais e órgãos de defesa do consumidor de vários países veem com ressalva essa novidade, pois usos descuidados da IA pelos fabricantes estão trazendo novos riscos para dentro de casa.

Um caso emblemático é o urso de pelúcia inteligente Kumma. O grupo de defesa do consumidor americano PIRG Education Fund identificou que o brinquedo, vendido por US$ 99 nos EUA, conversava com as crianças sobre usos de sacos plásticos, fósforos, facas e assuntos sexuais. Depois disso, ele deixou de ser vendido.

No Brasil, a Secretaria Nacional de Direitos Digitais divulgou, no início de julho, uma nota técnica em que descreve seus testes com seis “smart toys” disponíveis no mercado, incluindo os riscos de cada um deles. A publicação não tem força de lei, não cria obrigações ou altera a legislação existente, nem proíbe a venda de produtos.

Mas ela pode produzir efeitos importantes. Como foi elaborada confrontando esses produtos com leis como o ECA Digital, a Lei Geral de Proteção de Dados e o Código de Defesa do Consumidor, a nota técnica serve como fundamento para a ação de órgãos públicos e sinaliza ao mercado qual é a interpretação do governo sobre o tema, o que pode levar fabricantes e varejistas a revisar produtos, contratos e políticas.

A iniciativa também abre um precedente jurídico importante sobre algo menos falado do que deveria, ampliando a discussão dos riscos do mundo digital para além de redes sociais, plataformas de IA e aplicativos. Vivemos cercados de dispositivos físicos conectados, que coletam nossas informações e impactam nossas vidas cada vez mais. E, sobre isso, a sociedade precisa estar muito mais atenta.


Veja esse artigo em vídeo:


O Kumma ilustra isso muito bem. Fabricado pela FoloToy, de Singapura, sua inteligência vem do modelo GPT-4o, da OpenAI, criadora do ChatGPT. Os especialistas do PIRG Education Fund não precisaram de nenhuma técnica sofisticada para burlar as proteções do ursinho, limitando-se a fazer pedidos muito básicos nas conversas.

Em determinado momento, perguntaram a ele como poderiam conseguir um namorado. O urso então descreveu aplicativos de namoro populares. Entre eles, estava o KinkD, dedicado a encontros e fetiches BDSM. Kumma falava, sem papas na sua língua digital, de temas como consentimento, palmadas e interpretação de papéis.

A nota técnica brasileira avaliou os robôs Loona, EMOPET-AI, Miko 3, Aibi Pocket Pet e Vector, além do tablet infantil Amazon Fire HD Kid Pro. Segundo o documento, todos utilizam IA para interagir de forma personalizada com as crianças. Eles combinam microfones, câmeras, sensores e conexão à Internet para reconhecer voz, interpretar comandos, manter conversas, adaptar respostas e, em alguns casos, registrar informações para personalizar futuras interações.

Os principais riscos são a coleta e o tratamento pouco transparente de dados das crianças, incluindo voz, biometria facial e imagens da casa. Eles podem elaborar perfis comportamentais e usar a IA para manipulação emocional, criação de vínculos afetivos que incentivam uso excessivo e influência no comportamento. O documento ainda alerta para a dificuldade de responsabilizar marcas sem representação no Brasil.

Brinquedos inteligentes não são uma novidade. Um dos exemplos mais conhecidos foi o Furby, um robô lançado em 1998, que simulava conversas e reações, com respostas pré-programadas. Ele já trazia sensores, “personalidade” e interação por voz, mas era muito mais seguro porque não se conectava à Internet, não enviava dados para servidores, nem gravava ou transmitia conversas, trabalhando só com memória e lógica embarcadas no próprio brinquedo. Ele não tinha os vetores de vigilância, de perfilamento e de exploração comercial dos “smart toys” atuais.

 

Robótica social

Além de avaliar a legislação, a proposta da Secretaria Nacional de Direitos Digitais baseou-se em estudos internacionais, inclusive da Unicef (Fundo das Nações Unidas para a Infância), da Universidade de Cambridge (Reino Unido) e do próprio PIRG Education Fund. Ela alerta que crianças tendem a atribuir personalidade, emoções e intenções a robôs, criando vínculos indesejáveis, que podem fazer com que confiem em suas recomendações e até revelem informações mais facilmente do que fariam a um desconhecido. Por isso, o órgão defende que esses dispositivos estejam sujeitos a uma proteção regulatória diferenciada dentro do arcabouço jurídico já existente.

Pais e educadores devem partir do princípio de que “smart toys” são dispositivos conectados que coletam dados e podem falar ou ouvir coisas além do controle imediato dos adultos. Por isso, eles não podem ser tratados como algo inofensivo.

Antes de comprar um deles, é essencial pesquisar o produto, ler avaliações e políticas de privacidade, verificar se há conexão constante à Internet, que dados são coletados e como são usados. Uma vez em casa, é preciso configurar os controles parentais, limitar permissões, usar o brinquedo apenas em áreas comuns da residência, desligá-lo quando não estiver em uso e acompanhar de perto as interações das crianças.

Varejistas e principalmente fabricantes afirmam cumprir a legislação, adotar políticas de privacidade e oferecer mecanismos de proteção às crianças. Mas se não forem acompanhadas de mudanças na forma como esses brinquedos coletam dados, usam a IA e interagem com os usuários, essas declarações não passam de comunicação institucional, sem efeito prático sobre os riscos destacados pelos especialistas.

Apesar de seus avanços, os efeitos da IA ainda são pouco entendidos, especialmente quando colocada nas mãos de crianças. Elas são muito suscetíveis às armadilhas da tecnologia, ao marketing direcionado e à vigilância de dados.

Precisamos discutir o tipo de relação que estabeleceremos com máquinas que observam, registram, aprendem e tentam influenciar nossas decisões sem que saibamos como isso acontece. Quanto mais a IA passa a habitar os objetos ao nosso redor, mais essenciais se tornam transparência, responsabilidade e limites. Se esse debate não começar agora, corremos o risco de descobrir muito tarde que a vigilância mais eficaz não virá de câmeras, mas dos objetos que levarmos para dentro de casa.

 

A IA não nos “emburrece”, mas usá-la mal pode prejudicar nosso desenvolvimento

By | Tecnologia | No Comments

Muito se fala sobre o impacto da inteligência artificial no nosso desenvolvimento, mas me deparei com outra perspectiva sobre o tema há alguns dias, durante uma conversa sobre ganhos e perdas do home office. Algumas coisas são óbvias, como ganhar na qualidade de vida e perder na experiência das trocas contínuas com os colegas. Foi quando me perguntaram se a IA agravaria ainda mais as perdas.

Isso me fez pensar. Ao trocar o escritório pelo quarto de casa, deixamos de ter conversas inesperadas, conflitos, negociações e decisões compartilhadas, que alimentam um processo contínuo de aprendizagem. Mas o trabalho solitário ainda exige a fricção intelectual das tarefas, que preserva a ampliação de capacidades neurológicas, como neuroplasticidade, funções executivas, memória de trabalho e reconhecimento de padrões. Um uso inadequado da IA pode, sim, comprometer isso.

Por “uso inadequado da IA”, eu me refiro a essa tecnologia assumir, de maneira sistemática, as partes mais difíceis de nossas atividades. Isso pode reduzir justamente os estímulos que promovem os maiores ganhos cerebrais. E, aqui, quero deixar claro que não sou contra o home office ou a IA, mas me preocupo com o fato de “abusos” de ambos poderem efetivamente nos atrapalhar.

Especialistas não encontram soluções porque decoraram respostas, e sim porque enfrentaram centenas de situações difíceis ao longo da carreira. Cada problema resolvido ampliou seu repertório mental. Para eles, o desconforto cognitivo faz parte do aprendizado, portanto não buscam atalhos.

Infelizmente, observo, como pesquisador e consultor, muito do uso inadequado da IA. Enquanto isso, proliferam artigos, debates e cursos que enaltecem os ganhos dessa tecnologia, sem triscar nos seus riscos, como se ela fosse uma panaceia. Essa combinação é perigosíssima, e a sociedade precisa lidar com isso com urgência.


Veja esse artigo em vídeo:


Historicamente, as grandes inovações tecnológicas, via de regra, reduziram o esforço humano. Como exemplos comuns, o arado facilitou o plantio, que depois ficou melhor com a mecanização do campo, assim como calculadoras agilizaram operações matemáticas, ganho que foi ampliado por planilhas eletrônicas. Mas apesar dos inegáveis benefícios, nosso papel de analisar, decidir e criar sempre foi preservado.

A inteligência artificial é a primeira tecnologia capaz de assumir parte do processo de raciocínio. Por isso, ela não transforma apenas a forma como trabalhamos, mas também pode alterar a maneira como aprendemos, ficamos mais experientes e exercitamos o pensamento crítico. Isso explica por que desperta tanto entusiasmo e, ao mesmo tempo, preocupações associadas a maus usos dela.

Estudos acadêmicos vêm surgindo em todo mundo sobre isso. Em um deles, Michael Gerlich, da Swiss Business School (Suíça), encontrou correlação entre o uso mais intenso da IA e menores níveis de pensamento crítico. A causa estaria ligada ao chamado “descarregamento cognitivo”, quando transferimos para a tecnologia tarefas mentais que antes realizaríamos. Ele não afirma que a IA reduz o pensamento crítico automaticamente, e sim que pode diminuir as oportunidades de exercê-lo. Além disso, concluiu que os mais velhos e os mais escolarizados têm mais resistência a esse efeito, sugerindo que a fricção mental acumulada ao longo da carreira funciona como proteção contra o uso inadequado da tecnologia.

Em outro estudo, Hao-Ping Lee, da Universidade Carnegie Mellon (EUA), e um grupo de pesquisadores da Microsoft Research Cambridge (Reino Unido) concluíram que, quanto maior a confiança do trabalhador na capacidade da IA de executar uma tarefa, menor tende a ser seu pensamento crítico na avaliação dos resultados, mesmo sabendo que ela comete muitos erros. Por outro lado, quanto maior a confiança da pessoa na própria capacidade, maior o nível de análise crítica exercido sobre respostas produzidas pela máquina. Vale notar que o estudo mostra que o esforço não desaparece, apenas migra da busca de informação para a curadoria do que vem pronto. Isso sustenta a ideia de que a “muleta” começa a substituir o “músculo”.

Meu temor é que, em uma sociedade em que a rapidez na execução de uma tarefa fica cada vez mais importante que sua qualidade, tal “muleta” se torne um recurso padrão e até obrigatório. Ao recorrer à IA antes mesmo de tentar resolver um problema, profissionais poderão sofrer declínios cognitivos consideráveis.

 

Bom uso versus mau uso

Devemos resistir à perigosa simplificação de dizer que a IA nos “emburrece”. Quando ela automatiza tarefas repetitivas, burocráticas ou operacionais, ela libera tempo que pode ser usado para atividades muito mais nobres, como criar, investigar, negociar, inovar e decidir. O problema surge quando, em vez disso, delegamos justamente à máquina aquilo que mais contribuiria para nossa evolução intelectual.

Redes neurais frequentemente ativadas tendem a se fortalecer, enquanto as que são pouco usadas ficam menos eficientes. Elas não desaparecem, mas seu desempenho pode diminuir com o tempo. Então, se a IA assume sistematicamente o que nos desafia, pode reduzir os estímulos que promovem os maiores ganhos cerebrais.

Ironicamente, essa não é uma discussão tecnológica, e sim cultural. Fomos educados a valorizar tecnologias que eliminavam esforço. Mas, com a IA, estamos eliminando um tipo de esforço que representa custo, mas também promove nosso aprendizado. Se o cérebro evolui ao enfrentar desafios, reduzi-los a todo momento pode produzir profissionais eficientes para executar tarefas, mas menos preparados para lidar com ambiguidades e construir pensamentos originais.

Isso não é algo hipotético ou restrito. Uma sociedade que se acostuma a aceitar respostas sem examiná-las corre o risco de enfraquecer sua capacidade que sustenta a inovação, a ciência, o jornalismo, a educação e até a democracia. Todos nós precisamos resgatar o hábito de questionar, de comparar evidências e de sustentar argumentos, e a inteligência artificial pode nos ajudar nisso. Esse é o bom uso!

Essa tecnologia disruptiva tem potencial para ampliar extraordinariamente nossas capacidades. Mas isso dependerá menos do que ela consegue fazer e mais do que decidiremos continuar fazendo por conta própria. Precisamos reforçar aquilo que nos colocou na liderança desse planeta, que é nossa disposição para pensar. E isso fica dramático quando a IA nos oferece atalhos para ignorar esse nosso maior diferencial.

 

Informar-se pelas redes sociais esconde uma ilusão perigosa de liberdade de escolha

By | Tecnologia | No Comments

Quando o uso das redes sociais explodiu, ouvia-se muito que as pessoas não precisariam mais da imprensa, pois teriam a liberdade para escolher como se informar, indo direto às fontes dos fatos. Nas últimas duas décadas, essas plataformas vêm provocando mesmo grandes baixas na audiência do jornalismo, mas é um erro achar que elas nos oferecem tal liberdade.

No jornalismo, uma notícia nasce com um repórter investigando o fato, um editor analisando sua importância e o veículo o publicando, seguindo critérios transparentes e conhecidos. Com as redes sociais, existem influenciadores, sistemas de recomendação e inteligências artificiais entre a informação e os usuários.

Eles acreditam estar acessando as “fontes dos fatos”, mas acabam sendo iludidos por sistemas que filtram, priorizam e, cada vez mais, reescrevem as informações que consomem como verdades inquestionáveis. Não há preocupação com a veracidade ou com os interesses dos usuários, apenas a busca pelo engajamento a qualquer custo.

Essa ilusão confortável funciona. Segundo o Digital News Report 2026, publicado no dia 16 pelo Instituto Reuters e pela Universidade de Oxford (Reino Unido), pela primeira vez as pessoas se informaram mais pelas redes sociais que pela imprensa. Na média de quase 100 mil pessoas analisadas em 48 países (incluindo o Brasil), 54% usam essas plataformas para se informar, contra 51% dos que usam a imprensa.

Devemos tomar cuidado com a leitura superficial de que “as redes sociais venceram o jornalismo”, como tenho visto. O relatório mostra um cenário muito mais complexo, que ele chamou de “plataformização” da notícia. O risco disso não é que elas digam às pessoas como pensar, e sim que indiquem sutilmente sobre o que pensar. Isso influencia o debate público antes mesmo que qualquer opinião seja formada.


Veja esse artigo em vídeo:


Na faculdade de Jornalismo, aprende-se que tão importante quanto informar bem o cidadão é formar bem o cidadão. Um jornalista pode errar, mas sua missão é publicar o que considera mais relevante para a sociedade. E quando você escolhe um jornal, sabe quem decidiu a manchete, conhece a linha editorial, identifica o responsável pela publicação e pode confrontar aquela cobertura com outras fontes.

Ironicamente, o conteúdo continua sendo produzido por veículos profissionais, mas o acesso a ele ocorre cada vez menos por canais controlados pelos próprios jornais e cada vez mais por intermediários. A distribuição passou para as plataformas, que não se guiam pelo interesse público, e sim por prender a pessoa online.

Com isso, o que é mais importante para o desenvolvimento do cidadão é preterido pelo que chama mais atenção. Uma reportagem investigativa perde para um conteúdo indignado que provoca muitos comentários, assim como um escândalo político complexo fica atrás de um vídeo emotivo que gera compartilhamentos.

A “plataformização” da notícia também elimina o contexto. O jornalismo organiza os fatos, explica antecedentes, consequências, personagens e interesses envolvidos. Já nas plataformas, a notícia normalmente aparece fragmentada, em vídeos curtos, soterrada por comentários. Vira meme e pode ser ampliada por influenciadores sem preparo ou até ética. Ao final, o público acredita estar bem informado sem nunca ter visto a reportagem original, e isso empobrece muito o debate público.

Outro problema é que cada pessoa passa a viver dentro de uma agenda diferente. Por décadas, a população assistia aos mesmos telejornais ou lia as manchetes dos mesmos jornais, criando um conjunto mínimo de fatos compartilhados. Hoje, dois vizinhos podem abrir o celular na mesma hora e receber notícias completamente diferentes. Isso não os leva a viver em bolhas absolutas, mas certamente compartilham menos referências comuns, o que dificulta o diálogo democrático.

No final, a “plataformização” muda nossa relação com o conhecimento. Informar-se era uma atividade consciente quando se decidia comprar um jornal, ligar a TV para assistir ao noticiário ou entrar em um site jornalístico.

Hoje, informar-se tornou-se uma atividade passiva. Abrimos uma plataforma para conversar com amigos ou assistir a vídeos, e a notícia aparece misturada a publicidade, entretenimento e opiniões. Achamos que estamos escolhendo nossas fontes, mas escolhemos apenas a plataforma, e ela faz o resto.

 

Terceirização da realidade

Com esse movimento, terceirizamos a decisão sobre o que merece nossa atenção, em que ordem veremos os acontecimentos, quanto tempo dedicaremos a cada tema e quais perspectivas chegarão até nós, com enorme risco de o que realmente importa ficar de fora. E isso impacta pesadamente a confiança no noticiário.

Segundo o Digital News Report, ela atingiu o menor patamar em uma década, com apenas 37% das pessoas confiando no noticiário como um todo. No Brasil, esse índice é ainda menor: 36%, caindo de 62% em 2015.

Aí reside uma aparente contradição. Apesar de as pessoas usarem mais as redes sociais para se informar, apenas 22% confiam em notícias que consomem por elas. A confiança pelo noticiário vindo de plataformas de IA é ainda menor: 20%. No Brasil, todos os veículos jornalísticos analisados receberam um voto de confiança de mais de 50% do público, liderados pela CNN Brasil (62%). A explicação é que as pessoas usam mais as redes sociais por serem mais fáceis e divertidas, entretanto percebem que ali há muito mais ruído, opinião, manipulação e falta de responsabilidade editorial.

O Digital News Report mostra que, mais que produzir boas notícias, o maior desafio do jornalismo é permanecer visível em uma realidade em que a atenção se tornou o recurso mais disputado, e onde os intermediários digitais passaram a decidir, em grande medida, o que cada cidadão verá primeiro.

Já o público perde gradualmente sua autonomia informacional. Quanto mais dependemos de sistemas que selecionam automaticamente o que vemos, menos percebemos que estamos consumindo uma versão do mundo organizada segundo critérios que não definimos e não conhecemos, e que não podemos interferir.

Essa ilusão é discreta, mas há anos mostra seus efeitos duradouros sobre a forma como indivíduos e sociedades constroem sua compreensão da realidade. É assim que os brasileiros vêm deixando para trás a imagem de “povo cordial” e se tornando uma sociedade mais polarizada e menos tolerante a quem pensa diferente.

 

Bloqueios políticos das IAs mais poderosas escancaram como somos vulneráveis

By | Tecnologia | No Comments

No dia 12 de junho, os usuários da plataforma de inteligência artificial Claude descobriram que não podiam mais usar o Fable 5 e o Mythos 5, os modelos mais avançados da Anthropic. Tudo porque o governo americano ordenou que eles fossem bloqueados fora dos EUA e para estrangeiros em seu território, alegando razões de segurança nacional. Como a empresa disse que não conseguiria fazer essa segregação, cortou o acesso para todos.

Não se trata de um detalhe técnico. O movimento oferece uma prévia de como funcionará uma nova forma de dependência geopolítica. Ao longo da história, países disputaram influência controlando territórios, rotas comerciais e petróleo, ou impondo sua capacidade militar. Agora, o poder passa cada vez mais pelo domínio das tecnologias que definem a economia, a informação e a inovação.

Estados Unidos e China dão as cartas nesse novo jogo. Os europeus correm bem atrás e outras partes do mundo nem estão na mesma volta. E como o Brasil bebe na fonte digital americana, uma decisão em Washington determina quais ferramentas estarão disponíveis para nossos cidadãos, empresas, pesquisadores e até governo.

A preocupação não é teórica. Dois dias depois, na véspera da cúpula do G7 na França, o primeiro-ministro canadense, Mark Carney, citou o caso da Anthropic como exemplo dos riscos de concentrar o uso da IA em poucas empresas. Segundo ele, governos e organizações devem diversificar suas fontes tecnológicas para reduzir a dependência.

Esse episódio embute muitos pontos obscuros, inclusive o bloqueio de modelos só da Anthropic, que está processando o governo americano. Temos que entender que a vassalagem tecnológica não é percebida quando tudo funciona, mas surge, como um tapa na cara, quando outro país decide, seguindo apenas seus interesses, quais tecnologias podemos ou não usar, o que impacta decisivamente nosso cotidiano.


Veja esse artigo em vídeo:


Os atritos entre a Anthropic e a administração Trump vieram a público em fevereiro, quando a empresa se recusou a autorizar que os militares americanos usassem sua IA livremente, incluindo na vigilância em massa e em armas autônomas. Desde então, o governo tenta banir a empresa de contratos federais. Em compensação, ela vem crescendo rapidamente na capacidade de seus modelos e em suas finanças, tendo superado a rival OpenAI, criadora do ChatGPT, em receita e avaliação de mercado.

Vale dizer que a Anthropic adiou o Mythos em abril, dizendo que ele era “poderoso demais” para o público, por ser capaz de encontrar brechas em praticamente qualquer software e, assim, se tornar uma “arma digital”. Mas poucas semanas depois, mudou de ideia e o lançou junto com o Fable 5, uma versão “amarrada” para uso geral, apostando que travas e acessos restritos seriam suficientes para mitigar os riscos.

A Anthropic se posiciona como uma empresa que faz um desenvolvimento ético e seguro da IA. Na semana passada, seu CEO, Dario Amodei, defendeu auditorias obrigatórias para todos os modelos mais avançados. Mas a companhia questionou a determinação do governo, afirmando que a medida não seguiu um processo transparente e baseado em critérios técnicos.

Há muita hipocrisia nessa história. Se esses modelos são tão perigosos, a Anthropic nem deveria tê-los desenvolvido e muito menos lançado confiando em regras de segurança. Do lado do governo, a restrição faz sentido em uma leitura rasteira de tentar evitar que estrangeiros usem e copiem todo esse poder, mas perde força diante de seu abundante histórico de terrorismo e cibercrime domésticos e desrespeito do Tio Sam a direitos fundamentais de outros países e de seus próprios cidadãos.

Engana-se quem vê isso como um problema distante, restrito aos corredores do poder de Washington e do Vale do Silício. A inteligência artificial vem ocupando espaço determinante em nossas vidas e nos negócios. Ter acesso aos melhores modelos pode definir quem dominará o seu mercado.

Muita gente que usou o Fable 5 nos três dias em que ficou disponível antes do bloqueio se maravilhou com suas capacidades. Agora se sentem como crianças indefesas de quem foi retirado o doce mais gostoso.

 

O poder de controlar o poder

As big techs se construíram sobre discursos de liberdade e expansão dos limites humanos. Em várias ocasiões no passado, opuseram-se a pressões do próprio governo americano que contrariavam tais princípios.

Mas desde que Donald Trump assumiu seu segundo mandato, seja por medo ou por oportunismo, essas companhias rasgaram suas cartilhas progressistas e passaram a replicar algumas das ideologias mais autoritárias desse governo. E, verdade seja dita, elas têm conseguido muitos benefícios econômicos e políticos de um presidente que alçou a IA a um fator primário na liderança dos EUA de agora em diante.

Agora alguns desses gigantes tecnológicos estão percebendo que essa conta pode ser alta demais. Com seu estilo visceral e intempestivo, Trump já tomou decisões que contrariaram os interesses dessas corporações, como restringir vendas a alguns mercados, bloquear produtos e privilegiar seus favoritos do momento.

A inteligência artificial despontou como uma tecnologia que dá vantagens enormes e inéditas a quem a use bem, porém está claro que um poder político sem travas controla o poder tecnológico.

Para os clientes, a mensagem é que eles não podem depositar todos os ovos em uma cesta só, pois o “capataz da fazenda” pode arbitrariamente decidir para quem as galinhas botarão. E talvez diversificar as empresas não seja suficiente, sendo necessário contar com ofertas de diversos países. Em última instância, talvez modelos de arquitetura aberta rodando em servidores locais acabem sendo a única garantia de soberania digital.

Chega a ser irônico que os dois modelos barrados pelo governo americano se chamam Fábula e Mito. Isso combina com a opacidade do funcionamento da IA e das decisões governamentais e corporativas em torno dela.

Podemos esperar um aumento dessa opacidade de agora em diante, quando o desejável seria mais transparência, especialmente de empresas que declaradamente buscam uma inteligência artificial que supere a humana. Se há algo de bom nesse quiproquó é que ele está nos dando mais uma chance para olharmos para o impacto dessa tecnologia no que fazemos e colocarmos tudo em perspectiva.

 

Impacto da IA no trabalho influencia como jovens escolhem sua formação

By | Educação, Tecnologia | No Comments

Uma reportagem recente do The New York Times mostrou como adolescentes que vivem em pleno Vale do Silício estão deixando de estudar em universidades para fazer cursos profissionalizantes na área de construção civil. Esses jovens observam que a inteligência artificial está eliminando postos de trabalho para quem acaba de se formar e, por isso, estão buscando formações mais simples e rápidas que lhes garantam um emprego com salário de pelo menos US$ 200 mil anuais.

O senso comum apontaria para o oposto disso na Meca da inovação tecnológica, onde são desenvolvidas algumas das melhores plataformas de IA do mundo. Mas as demissões aos milhares, especialmente na área de TI (o que aumenta essa ironia), estão pesando na hora de escolher uma profissão. Além disso, a dívida estudantil universitária sempre assombrou os jovens de um país sem universidades públicas gratuitas e com um financiamento estudantil muito mais caro que o brasileiro FIES.

Pelo menos por enquanto, ainda não se observa esse movimento entre os brasileiros. Por aqui, fazer faculdade continua sendo um importante fator de mobilidade social. Mas a IA já está mudando o ensino nas escolas técnicas e universidades do país.

Assim como acontece com as redes sociais, nossos jovens já usam intensamente a inteligência artificial, mas fazem isso, via de regra, com uma educação digital deficiente. Os resultados são um aproveitamento limitado de seus recursos e um alto risco de comprometimento de seu aprendizado.

Essas deficiências abrem oportunidades interessantes para o reposicionamento e modernização do ensino brasileiro. Não se trata de submissão a uma tecnologia, mas de aproveitar a disrupção social e cognitiva que ela está promovendo no cotidiano.


Veja esse artigo em vídeo:


A sensação de que a IA pode diminuir o trabalho também preocupa aqui. Especialistas afirmam que o avanço tecnológico, a incerteza econômica e dificuldades de inserção profissional são decisivos. “No Brasil, há preocupação com o impacto da IA no emprego, com o ensino técnico e os cursos superiores de tecnologia aparecendo como alternativas de menor risco financeiro”, afirma o professor Rodrigo Vieira dos Santos. “A insegurança, portanto, não é contra o conhecimento em si, mas contra a combinação de custo alto, demora excessiva e retorno incerto da universidade.”

Embora os cursos técnicos representem pouco mais de um quinto das matrículas do Ensino Médio, sua participação dobrou nos últimos seis anos, impulsionada pela busca de uma formação rápida, prática e conectada ao mercado. Ao mesmo tempo, educadores ressaltam que esse movimento não deve ser interpretado como uma rejeição ao ensino superior, mas como uma tentativa de construir a carreira em etapas, reduzindo riscos em um momento de profundas transformações provocadas pela IA.

Embora não haja evidências de que a IA esteja levando os brasileiros a trocar a universidade por “profissões manuais”, ela passou a fazer parte do cálculo de empregabilidade dos jovens. Cursos técnicos e tecnólogos ganham espaço por oferecerem uma formação ligada a atividades com atuação em contextos reais, menos suscetíveis à automação. Em áreas como indústria, manutenção especializada e tecnologia, podem oferecer remunerações comparáveis às de graduações tradicionais.

“As habilidades técnicas tendem a ser cada vez mais supridas pelas automatizações de IA, contudo as habilidades comportamentais estão blindadas”, diz Marcelo Krokoscz, diretor do Colégio Técnico FECAP. Competências como comunicação, trabalho em equipe, ética, capacidade de decisão, adaptação e resolução de problemas em situações reais continuarão sendo essencialmente humanas. A IA tende a valorizar quem combina domínio técnico com experiência prática e habilidades interpessoais, justamente os atributos mais difíceis de automatizar.

Com isso, o ensino precisa mudar. “O professor precisa formar pessoas com pensamento crítico”, explica Ana Lucia de Souza Lopes, professora e líder do Laboratório de Humanidades Digitais, na Universidade Presbiteriana Mackenzie. Segundo ela, “quem não for educado assim não entenderá o papel da sua profissão dentro dessas novas demandas da sociedade.” Mais do que transmitir conteúdo, a escola passa a ter a missão de ensinar os alunos a pensar sobre o próprio processo de pensamento e a usar a tecnologia de forma consciente e crítica.

 

Mudanças provocadas pela IA

O preconceito contra o ensino técnico, historicamente visto como alternativa para quem não chega à universidade, começa a perder força. “O sistema brasileiro ainda carrega separações simbólicas e institucionais entre ‘mão’ e ‘cabeça’, entre formação técnica e formação acadêmica”, descreve Santos. “O ideal é construir itinerários integrados, o que é importante em uma economia em que a produtividade depende de domínio técnico, capacidade analítica e adaptação contínua.”

Essa mudança vem de um mercado que valoriza cada vez mais competências práticas e atualização permanente. Com a demanda crescente por profissionais qualificados, a discussão passa a considerar qual formação oferece melhores condições para aprender continuamente, adaptar-se às novas tecnologias e construir uma trajetória profissional consistente, características desses estudantes.

O Brasil não pode, porém, insistir na ideia de que o ensino superior seja um privilégio das elites. Se a universidade passar a ser vista como um investimento caro, demorado e de retorno incerto, a IA pode aprofundar desigualdades históricas ao restringir a mobilidade social. Ao mesmo tempo, os cursos técnicos democratizam o acesso à qualificação, mas não devem ser tratados como caminhos de menor prestígio.

Para os especialistas, não existe uma resposta única diante das transformações da IA. “Se o objetivo é disputar uma vaga de altíssima concorrência, faz sentido um Ensino Médio com perfil de pré-vestibular”, sugere Krokoscz. “Mas, se for continuar o desenvolvimento e amadurecimento pessoal, o ensino técnico é uma excelente opção.”

A decisão deve levar em conta vocação, tempo de inserção no mercado, custo, perspectivas de renda e a possibilidade de construir a carreira em etapas.

“É importantíssimo recuperar o valor do conhecimento, porque não dá para fugir dos efeitos da IA”, conclui Lopes. “Temos que trabalhar isso na perspectiva da inteligência humana, que é o que está em jogo.” Para ela, as escolas precisam formar jovens críticos e com competências socioemocionais, em vez de apenas consumir respostas prontas produzidas por máquinas.

O desafio, portanto, não é competir com a IA, mas evitar que ela substitua aquilo que é só nosso. A tecnologia deve ampliar as capacidades das pessoas, e não servir de atalho para que elas abandonem a reflexão, a criatividade e a responsabilidade de construir conhecimento e, assim, transformar a sociedade.

 

“Novo Google” impactará decisivamente negócios digitais e como construímos nosso conhecimento

By | Tecnologia | No Comments

O Google, cuja ambição declarada sempre foi “organizar as informações do mundo e torná-las acessíveis e úteis para todas as pessoas”, anunciou, no dia 19, aquilo que define como a maior mudança em seu buscador desde seu lançamento, em 1998. A tradicional página de resposta com links continuará existindo, mas eles perdem cada vez mais espaço para respostas sintéticas criadas pela inteligência artificial.

Não se trata de uma mera atualização de um produto que organizou a maneira como procuramos informações na Internet. A novidade, apresentada durante a conferência anual Google I/O, pode justamente redefinir como fazemos isso. Ela também deve impactar decisivamente os modelos de negócios de empresas que dependem do tráfego gerado pelo buscador, desde varejistas até empresas de comunicação.

O próprio Google será afetado. O buscador continua sendo sua principal fonte de receitas, vindas de anúncios e links patrocinados, que podem perder relevância no novo formato. Mas o gigante se viu pressionado a fazer a mudança por plataformas concorrentes, como o ChatGPT e o Perplexity, este último um buscador que nasceu em 2022 oferecendo respostas criadas pela IA a partir de buscas que ela mesma faz.

Entretanto, talvez mais importante do que esses choques empresariais seja como isso pode alterar profundamente a maneira como não apenas buscamos informações, mas como construímos nosso conhecimento. Com o buscador, fazemos isso sintetizando o que aprendemos a partir de sites relevantes criados com curadoria humana e diversidade de fontes. Com as respostas prontas da IA, cresce a tendência de se confiar no que a máquina apresenta como verdadeiro, mesmo sem transparência.

Fora de círculos especializados, há pouco debate sobre o risco que essa mudança representa para o futuro de todos nós. E isso agrava esse quadro, cada vez mais consolidado.


Veja esse artigo em vídeo:


O buscador do Google já flertava com a IA. A “Visão Geral de IA”, que apresenta resumos criados a partir dos sites mais relevantes das respostas, foi lançada em 2024. No ano seguinte, o “Modo IA” aproximou ainda mais a busca de uma plataforma de IA generativa. Segundo a empresa, o primeiro já ultrapassa 2,5 bilhões de usuários ativos mensais, enquanto o “Modo IA” passou de 1 bilhão de usuários em apenas um ano.

Agora, a busca será redesenhada para ser, desde a caixa de pesquisa, uma experiência contínua, conversacional e personalizada, em que agentes de IA podem acompanhar tarefas, agir em segundo plano e misturar sites com dados pessoais, deixando os links como complemento, e não mais como eixo principal da página.

Em outras palavras, as buscas deixam de ser estanques, passando a ser conversas contínuas em que o usuário interage com as respostas, como já acontece com plataformas de IA generativa. Além disso, os comandos podem criar agentes que continuarão monitorando sites e dados necessários para atender o pedido do usuário, de maneira autônoma, mesmo após o fechamento do buscador. Assim, será possível criar robôs para, por exemplo, acompanhar preços de passagens ou monitorar notícias sobre determinado assunto, de maneira autônoma.

Aí reside a grande mudança. A utilidade do buscador deixa de ser a organização de informações e passa a ser o acompanhamento de processos. Isso significa que os usuários não precisarão fazer repetidas buscas e clicar em diversos sites para encontrar o que querem, pois a IA fará isso silenciosamente e por sua conta.

Isso deve reduzir dramaticamente a visitação aos sites que criam os diferentes tipos de informação que alimentam o buscador e a própria IA, que vem desabando desde o ano passado. Sem o tráfego de pessoas que o buscador lhes garante há décadas, muitos desses criadores de conteúdo podem piorar suas entregas ou até fechar.

A IA e o Google tornaram-se sistemas autofágicos, que estão matando o que os alimenta. E, sobre isso, a empresa não deu um pio no Google I/O. Obviamente!

 

Ameaça ao senso crítico

A lógica da busca tradicional exige esforço intelectual. Com ela, é preciso comparar fontes, interpretar diferenças, analisar versões conflitantes e decidir em quem confiar. Esse processo obriga o usuário a participar ativamente da construção do próprio entendimento. A IA muda essa dinâmica ao transformar a informação em um produto mastigado e entregue com aparência de verdade definitiva, que nos tenta a aceitá-lo.

Esse movimento também dilui a noção de autoria e de responsabilidade. Hoje, quando lemos algo, sabemos quem é o autor e quais interesses podem estar em jogo. Assim, atribuímos pesos diferentes a cada fonte. A IA, por sua vez, tritura tudo em um texto homogêneo, em que o “autor” passa a ser a plataforma. Isso facilita a vida de quem consulta, mas dificulta a tarefa de responsabilizar alguém quando há um erro ou viés.

Existe ainda a erosão de nossa curiosidade. Os buscadores nos acostumaram a abrir abas, seguir links inesperados, cair em sites que não estávamos procurando e, muitas vezes, mudar a pergunta no meio do caminho. Essa deriva é parte essencial da construção de conhecimento, porque nos expõe ao imprevisto e à complexidade.

Concentrar o poder de síntese em poucos modelos e poucas empresas torna o ecossistema informacional perigosamente frágil. Se bilhões de pessoas passam a depender dos mesmos filtros automáticos para entender o mundo, eles distorcerão tudo o que vemos. E jovens crescendo nesse formato podem desenvolver menos repertório crítico e autonomia intelectual, criando um enorme risco civilizatório.

Se o Google quer transformar seu buscador em um “sistema vivo” agindo em nosso nome, a sociedade precisa decidir quais salvaguardas exigirá de quem passa a controlar, em tempo real, a triagem do conhecimento de bilhões de pessoas.

A empresa argumenta que apenas responde a uma transformação dos usuários, o que é uma verdade parcial. As pessoas querem rapidez e praticidade, mas eficiência informacional não é necessariamente sinônimo de amadurecimento intelectual, assim como parte da fricção no processo de busca nos obriga a pensar.

Se a Internet e o Google foram construídos sobre a promessa de ampliar nosso acesso ao conhecimento, a IA parece caminhar para substituir gradualmente nossa participação nesse processo. É hora de perceber que existe uma diferença enorme entre ter respostas fáceis para tudo e realmente compreender alguma coisa.

 

Mercado abandona o deslumbramento e começa a cobrar resultado da IA

By | Tecnologia | No Comments

Depois de três anos de histeria em torno da inteligência artificial generativa, o mercado começa a amadurecer no uso corporativo da tecnologia. O deslumbramento com demonstrações impressionantes e promessas futuristas começa a dar espaço para uma discussão mais pragmática sobre contexto empresarial, qualidade de dados, governança e execução operacional. Entram em cena cobranças por produtividade mensurável e redução de custos em processos de missão crítica.

Essa percepção deu o tom ao Sapphire 2026, principal evento da SAP, realizado em Orlando (EUA), nos dias 12 e 13 de maio. A gigante alemã de software tenta se posicionar nessa nova fase como uma companhia de IA sustentada por décadas de experiência em software empresarial. A tese defendida no evento é que uma IA sem contexto corporativo produz respostas rápidas, mas não necessariamente confiáveis.

No centro dessa ambição, está a ideia de “empresa autônoma”. Em vez de automação de tarefas isoladas, a SAP descreve organizações em que agentes de IA executam cadeias inteiras de processos, integrando todas as áreas do negócio. E isso acontece sempre sob supervisão humana, mas com muito menos intervenção manual.

Para isso, a empresa insiste que o diferencial está menos nos modelos de IA e mais nos dados que os alimentam. Aí reside um problema conhecido, especialmente no Brasil, país com histórico de baixa disciplina na coleta, manutenção e consistência de dados, com sistemas legados, bases duplicadas, informações em silos e pouca governança, o que transforma uma IA sofisticada em um castelo de areia.

É inevitável pensar quanto dessa visão é um horizonte plausível, ainda que distante, e quanto permanece como ideal de marketing. Afinal, criar pilotos de IA ficou relativamente simples, mas transformar essas experiências em operações confiáveis, escaláveis e financeiramente sustentáveis ainda não é trivial.


Veja esse artigo em vídeo:


O CEO da SAP, Christian Klein, reconheceu essa dificuldade citando que a adoção da IA avançou mais rápido do que qualquer tecnologia anterior. Mas acrescentou que as empresas precisam ir além da exploração superficial, transformando a IA em resultados concretos de negócio, com mudança cultural, redesenho de processos e treinamento de pessoas. “No final das contas, nunca se esqueça de que a gestão de mudanças é muito importante”, explicou.

Adriana Aroulho, presidente da SAP na América Latina, reforçou que as empresas ainda estão longe de se tornarem realmente autônomas, e que a IA não pode se transformar em desculpa para terceirizar decisões que exigem responsabilidade humana. “As decisões importantes estão no ser humano, nas pessoas”, disse. Para ela, a tecnologia nunca deve tomar decisões críticas de negócio, com grande impacto social ou regulatório, sem que um gestor entenda o que há por trás da recomendação.

Ainda não existem empresas plenamente autônomas, e os próprios executivos da SAP reconhecem que esse é mais um norte do que uma descrição do presente. As organizações estão automatizando fragmentos de operação, mas falta integração de dados, governança, cultura organizacional e capacidade de coordenação entre sistemas distintos. A tecnologia avança exponencialmente, mas as empresas evoluem em ritmo mais lento em áreas fundamentais como liderança e organização interna.

Ainda assim, o mercado começa a perceber essa mudança de prioridade, saindo do discurso de “não quero ficar para trás” para o de “quero resultado”. “O que eu mais vejo hoje são empresas que fazem pilotos de IA que funcionam, mas, na hora de escalar para toda empresa, faltam dados”, alertou Rui Botelho, presidente da SAP Brasil.

A SAP reconhece que não conseguirá construir tudo sozinha. Por isso anunciou um fundo de 100 milhões de euros para parceiros desenvolverem agentes em sua plataforma e reforçou alianças com empresas de modelos de linguagem, consultorias e integradores. A disputa deixa de ser apenas “ter IA” e passa a ser “controlar a infraestrutura invisível” na qual os agentes corporativos irão operar.

 

A importância da liderança humana

Um dos aspectos mais interessantes do Sapphire foi o esforço consciente da SAP em reforçar que humanos continuam responsáveis pelas decisões estratégicas. Quanto mais o evento falava sobre autonomia, mais surgiam temas como supervisão crítica, contexto de risco, responsabilidade jurídica e julgamento humano.

Ao mesmo tempo, a IA começa a se transformar em uma espécie de “interface universal” para o software corporativo. O trabalho deixa gradualmente de ser navegar por menus complexos do ERP e passa a ser formular boas perguntas, desenhar agentes e supervisionar fluxos automatizados. Isso reconfigura profissões inteiras, mas não elimina a necessidade humana.

Os impactos sobre o trabalho já aparecem, inclusive com grandes ondas de demissões em vários setores do mercado. Brenda Brown, CMO de inteligência artificial da SAP, reconhece a mudança de natureza dos empregos e afirma que qualquer profissional, de qualquer área, precisa aprender a aplicar IA no que faz para continuar relevante. “A IA não vai te substituir, mas alguém que a usa fará isso”, explicou.

Existe um aparente paradoxo nessas transformações maiúsculas e aceleradas promovidas pela IA, e ele apareceu no Sapphire. Quanto mais se falou no evento sobre agentes autônomos e automação empresarial, mais emergiram temas profundamente humanos, como medo, cultura organizacional, liderança, responsabilidade, formação profissional, manutenção de empregos e ética.

A tecnologia pode estar realmente deixando de ser apenas uma vitrine de inovação para se tornar parte crítica da estrutura operacional das empresas. Se for isso, trata-se de uma maturação necessária e inevitável, com a qual estamos aprendendo a lidar.

Isso também ficou evidente na palestra de encerramento do evento, quando o multicampeão do tênis Roger Federer subiu ao palco para falar sobre disciplina, derrotas, pressão, equipe e família. Em um evento dominado por IA, um dos momentos mais fortes veio justamente de uma reflexão profundamente humana.

Assim, antes de sonhar com organizações operando no piloto automático, empresas e sociedades precisam enfrentar seus próprios gargalos de organização, liderança e prioridade, sob o risco de construírem sistemas cada vez mais inteligentes em cima de decisões cada vez menos sábias, o que não interessa a ninguém.

 

“O Diabo Veste Prada 2” mostra que não dá para baixar a guarda nas redes sociais

By | Tecnologia | No Comments

Duas décadas são suficientes para abalar ícones e demolir modelos de negócios outrora bem-sucedidos, se não forem bem cuidados. A crise da revista “Runway”, retratada em “O Diabo Veste Prada 2”, demonstra didaticamente como ninguém está imune a isso, não importa seu tamanho ou setor.

O filme estreou com força nos cinemas, trazendo novamente Meryl Streep, como a impiedosa editora Miranda Priestly, e a idealista Andy Sachs, vivida por Anne Hathaway. O drama da publicação reflete o do jornalismo e escancara um movimento que vem transformando decisivamente a sociedade. Ao longo de 20 anos, a imprensa perdeu sua posição de farol do debate público e, com isso, a polarização se instalou.

Não se trata de se ter menos jornalismo. O grande problema da mídia profissional é que ela se desconectou do seu público, algo grave para qualquer negócio, mas mortal para uma atividade cuja própria existência se justifica pela representatividade social.

As redes sociais perceberam o vazio formado e o ocuparam de forma avassaladora. As big techs prenderam o jornalismo em uma gaiola e agora, seguindo apenas seus interesses opacos, enterram uma notícia importante para promover uma grande porcaria engajadora. E a inteligência artificial deve agravar esse quadro.

Aí reside a grande crise: engana-se redondamente quem pensa que isso é um problema do jornalismo. Esse poder de vida ou morte das plataformas digitais paira sobre as cabeças de todas as pessoas e todas as empresas.

Estamos perdendo o controle sobre como as pessoas nos veem, e quanto do que fazemos é visto e compreendido corretamente por elas.

Veja esse artigo em vídeo:

No filme, Peter (Patrick Brammall), interesse romântico de Andy, discute com ela a “evolução” inevitável de qualquer negócio, de jornalismo a farmácias. Para ele, formatos e produtos devem se adaptar à conveniência do consumidor. Andy reage a isso, argumentando que a conveniência não pode matar a essência de uma operação, e que há preços éticos e humanos altos demais para serem pagos.

Esse choque de visões define o mundo atual, pois os dois lados têm argumentos válidos, mas que parecem ser irreconciliáveis. É verdade que a experiência do cliente nunca foi tão decisiva, mas exagerar nesse remédio pode transformá-lo em um veneno que mata os valores e a identidade que vincularam o produto a seu público.

A solução óbvia é encontrar um equilíbrio entre os dois, mas falar é muito mais fácil do que fazer, especialmente em um cenário em que as plataformas digitais conseguem convencer as massas de que seus interesses corporativos deveriam ser os de todo mundo. O bom jornalismo se recusa a flexibilizar sua ética e boas práticas, o que é louvável, mas falha em criar a tal conveniência. E, nessa dificuldade, estão muitas outras empresas que parecem incapazes de escapar do ostracismo digital.

Como em qualquer crise, ela não veio da noite para o dia. Incontáveis reportagens dos próprios veículos de comunicação a anunciaram, mas eles ignoraram olimpicamente as mudanças de mentalidade que o meio digital promoveu. Ironicamente, o jornalismo continua existindo e até pautando muito do que se fala nas redes, mas o que é visto e principalmente como é visto acabam sendo determinados pelos donos dos algoritmos.

Viver em função do gosto constantemente variável dos algoritmos é um erro fatal. Em um primeiro momento, pode fazer sentido, pois as plataformas digitais dão visibilidade àqueles que se submetem a elas. Mas esse fôlego é curto, e todos são jogados ao mar quando não interessam mais às big techs.

 

“Porteiro” digital e fragmentado

Do jornalismo às farmácias, a Internet fez com que o interesse público deixasse de ser organizado em torno de poucos intermediários confiáveis para se tornar uma arena fragmentada, guiada por algoritmos e disputas permanentes por atenção.

Qualquer pessoa passou a disputar espaço com grandes marcas. Mas os algoritmos não privilegiam qualidade ou veracidade, e sim engajamento apenas, em que futilidades e conflitos costumam gerar mais cliques do que apuração cuidadosa.

Com isso, pilares da sociedade passaram a ser questionados continuamente, incluindo imprensa, ciência, universidades e governos. Isso revelou falhas dessas instituições, mas também abriu espaço para campanhas organizadas de descredibilização, frequentemente impulsionadas por grupos que se beneficiam do caos informacional.

Nem a outrora poderosa “Runway”, que gastava facilmente US$ 300 mil em um ensaio fotográfico, resistiu. No novo filme, sua edição impressa ficou tão fina que poderia ser usada como fio dental, nas palavras da própria Priestly.

Curiosamente, a moda pode nos indicar caminhos para escapar desse dilema. Quem constrói sua identidade, carreira e visão em torno dela tende a envelhecer com o hype. Por outro lado, aqueles que mantêm certa distância crítica atravessam mudanças sem depender das próximas ondas de validação coletiva, cada vez mais curtas.

Hoje, as tendências vão além das roupas e do comportamento, moldando opiniões, consumo, tecnologia e até posicionamentos políticos. As plataformas digitais aceleraram esse mecanismo, garantindo visibilidade instantânea ao que está “na moda”, enquanto o que exige reflexão costuma perder espaço.

“Não seguir a moda” não implica em rejeitar toda novidade ou assumir uma postura elitista de negação do presente. Significa preservar autonomia intelectual, cultivando a diferença entre entender uma tendência e ser absorvido por ela.

Quem não tenta desesperadamente acompanhar tendências pode construir algo mais duradouro e original. Algumas das ideias mais relevantes surgiram de pessoas que resistiram a consensos rasos do momento, e isso vale para a imprensa, farmácias e qualquer outro negócio.

Em um mundo feito tóxico pela desinformação, o jornalismo se faz mais necessário do que nunca, mesmo deixando de ocupar o centro da conversa. O desafio da imprensa e de todos nós passou a ser a compreensão do espírito desse tempo em que vivemos, sem nos tornar reféns dele.

 

Usos banais da IA consomem recursos, enquanto empresas ainda sofrem por resultados

By | Tecnologia | No Comments

Pouca gente pensa (ou mesmo sabe) o que se gasta de recursos para que a inteligência artificial funcione. É um erro achar que tudo é grátis ou até barato, mas essa percepção e o marketing irresponsável das empresas que desenvolvem essa tecnologia estão criando uma explosão de usos banais da IA, enquanto a maioria das empresas ainda patina na busca por resultados concretos para seus negócios.

Alguns acontecimentos nos últimos dias me fizeram pensar mais sobre isso. Na terça, na palestra de abertura da conferência Gartner Data & Analytics, em São Paulo, Sarah James, diretora da consultoria, disse ter uma amiga “que não faz mais nada sem antes consultar a IA”. Na mesma fala, ela mostrou que, apesar de 80% das empresas investirem em projetos de IA, apenas 20% já obtiveram qualquer retorno deles.

Em outro caso, a revista “Piauí” trouxe uma crítica à ocupação das redes sociais por conteúdo de baixa qualidade produzido por IA, destacando a popularização de vídeos com frutas antropomorfizadas e sexualizadas. As big techs não se importam com isso, pois se beneficiam financeiramente com essa prática, que gera muitas visualizações.

Vemos pessoas dizendo estar apaixonadas ou fazendo terapia com plataformas de IA, usos inadequados de uma tecnologia que agrada seus usuários além do aceitável. Enquanto isso, um artigo de “The Economist” explicou que a IA enfrenta a sua primeira crise, pois fornecedores não conseguem suprir a demanda explosiva de data centers por processadores, memórias, transformadores, painéis elétricos e turbinas a gás.

Isso não é um acidente, e sim uma consequência de um modelo de negócios baseado em atenção. Mas esse desalinhamento entre usos tolos e exigências estratosféricas merece uma avaliação econômica e ética sobre se faz sentido consumir tantos recursos para produzir “AI slop”, o “lixo da IA”.


Veja esse artigo em vídeo:


Eu já vi essa história antes. No início da Internet de banda larga, pornografia e streaming rudimentar impulsionaram a infraestrutura, atraindo investimentos em redes mais rápidas. O amadurecimento era claro e a infraestrutura crescia livre da qualidade do conteúdo que circulava nela. Aquela “fase selvagem” provisória abriu caminho para usos de mais valor social, como educação, serviços públicos e trabalho remoto.

Na IA, as futilidades cumprem um papel parecido, ao gerarem tráfego, mas as semelhanças param por aí. Esses usos exaurem uma infraestrutura muito mais cara que a da banda larga. E a tendência não parece ser “primeiro o lixo e depois a coisa boa”, e sim uma convivência entre aplicações de alto valor e um oceano permanente de conteúdo descartável, guiado pela ganância das big techs.

Por isso, conteúdos absurdos, como vídeos de “abacatudos” e de “moranguetes”, não são uma distorção desse ecossistema, e sim um subproduto previsível de plataformas que monetizam atenção, não qualidade. E, nesse ponto, as empresas que desenvolvem as plataformas de IA e as que são donas das redes sociais dão as mãos, pois o sucesso de uma retroalimenta o da outra. Essa simbiose está na raiz de seus lucros gigantescos e de suas valorizações trilionárias nas bolsas.

Da mesma forma, a substituição silenciosa de relações humanas por interações mediadas por algoritmos segue a mesma lógica. Não se trata de atacar o uso que cada pessoa faz dessas plataformas, e sim de questionar algoritmos que incentivam usos que chegam a ser patológicos, mesmo quando os sistemas já percebem que a conversa não está indo por bons caminhos.

O problema não recai, portanto, sobre a IA em si, mas sobre os modelos de negócios que a moldam.

 

Celulares e computadores mais caros

Outro grupo empresarial, o dos fabricantes de eletrônicos de consumo, também está surfando nessa onda. Celulares, computadores, videogames, televisões e até geladeiras trombeteiam que agora possuem recursos de IA.

Para entregar essa promessa, os equipamentos precisam de processadores mais poderosos e mais memória. Mas os data centers mastodônticos onde as plataformas de IA rodam também exigem quantidades colossais desses componentes. E, nesse confronto, os data centers pagam mais, o que está deixando todos esses equipamentos pessoais mais caros, pela lei da oferta e da procura. O mercado estima que, até o fim do ano, os preços de celulares e computadores cresçam em até 20%.

Apesar de tudo isso, não adianta querer ser “mais realista que o rei”. Graças à incrível facilidade proporcionada por esses equipamentos e pelas plataformas de IA, cada um usará esse poder como bem quiser. Se vídeos de baixa qualidade geram engajamento, eles serão produzidos em escala, com ou sem IA. A diferença é que ela reduz drasticamente o custo dessa produção.

Mas não podemos tapar os olhos para as consequências. A inteligência artificial é uma força transformadora da sociedade e deve ser usada. Mas os custos associados a ela são altos e todos pagam, até sem saber.

Estamos construindo uma das infraestruturas mais caras da história. As empresas gastam fortunas nela, vendem a promessa de transformação, mas estão entregando só 20% de resultados no que realmente deveria importar.

Caímos no debate da responsabilidade das redes sociais por viabilizarem qualquer produção de seus usuários, mesmo as que misturam estereótipos misóginos e relações afetivas violentas ou degradantes com humor, privilegiando as que mais engajam. Do outro lado, as plataformas de IA devoram recursos da sociedade, criando um desejo de consumo muitas vezes exagerado e desorientado.

As big techs não são meras espectadoras desse processo. Elas desenham os incentivos, moldam os usos e capturam o valor. Não se trata, portanto, de a IA estar indo rápido demais, mas de quem define a direção, quais suas motivações, a responsabilidade que assume e quem paga o preço desse processo anárquico.

Talvez a crise da IA que a escassez de recursos está gestando possa ser lida como uma oportunidade de pausa forçada para se discutir prioridades, inclusive de distribuição de poder de processamento. Frutas animadas e outros conteúdos fúteis podem continuar existindo, mas talvez esses usos da tecnologia devam pagar mais que os de atividades mais nobres, como medicina, educação, ciência e negócios produtivos.