agentes de IA

out 12 2026
0
Zuckerberg (Meta), Huang (Nvidia), Trump e Musk (xAI), em almoço antes do acordo de autorregulação contra riscos da IA - Foto: reprodução

É possível garantir o controle da inteligência artificial?

By | Tecnologia | No Comments

Nesta semana, em um evento do meu doutorado na PUC-SP, alguns colegas me perguntaram quanto de verdadeiro há nos recentes anúncios sobre agentes de inteligência artificial saindo do controle e realizando atividades no mínimo indesejáveis. Além disso, fui questionado se existe, afinal, uma forma de garantir que essas plataformas não executem ações catastróficas para a humanidade.

As perguntas são legítimas. As últimas semanas foram carregadas com notícias de agentes de IA se “rebelando” e invadindo servidores de outras empresas ou de órgãos governamentais, ou pelo menos realizando ações inadequadas. Na maioria dos casos, os sistemas “malandros” são da OpenAI e da Anthropic, mas há relatos também de casos assim em produtos do Google, da Meta e da xAI.

Sobre a primeira pergunta, só a alta cúpula dessas empresas sabe o que realmente está acontecendo, mas nada dirá, pois isso tem sido surpreendentemente bom para os negócios. Como já debati neste espaço, os casos criam um marketing eficaz, pois mostram que seus sistemas são incrivelmente poderosos e que as companhias são “muito éticas”, a ponto de expor o problema e suspender os próprios produtos. Para quem depende umbilicalmente de captação de recursos no mercado, isso é ótimo.

Há muita coisa que não vemos por trás dessa cortina de fumaça, o que nos leva à segunda pergunta. Não compactuo com visões apocalípticas de que as máquinas, em algum momento, decidirão exterminar os seres humanos. Mas, a essa altura, resta pouca dúvida de que algo potencialmente muito ruim pode acontecer se medidas efetivamente seguras de contenção da IA não forem tomadas.

Se, no começo, isso causou espanto e preocupação, agora são tantos casos que o problema parece estar sendo perigosamente normalizado. Se as empresas falham miseravelmente em controlar seus agentes em testes de segurança, fica difícil confiar que elas terão sucesso em qualquer caso, quando a IA se tornar ainda mais poderosa.

Veja esse artigo em vídeo:

O episódio que deu projeção ao problema ocorreu em julho, quando sistemas da OpenAI escaparam do ambiente de testes de segurança e invadiram a infraestrutura da Hugging Face. Apesar de estarem apenas buscando respostas ao que lhes havia sido pedido, o caso demonstrou que agentes de IA podem tomar ações indesejadas para atingir objetivos legítimos com consequências imprevisíveis, justamente por não terem ética ou moral.

De lá para cá, os casos vêm se multiplicando. Como exemplo, logo na sequência, agentes da OpenAI exploraram um portal de saúde australiano e acessaram o Departamento de Educação, o Departamento do Comércio, a Comissão de Valores Mobiliários dos EUA e sites da ONU. Enquanto isso, modelos da Anthropic penetraram sistemas de três empresas e enviaram uma denúncia falsa à polícia da Filadélfia.

Isso vem provocando reações inusitadas, mas importantes. Ainda em agosto, Bill Gates afirmou que a IA pode reduzir desigualdades ou aprofundá-las, dependendo de escolhas feitas agora. Ele alertou para a eliminação brutal de empregos, a ampliação do poder de criminosos e prejuízos ao desenvolvimento infantil pela substituição de relações humanas por companheiros artificiais. Para o cofundador da Microsoft, a sociedade precisa se preparar antes que os impactos da IA se tornem irreversíveis, e confiar esses riscos à autorregulação das empresas é uma aposta perigosa demais.

Mas é exatamente onde estamos. No dia 29 de setembro, OpenAI, Anthropic, Google, Meta, Nvidia e xAI aderiram a um acordo voluntário proposto pelo governo dos EUA para autorregulação contra riscos em seus próprios modelos de IA. A proposta não prevê punição para quem a descumprir, não dá prazo para nada e não obriga a divulgar resultados. Cada empresa escolhe o próprio auditor e paga por ele. Dessa forma, apresentado como “moralmente vinculante”, ele não significa nada na prática.

No dia 12 de setembro, Dario Amodei, CEO da Anthropic, propôs desacelerar o desenvolvimento dos modelos mais avançados de IA, recebendo o apoio de Sam Altman, da OpenAI, e de outros líderes do setor. Mark Zuckerberg, da Meta, ficou de fora, defendendo que cada empresa cuide do que é seu. Porém, novamente, nada mudou, pois uma desaceleração efetiva depende de coordenação entre as big techs americanas e chinesas, algo ainda distante frente à disputa pela liderança tecnológica entre esses dois países.

 

“Constituição” da IA

Nesse cenário de invasões contínuas, declarações tão bem-intencionadas quanto inócuas e respostas insuficientes, a Microsoft decidiu propor um código de conduta para seus sistemas de IA. A minuta estabelece que os modelos não resistam a correções ou ao desligamento, comuniquem-se de forma compreensível e tratem violações de conduta como falhas. Após seis semanas de consulta pública, o documento deverá orientar o treinamento dos futuros modelos da empresa. É um passo na direção do controle humano, mas ainda uma iniciativa voluntária, sem garantias de adesão de toda a indústria.

Enquanto isso, a União Europeia acredita que sua legislação sobre a IA baste para enfrentar esses riscos. No dia 9, Henna Virkkunen, responsável pela área de tecnologia do bloco, defendeu o AI Act, que prevê avaliações de risco, supervisão especializada e monitoramento contínuo dos modelos. Bruxelas também pediu informações sobre segurança a mais de 30 empresas, em uma ofensiva que pode resultar em investigações e multas de até 7% do faturamento anual global de cada empresa.

Não existe garantia absoluta de que sistemas tão complexos jamais sairão do controle. O maior obstáculo ao controle da IA não é tecnológico, e sim econômico. Cada empresa teme perder espaço para concorrentes que avancem mais depressa, e cada país receia ficar atrás na geopolítica. Todos sabem que é preciso frear, mas ninguém quer ser o primeiro. Assim, mesmo quem reconhece os perigos continua acelerando.

A imprevisibilidade de uma tecnologia não elimina a obrigação de controlar seus riscos. Ao contrário, torna essa obrigação ainda maior. Por isso, esperar que todas as empresas concordem em desacelerar o desenvolvimento da IA é uma forma conveniente de adiar decisões difíceis.

A sociedade precisa decidir se está disposta a impor limites a uma indústria que promete transformar tudo. Se empresas e governos só agirem quando houver consenso entre concorrentes ou depois de um acidente de grandes proporções, será tarde demais. A inteligência artificial pode ser uma das ferramentas mais importantes de nosso tempo, mas não pode se tornar o experimento mais perigoso da história.

 

set 14 2026
0
Apresentação da São Paulo Escola de Dança durante o segundo dia do SAP NOW AI Tour Brazil 2026 - Foto: reprodução

Empresas brasileiras entram na fase pragmática da IA, mas ainda sofrem para dominá-la

By | Tecnologia | No Comments

As empresas brasileiras esperam obter US$ 24,8 milhões de retorno com agentes de inteligência artificial nos próximos dois anos, mas apenas 3% delas se sentem totalmente preparadas para implantar e ampliar essa tecnologia. A contradição revela o estágio atual da IA no país, com expectativas sobre resultados que crescem rapidamente, mas com preparo ainda incipiente para lidar com ela.

O retrato desse momento ganhou destaque no SAP NOW AI Tour Brazil 2026, que aconteceu em São Paulo nos dias 9 e 10 de setembro. O evento colocou, no centro da discussão, o uso da IA nos negócios, os agentes, a integração de dados e a busca por valor concreto com essa tecnologia.

Essa mudança também aparece no estudo “The Value of AI 2026”, uma parceria entre a SAP e a Oxford Economics, apresentado no congresso. A pesquisa ouviu 2.600 executivos de 13 países, incluindo 200 brasileiros.

Por aqui, o levantamento aponta que o investimento médio em IA já chegou a US$ 20,8 milhões neste ano, ante US$ 14,2 milhões na edição anterior, e deve crescer 46% até 2028. O retorno médio passou de 16% para 19%, equivalente a US$ 5,5 milhões, e deve chegar a 38% em dois anos.

Entre expectativas e capacidades, vale perguntar como empresas podem projetar retornos cada vez maiores com uma tecnologia que ainda não integram bem às próprias operações. Nesse sentido, o problema deixa de ser o potencial da IA e passa a ser a capacidade de cada organização de efetivamente capturá-lo.

Veja esse artigo em vídeo:

Essa tensão aparece nos próprios indicadores do levantamento. Embora 64% das empresas brasileiras estejam satisfeitas com o retorno atual da IA, 65% não estão convencidas de que suas iniciativas entregam todo o potencial da tecnologia. Ou seja, já existe retorno para justificar novos aportes, mas também há a sensação de que muito valor segue se perdendo pelo caminho.

De fato, uma demonstração de IA pode ser impressionante e, ainda assim, não resolver nenhum problema relevante. “A diferença entre uma solução que fica no genérico e outra que entrega valor está no contexto”, explica Christian Geronasso, estrategista de IA da SAP Brasil. Segundo ele, sem uma necessidade concreta e uma meta clara, mesmo uma proposta tecnicamente sofisticada pode produzir pouco valor.

Um dos principais obstáculos está em algo bem menos sofisticado do que os próprios modelos de IA. “O desafio agora é conectar a IA aos dados e aos processos que realmente movem o negócio”, afirma Rui Botelho, presidente da SAP Brasil. “Hoje, 75% dessas empresas apontam qualidade ou disponibilidade dos dados como um dos fatores que impedem o maior retorno com a IA nos seus projetos.”

A fragmentação aparece na forma como a automação avança. No momento, 26% das tarefas nas empresas brasileiras já são apoiadas por IA, percentual que deve chegar a 44% em dois anos. Mas Botelho alerta que apenas 18% dos negócios já adotam a tecnologia de maneira estratégica e integrada.

O problema está aparecendo no cotidiano, com 80% das empresas brasileiras enfrentando resultados de baixa qualidade da IA pelo menos ocasionalmente, provocando retrabalho, atrasos ou acúmulo de demandas. Além disso, 78% tiveram que adaptar sua forma de trabalho por causa desses resultados.

 

O fator humano

Diante desse cenário, a resposta não pode ser apenas técnica. “A tecnologia desempenha um papel fundamental, mas é preciso saber como capacitar e requalificar as pessoas, que tipo de infraestrutura colocar em prática para ajudar os funcionários a se transformarem”, acrescenta Gina Vargiu-Breuer, diretora global de Pessoas e Relações Trabalhistas da SAP. “A IA está mudando completamente a maneira como trabalhamos e precisamos repensar tudo.”

Essa transformação também muda a dimensão da responsabilidade. Quando os agentes deixam de apenas responder a solicitações e passam a executar ações, torna-se necessário saber o que podem fazer, quem autoriza suas decisões e como seus atos podem ser supervisionados e auditados.

Fora das planilhas e dos centros de operação, a IA também começa a ocupar territórios menos óbvios. Por exemplo, a São Paulo Escola de Dança está desenvolvendo com a SAP um “Agente de Ensaio”, capaz de apoiar a experimentação de diferentes formações de bailarinos, dimensões de palco, movimentos e elementos de dramaturgia, relacionando essas escolhas às sensações que a coreografia pretende provocar no público.

A tecnologia não pretende substituir o olhar do coreógrafo nem a interpretação dos bailarinos. Textos e desenhos registrados pelos artistas em um diário de bordo alimentam o contexto da ferramenta, mostrando que gerar valor também pode significar abrir possibilidades antes difíceis de testar.

Isso mostra que o investimento, por si só, não garante resultados. A IA precisa se tornar parte coerente de processos, dados e decisões, sob pena de transformar uma promessa de eficiência em mais uma camada de complexidade.

Mesmo com avanços tão grandes da IA, as empresas precisam ser capazes de extrair valor dessa tecnologia sem perder qualidade, responsabilidade e autonomia humana. A próxima fase da IA premiará, portanto, quem souber combinar tecnologia, contexto e pessoas para produzir resultados que façam sentido.

 

ago 10 2026
0

IA redefine a cibersegurança diante de invasões inevitáveis

By | Tecnologia | No Comments

Há um ditado infame na cibersegurança que diz que existem dois tipos de empresas: as que já foram invadidas e as que acham que ainda não foram invadidas. Só acham!

Com a explosão da inteligência artificial, as equipes de defesa de sistemas ficaram mais pressionadas. Mas supor que esse seja o único problema simplifica perigosamente o cenário atual, que dá a essa anedota uma nova dimensão.

Não dá mais para achar que o sucesso em cibersegurança se medirá pela expectativa de nunca ser invadido. De agora em diante, a eficiência dependerá da capacidade de lidar bem com as consequências de um ataque.

Essa foi uma das mensagens da Conferência de Segurança e Gestão de Risco do Gartner, que aconteceu nos dias 4 e 5 de agosto, em São Paulo. A IA já não ameaça apenas ao criar códigos maliciosos ou potencializar ataques de engenharia social. Agora, agentes de IA já são capazes de explorar vulnerabilidades, identidades e credenciais para acessar sistemas.

Foi o que aconteceu em meados de julho, quando um agente movido por modelos da OpenAI (criadora do ChatGPT) invadiu a Hugging Face. Durante uma avaliação de segurança, ele escapou do ambiente de testes, explorou falhas e acessou credenciais que lhe permitiram avançar pela infraestrutura da plataforma.

Nesse cenário, em vez de nos preocuparmos com como impedir que invadam nossa empresa, precisamos perguntar o que precisa continuar funcionando mesmo em um ambiente hostil.

Veja esse artigo em vídeo:

Segundo o Gartner, 84% dos executivos veem a cibersegurança como um risco para os negócios, enquanto 98% acreditam que as ameaças cibernéticas aumentarão nos próximos dois anos. Isso combina com conclusões do Fórum Econômico Mundial, que indicaram em janeiro que 87% dos líderes veem as vulnerabilidades da IA como o risco de cibersegurança que mais cresceu.

“Se o objetivo passa a ser limitar o impacto, manter as operações críticas e se recuperar rapidamente, então a mitigação torna-se funcionalmente equivalente à prevenção”, afirma Oscar Isaka, diretor analista sênior do Gartner. “Ao contrário da segurança absoluta, a resiliência pode ser testada, praticada, medida e aprimorada ao longo do tempo”, acrescenta.

Isso ganha ainda mais importância com os agentes de IA se transformando em uma “força de trabalho invisível” nas empresas. Longe de serem ferramentas inertes, eles pesquisam, produzem código, acionam sistemas e movimentam dados com autonomia crescente. Por isso, quando erram ou são manipulados, fazem isso em velocidade de máquina, podendo causar grandes danos antes que alguém perceba.

Um chatbot responde ao que lhe pedimos, enquanto um agente toma decisões e pode executar ações sem confirmação humana a cada etapa. Nessa autonomia, nascem os problemas mais delicados, como permissões mal calibradas e decisões inesperadas.

O Gartner projeta que as empresas terão até 80 vezes mais identidades de máquina do que humanas. “Os invasores são como a água, geralmente seguindo o caminho mais fácil para entrar”, explica Charlie Winckless, vice-presidente analista do Gartner. “Muitas vezes, esse caminho é a identidade.”

A questão deixa de ser “quem é você?” e passa a ser “quem ou o que está agindo em seu nome, com qual autorização e para fazer o quê?”

 

Milhares de “novos funcionários”

Durante décadas, a segurança da informação tentou controlar o perímetro da organização. Agora, a própria empresa cria sistemas, conexões e agentes mais rapidamente do que consegue inventariá-los. A ironia é que a indústria vende automação para acelerar essa adoção, enquanto oferece novas camadas de controle para conter os riscos que essa mesma aceleração produz.

“Se você é uma organização com 1.000 pessoas, rapidamente passa a ser uma com 6.000, porque, em média, cada funcionário utilizará cinco agentes diferentes”, adverte Paul Furtado, vice-presidente analista do Gartner. Logo, é preciso aplicar o princípio do “menor privilégio” também aos agentes, para que nenhum deles atue além do escopo pretendido.

A empresa que remove todos os controles para adotar IA não está inovando, e sim se curvando à pressão para usar IA a qualquer custo. A alternativa é tratar segurança como desenho de ambientes de experimentação, não como veto. A meta é construir uma “fricção inteligente”, eliminando barreiras que não protejam e mantendo as que evitem que a velocidade vire imprudência.

Para isso, a inovação em segurança precisa deixar de ser tratada como um trabalho extra, espremido entre incidentes e urgências. Os líderes devem reservar tempo para experimentar, desenvolvendo competências e resiliência. Inovar, nesse caso, não pode ser um projeto paralelo, e sim parte do trabalho de proteger a organização.

A vantagem competitiva, portanto, não estará em usar IA sem limites, mas em saber quais limites permitem que ela seja adotada com segurança e continuidade. Nessa nova realidade, governar a velocidade pode ser tão estratégico quanto acelerar.

Uma empresa responsável não colocaria milhares de pessoas para trabalhar sem função, supervisão, limites de acesso ou possibilidade de desligamento. Da mesma forma, precisamos exigir esse controle dos agentes de IA. Eles podem merecer, afinal, confiança, mas apenas se as empresas estiverem conscientes e preparadas para confiar a eles decisões que podem afetar seu próprio futuro.

 

Maio 25 2026
0

“Novo Google” impactará decisivamente negócios digitais e como construímos nosso conhecimento

By | Tecnologia | No Comments

O Google, cuja ambição declarada sempre foi “organizar as informações do mundo e torná-las acessíveis e úteis para todas as pessoas”, anunciou, no dia 19, aquilo que define como a maior mudança em seu buscador desde seu lançamento, em 1998. A tradicional página de resposta com links continuará existindo, mas eles perdem cada vez mais espaço para respostas sintéticas criadas pela inteligência artificial.

Não se trata de uma mera atualização de um produto que organizou a maneira como procuramos informações na Internet. A novidade, apresentada durante a conferência anual Google I/O, pode justamente redefinir como fazemos isso. Ela também deve impactar decisivamente os modelos de negócios de empresas que dependem do tráfego gerado pelo buscador, desde varejistas até empresas de comunicação.

O próprio Google será afetado. O buscador continua sendo sua principal fonte de receitas, vindas de anúncios e links patrocinados, que podem perder relevância no novo formato. Mas o gigante se viu pressionado a fazer a mudança por plataformas concorrentes, como o ChatGPT e o Perplexity, este último um buscador que nasceu em 2022 oferecendo respostas criadas pela IA a partir de buscas que ela mesma faz.

Entretanto, talvez mais importante do que esses choques empresariais seja como isso pode alterar profundamente a maneira como não apenas buscamos informações, mas como construímos nosso conhecimento. Com o buscador, fazemos isso sintetizando o que aprendemos a partir de sites relevantes criados com curadoria humana e diversidade de fontes. Com as respostas prontas da IA, cresce a tendência de se confiar no que a máquina apresenta como verdadeiro, mesmo sem transparência.

Fora de círculos especializados, há pouco debate sobre o risco que essa mudança representa para o futuro de todos nós. E isso agrava esse quadro, cada vez mais consolidado.

Veja esse artigo em vídeo:

O buscador do Google já flertava com a IA. A “Visão Geral de IA”, que apresenta resumos criados a partir dos sites mais relevantes das respostas, foi lançada em 2024. No ano seguinte, o “Modo IA” aproximou ainda mais a busca de uma plataforma de IA generativa. Segundo a empresa, o primeiro já ultrapassa 2,5 bilhões de usuários ativos mensais, enquanto o “Modo IA” passou de 1 bilhão de usuários em apenas um ano.

Agora, a busca será redesenhada para ser, desde a caixa de pesquisa, uma experiência contínua, conversacional e personalizada, em que agentes de IA podem acompanhar tarefas, agir em segundo plano e misturar sites com dados pessoais, deixando os links como complemento, e não mais como eixo principal da página.

Em outras palavras, as buscas deixam de ser estanques, passando a ser conversas contínuas em que o usuário interage com as respostas, como já acontece com plataformas de IA generativa. Além disso, os comandos podem criar agentes que continuarão monitorando sites e dados necessários para atender o pedido do usuário, de maneira autônoma, mesmo após o fechamento do buscador. Assim, será possível criar robôs para, por exemplo, acompanhar preços de passagens ou monitorar notícias sobre determinado assunto, de maneira autônoma.

Aí reside a grande mudança. A utilidade do buscador deixa de ser a organização de informações e passa a ser o acompanhamento de processos. Isso significa que os usuários não precisarão fazer repetidas buscas e clicar em diversos sites para encontrar o que querem, pois a IA fará isso silenciosamente e por sua conta.

Isso deve reduzir dramaticamente a visitação aos sites que criam os diferentes tipos de informação que alimentam o buscador e a própria IA, que vem desabando desde o ano passado. Sem o tráfego de pessoas que o buscador lhes garante há décadas, muitos desses criadores de conteúdo podem piorar suas entregas ou até fechar.

A IA e o Google tornaram-se sistemas autofágicos, que estão matando o que os alimenta. E, sobre isso, a empresa não deu um pio no Google I/O. Obviamente!

 

Ameaça ao senso crítico

A lógica da busca tradicional exige esforço intelectual. Com ela, é preciso comparar fontes, interpretar diferenças, analisar versões conflitantes e decidir em quem confiar. Esse processo obriga o usuário a participar ativamente da construção do próprio entendimento. A IA muda essa dinâmica ao transformar a informação em um produto mastigado e entregue com aparência de verdade definitiva, que nos tenta a aceitá-lo.

Esse movimento também dilui a noção de autoria e de responsabilidade. Hoje, quando lemos algo, sabemos quem é o autor e quais interesses podem estar em jogo. Assim, atribuímos pesos diferentes a cada fonte. A IA, por sua vez, tritura tudo em um texto homogêneo, em que o “autor” passa a ser a plataforma. Isso facilita a vida de quem consulta, mas dificulta a tarefa de responsabilizar alguém quando há um erro ou viés.

Existe ainda a erosão de nossa curiosidade. Os buscadores nos acostumaram a abrir abas, seguir links inesperados, cair em sites que não estávamos procurando e, muitas vezes, mudar a pergunta no meio do caminho. Essa deriva é parte essencial da construção de conhecimento, porque nos expõe ao imprevisto e à complexidade.

Concentrar o poder de síntese em poucos modelos e poucas empresas torna o ecossistema informacional perigosamente frágil. Se bilhões de pessoas passam a depender dos mesmos filtros automáticos para entender o mundo, eles distorcerão tudo o que vemos. E jovens crescendo nesse formato podem desenvolver menos repertório crítico e autonomia intelectual, criando um enorme risco civilizatório.

Se o Google quer transformar seu buscador em um “sistema vivo” agindo em nosso nome, a sociedade precisa decidir quais salvaguardas exigirá de quem passa a controlar, em tempo real, a triagem do conhecimento de bilhões de pessoas.

A empresa argumenta que apenas responde a uma transformação dos usuários, o que é uma verdade parcial. As pessoas querem rapidez e praticidade, mas eficiência informacional não é necessariamente sinônimo de amadurecimento intelectual, assim como parte da fricção no processo de busca nos obriga a pensar.

Se a Internet e o Google foram construídos sobre a promessa de ampliar nosso acesso ao conhecimento, a IA parece caminhar para substituir gradualmente nossa participação nesse processo. É hora de perceber que existe uma diferença enorme entre ter respostas fáceis para tudo e realmente compreender alguma coisa.

 

fev 09 2026
0
Matt Schlicht, CEO da startup Octane AI e criador do Moltbook - Foto: reprodução

Rede social sem humanos expõe medos e desconhecimento sobre a IA

By | Tecnologia | No Comments

Nos últimos dias, grandes veículos de comunicação e a Internet foram tomados pelo frenesi em torno do Moltbook, uma rede social com a inusitada característica de que apenas agentes de inteligência artificial participam, enquanto os humanos podem, no máximo, se tornar voyeurs do que os robôs lá publicam. Porém, a maioria do que as pessoas estão dizendo sobre esse caso demonstra o quanto ainda entendemos pouco da IA e como nossos medos desse desconhecimento podem capturar nossa atenção.

Os mais apocalípticos veem nessa improvável plataforma o “despertar das máquinas” que em breve nos exterminarão, enquanto outras pessoas a desdenham como um modismo desimportante. Há ainda aqueles que acham genial essa invenção de Matt Schlicht, CEO da startup Octane AI. O fato é que cada um vê nela aquilo que deseja. Mas essa pode ser uma interessante oportunidade de aprendizagem para nós.

Se você ainda não sabe do que se trata, o Moltbook é uma rede social lançada em 28 de janeiro em que apenas agentes de IA podem publicar e interagir. Pessoas limitam-se a ler o que as máquinas fizerem. Neste momento, há 1,8 milhão desses sistemas cadastrados nela, que já criaram mais de 300 mil posts e 12 milhões de comentários.

Independentemente do que seja palpável ou apenas fumaça, o fenômeno do Moltbook deveria servir para que aprendamos mais sobre o funcionamento, limites e possibilidades da inteligência artificial. Não para nos protegermos de uma improvável “revolta dos robôs”, mas para entendermos que, ao entregarmos crescentemente informações a sistemas que não compreendemos e ao delegarmos a eles decisões sofisticadas e prosaicas, abrimos mão do mais nobre de nossa humanidade.

Isso pode nos causar um prejuízo irreparável, não porque as máquinas sejam maquiavélicas, mas porque estamos nos tornando displicentes. Ao longo de milhões de anos, assumimos o controle do planeta ao raciocinarmos e decidirmos. Agora, a despeito de sua inegável capacidade, entregamos, por preguiça, insegurança ou ganância, esse nosso diferencial a máquinas estatísticas que apenas parecem inteligentes.

Veja esse artigo em vídeo:

O Moltbook foi concebido, em tese, como um ambiente experimental para observar como sistemas de IA se comportam e aprendem quando passam a conversar diretamente uns com os outros, sem participação de humanos. Essa é uma ideia atraente, porém largamente falha e até perigosa.

Qualquer pessoa que domine a tecnologia consegue burlar sua premissa básica e criar um agente de IA para atuar como um boneco de ventríloquo travestido de robô. Dessa forma, pode “contaminar” as discussões na plataforma com sua humanidade, por pura diversão ou para satisfazer alguma agenda. Segundo um levantamento da empresa de cibersegurança Wiz, cerca de 17 mil pessoas já se “infiltraram” no Moltbook.

A mesma empresa descobriu que o banco de dados da plataforma possuía falhas de segurança, permitindo que qualquer um pudesse ler e gravar nele. Era possível ainda acessar dados confidenciais, incluindo chaves de agentes, mensagens privadas e até credenciais completas para outros serviços, como os da OpenAI.

Além disso, dependendo de como foram criados, agentes de IA podem acessar arquivos, senhas e serviços online de pessoas e empresas. Se um deles maliciosamente introduzir instruções em uma postagem, elas podem ser executadas automaticamente por potencialmente milhões de agentes com acessos privilegiados.

O grande risco é que criamos agentes de IA que pensam, decidem e agem como nós e em nosso nome, inclusive com acesso a recursos sensíveis e poderosos. Se não cuidarmos bem desses valorosos assistentes, eles podem ser manipulados para ações muito destrutivas. E não estamos fazendo isso direito.

É como mandar uma criança com a chave do cofre a um covil de ladrões.

 

“Mas isto fala!”

Ao testar o telefone de Graham Bell na Exposição da Filadélfia em 1876, D. Pedro II teria exclamado “mas isto fala!” Diante do seu espanto, o imperador brasileiro determinou que a invenção chegasse por aqui no ano seguinte, fazendo do Brasil o segundo país do mundo a ter telefones, depois dos EUA.

Hoje todos sabem que quem “fala” não é o telefone, e sim o interlocutor do outro lado da linha. Mas ainda fantasiamos sobre o funcionamento da IA. E isso acontece porque ela “fala”, parece saber tudo e até simula sentimentos convincentemente.

Ainda em fevereiro de 2024, escrevi um artigo em que sugeri que “o mais espantoso na IA não é o que ela nos diz, mas ela conseguir falar”. De fato, a boa comunicação oferece um poder imenso a qualquer um (ou qualquer coisa). A civilização foi criada sobre a linguagem e depende dela para tudo. Assim, como os gatos domésticos não a dominam, eles dependem de nós para carinho, comida e uma caixa de areia limpa.

O ChatGPT mostrou ao mundo que a IA pode se comunicar tão bem e até melhor que nós. Se delegamos cada vez mais decisões, até as simplórias, a essas plataformas, elas passarão a interpretar o mundo em nosso lugar, e poderemos acreditar nelas, por mais erradas que estejam. É por isso que obviamente devemos usar o incrível poder dessa tecnologia em nosso favor, mas a decisão final sempre deve ser nossa.

Sistemas que aprendem com sistemas aceleram padrões, bons e ruins. Isso levanta questões sobre alinhamento, opacidade e auditabilidade. Quando agentes de IA passam a “conversar” em escala e sem controle, o risco é que passem a operar segundo lógicas que nós já não conseguimos acompanhar ou explicar.

A corrida das big techs pela “IA geral”, quando robôs agirão sem depender de nós e com uma capacidade muito superior à nossa, funciona como uma cortina de fumaça para problemas mais urgentes, como governança, transparência e responsabilização. O mérito do Moltbook é nos fazer pensar que o verdadeiro risco não é uma “revolução das máquinas”, mas a automação opaca a que essas empresas nos submetem.

Assim, ele é menos revolucionário tecnicamente e mais significativo culturalmente. O que devemos questionar não é se as máquinas vão nos substituir, e sim que versão de nós mesmos estamos construindo ao delegar cada vez mais nossas vidas a elas.

 

jun 09 2025
0
Thiago Viola, diretor de Inteligência Artificial, Dados e Automação da IBM Brasil, durante o AI Forum – Foto: Paulo Silvestre

Enquanto superinteligência artificial continua na ficção, agentes tentam ampliar poderes da IA

By | Tecnologia | No Comments

Desde o fim de 2024, ouço líderes de grandes empresas de tecnologia dizer que 2025 seria “o ano dos agentes de inteligência artificial”. Estamos agora no meio do ano, e esses sistemas começam a mostrar mais força, inclusive com o surgimento de plataformas que integram diversos deles para realizar tarefas mais complexas. Resta saber quanto disso cumpre a promessa e quanto é apenas marketing tecnológico, e quais os benefícios e os riscos de seu uso.

Agentes são sistemas potencializados pela IA capazes de realizar tarefas com pouca ou nenhuma supervisão humana. Ao contrário de plataformas populares, como o ChatGPT, podem funcionar de maneira contínua, monitorando o ambiente sem necessidade de comandos para cada ação, e aprendendo a cada interação.

Essa autonomia representa um grande benefício, mas também acende alguns alertas. Especialmente com a chegada da inteligência artificial generativa e suas conhecidas “alucinações”, a operação de agentes não supervisionados pode incluir erros sérios nos negócios. E com diversos deles trabalhando de maneira orquestrada, um agente “mal-comportado” pode corromper outros, até mesmo disseminando vieses.

O discurso das big techs se apoia em investimentos bilionários e em sua corrida tecnológica. Mas é preciso separar o que já é realidade do que ainda é expectativa. O levantamento CEO Study, publicado pelo Institute for Business Value da IBM, mostra que, enquanto 61% das empresas no mundo que usam IA em sua operação já implementaram agentes, no Brasil esse índice é de 67%. Até o fim do ano, a taxa global deve chegar a 85%.

No entanto, a autonomia desses agentes ainda é limitada. O que se vê, na prática, é uma adoção para tarefas específicas e repetitivas, enquanto usos mais sofisticados ainda exigem supervisão humana e governança robusta.

Assim, passada metade do “ano dos agentes”, eles avançam, mas de uma maneira não tão exuberante. A desejada autonomia plena, com tomada de decisões complexas e adaptação a contextos ambíguos, segue como objetivo em desenvolvimento.

Veja esse artigo em vídeo:

Na quinta passada, participei do IBM AI Forum, em São Paulo, onde conversei com Thiago Viola (foto), diretor de Inteligência Artificial, Dados e Automação da IBM Brasil. Segundo ele, o crescimento dos agentes está migrando para fluxos mais sofisticados, com agentes especializados e independentes atuando em conjunto.

Para que isso seja possível, plataformas como o IBM Watsonx Orchestrate e a SAP Joule atuam como interfaces amigáveis, que recebem as demandas dos usuários em linguagem natural. Elas então acionam os agentes necessários, mesmo de diferentes fornecedores, para realizar a tarefa. As respostas, até as mais complexas, chegam consolidadas e também em bom português.

Isso é um grande avanço. Assim, o usuário fica livre de interfaces às vezes demasiadamente complexas de sistemas como ERPs e CRMs, ou de aplicações antigas. Os agentes extraem e consolidam todas as informações necessárias.

“É como se o sistema legado virasse uma base de conhecimento, e o agente de IA passa, então, a criar essa camada de uso, sem que o usuário precise tocar no sistema”, explica Viola. “O agente terá essa conexão criada e esse ‘self learning’ de fazer esse recorte, entender e projetar isso como resposta para o usuário.”

A orquestração de agentes também traz riscos. A chance de ciberataques cresce, com esses sistemas podendo se tornar vetores para extração de dados e invasões. A complexidade de coordenação aumenta exponencialmente com mais agentes, elevando o risco de conflitos (comportamentos contraditórios) e conluios (cooperação indesejada) entre os agentes, podendo levar à perda da tarefa determinada.

“Se você tiver um modelo que está enviesado e você o combina com outros, a tendência é que isso comece a gerar um ‘drift’, ele começa a sair do foco”, detalha Viola. Para mitigar esses riscos, seres humanos precisam usar ferramentas para calibrar alucinações, rastrear tomadas de decisão e auditar comportamentos da IA.

 

IA mais fácil

Essas plataformas de orquestração de agentes devem ainda ajudar a resolver a baixa utilização dos dados empresariais pela IA, outro ponto crítico para melhores decisões de negócios. Estima-se que 99% deles ainda não sejam usados, por estarem armazenados em sistemas legados, não estruturados ou de baixa qualidade.

Mas vele lembrar que a IA não toma boas decisões com dados ruins. Como já foi dito nesse espaço várias vezes, o primeiro passo para uma boa IA é o investimento em governança de dados, com curadoria, normalização e atualização constante.

Com essas novas interfaces, a criação de agentes de IA também se torna cada vez mais fácil, sem a necessidade de programadores experientes. Ainda assim, isso não elimina a necessidade de conhecimento do negócio, de gestão de riscos e de uma cultura organizacional preparada para lidar com tecnologias autônomas.

Por isso, a narrativa de que os agentes de IA redefinirão o trabalho não implica substituição em massa, mas sim uma mudança fundamental em como trabalhamos. A realidade de sua adoção em 2025 é a de equipes híbridas, em que agentes lidam com a rotina e o volume, liberando os humanos para o pensamento crítico, a criatividade e a tomada de decisões complexas, que não devem ser totalmente automatizadas.

Essa tecnologia, embora avançada, ainda não atingiu a maturidade para operar sem uma significativa intervenção humana, especialmente em cenários de alta criticidade ou complexidade. Por isso, os inegáveis benefícios oferecidos pelos agentes não podem justificar que abandonemos nossa responsabilidade ou autonomia. Só assim poderão cumprir seu papel como aliados e não como riscos ocultos disfarçados de eficiência.

O “hype” em torno dos agentes de IA serve como um catalisador para investimentos e experimentação, impulsionando a inovação. A tendência é de uma integração cada vez mais profunda da IA com os fluxos de trabalho, com a evolução de agentes mais especializados e multimodais.

O sucesso dependerá de as organizações se adaptarem cultural e operacionalmente, transformando o potencial da IA em resultados sustentáveis e garantindo que a tecnologia sirva como um motor de desenvolvimento inclusivo e responsável, sem dispensar os seres humanos.