A inteligência artificial deixou de ser vista como uma tecnologia restrita ao ambiente profissional. Milhões de pessoas já levam a essas plataformas suas angústias e dilemas mais íntimos. Surge então a dúvida sobre quem orienta tais sistemas a ocupar espaços antes reservados a amigos e profissionais especializados. Nesse cenário, as empresas de tecnologia começaram a buscar nas religiões parte dessa orientação.
Essa dimensão institucional ganhou destaque no dia 30 de outubro, quando o papa Leão XIV defendeu, no Vaticano, instituições internacionais capazes de transformar princípios éticos em regras efetivas para o desenvolvimento e o uso da IA. A preocupação do Sumo Pontífice vai além da tecnologia e envolve quem garante que esses princípios sejam respeitados.
Para ele, não faltam princípios éticos capazes de orientar essa tecnologia, mas mecanismos que os transformem em obrigações concretas. O papa defende padrões internacionais compartilhados, fiscalização independente e instrumentos de responsabilização para que o compromisso com a ética não permaneça apenas no discurso.
Enquanto o Vaticano defende regras institucionais, as próprias empresas de tecnologia também procuram respostas para esse desafio. Anthropic, OpenAI, Google, Meta, Amazon e Microsoft têm consultado religiosos, filósofos e representantes de diferentes tradições culturais, em uma tentativa de ampliar as perspectivas consideradas na construção e na orientação de seus modelos de IA.
As religiões acumulam séculos de reflexão sobre sofrimento, justiça, solidariedade, responsabilidade, vida e morte. Esse repertório merece ser ouvido quando máquinas passam a influenciar decisões humanas. Mas há uma distância que não pode ser ignorada entre reconhecer seu valor e traduzi-lo em orientações para algoritmos.
Veja esse artigo em vídeo:
Essa discussão já chegou à intimidade das pessoas. Chatbots são procurados para aconselhar sobre relacionamentos, angústias, saúde mental e dilemas morais. Há quem “faça terapia com o ChatGPT”, embora situações assim exijam contexto, sensibilidade e responsabilidade, já que uma resposta inadequada pode causar graves danos.
Chris Olah, cofundador da Anthropic, destacou no Vaticano, em maio, que tradições religiosas discutem essas questões há milênios. Já Sam Altman, CEO da OpenAI, defendeu, ainda no ano passado, que o ChatGPT reflita uma espécie de “média ponderada das visões morais da humanidade”, incorporando diferentes perspectivas às respostas.
- Assine gratuitamente minha newsletter sobre IA, experiência do cliente, mídia e transformação digital
- Inscreva-se no meu podcast (escolha a plataforma): Spotify, Deezer, Apple Podcasts ou Soundcloud
Mas essa aproximação enfrenta ressalvas importantes. Especialistas alertam que uma religião não pode ser reduzida a um conjunto de regras morais. Ela envolve também cultura, política, rituais, relações sociais e experiências históricas. Selecionar princípios isolados para incorporá-los a algoritmos pode descontextualizar seus significados e distorcer a própria tradição.
A ideia de reunir diferentes crenças sob categorias universais, como as chamadas “religiões do mundo”, foi construída historicamente por estudiosos ocidentais e não é necessariamente neutra. Assim, os próprios critérios usados para selecionar referências morais podem reproduzir vieses culturais.
Isso se torna mais complexo diante da inexistência de uma “moralidade universal”. Diferentes culturas podem apresentar visões legítimas, mas contraditórias, sobre questões éticas. Transformar esses princípios em instruções computacionais não elimina a necessidade de interpretar contextos e avaliar consequências. Afinal, reproduzir uma orientação moral não significa compreendê-la nem assumir a responsabilidade por seus efeitos.
Moralidade artificial
Há outra preocupação que não pode ser ignorada. Reunir diferentes tradições em um mesmo modelo pode produzir uma moralidade artificialmente homogênea, inclinada ao denominador comum ou a perspectivas ocidentais. Com isso, em vez de preservar as diferenças, a IA poderia acabar apagando-as.
No Brasil, a Pontifícia Universidade Católica do Paraná (PUC-PR) e o 404 Innovation Studio propõem outro caminho com a campanha “Nunca pare de pensar”. Em vez de tentar ensinar valores morais às máquinas, a iniciativa procura orientar a interação das pessoas com elas por meio do Código Humanitas, um protocolo gratuito com 12 artigos e cinco cláusulas finais, que pode ser incorporado às instruções de ferramentas como ChatGPT, Claude e Gemini.
“A inteligência artificial é um produto ofertado por empresas privadas, cujos objetivos são distintos e não buscam necessariamente o melhor para a humanidade”, afirma Cristina Pastore, diretora de Marca e Futuro da PUC-PR. “É preciso que limites éticos sejam impostos, mas isso só vai acontecer quando a população deixar de se entender apenas como consumidora destes modelos e passar a assumir governança e responsabilidade.”
Chega a ser contraditório que empresas que influenciam decisões humanas busquem nas religiões respostas para dilemas que também exigem debate público. Essas tradições podem contribuir, mas não substituir transparência, participação social e responsabilização. Não basta orientar sistemas de IA sobre o certo e o errado sem discutir quem escolhe seus valores e a quem eles servem.
Como propõe Leão XIV, o desafio é construir instituições capazes de transformar princípios éticos em regras exigíveis, diante de empresas cuja influência cresce mais rápido que os mecanismos de controle e responsabilização. A sociedade precisa participar da definição dos limites e das finalidades dessas tecnologias. Afinal, uma IA pode ser programada para produzir respostas aparentemente éticas, mas isso não torna éticas as empresas, as estruturas de poder nem as decisões humanas que estão por trás dela.
