OpenAI

out 20 2025
0
Sam Altman, CEO da OpenAI, justifica abertura à pornografia dizendo que ela “não é a polícia moral eleita do mundo” - Foto: reprodução

OpenAI faz vista grossa e troca ética por engajamento com pornografia no ChatGPT

By | Tecnologia | No Comments

A OpenAI anunciou que permitirá conteúdo adulto no ChatGPT, incluindo aplicativos eróticos na plataforma criados por empresas externas. Só que, disfarçada de liberdade criativa, a medida carrega riscos enormes, que vão muito além da exposição de adolescentes. A novidade insere tecnologia sofisticada em um campo carregado de estereótipos, manipulação e consequências sociais imprevisíveis, e isso afeta até quem não consome pornografia.

Desenvolvedores independentes e a própria OpenAI ganharão com a abertura de um mercado enormemente lucrativo até então inexplorado pela empresa. Do outro lado, adolescentes ficarão mais vulneráveis, assim como qualquer pessoa sujeita à naturalização de padrões sexuais distorcidos.

Na quarta passada (15), o CEO Sam Altman declarou que a OpenAI “não é a polícia moral eleita do mundo”, ao justificar a liberação. A frase parece uma defesa de princípios, mas é desonesta. Em agosto, ele dizia sentir orgulho por evitar “bots de sexo”, que dariam engajamento, mas seriam “desalinhados com o objetivo de longo prazo” da empresa. Agora, o negócio parece ter pesado mais do que a ética.

Esse recurso deve piorar, reforçar e perpetuar estereótipos já consolidados na pornografia. Mulheres e minorias podem ser retratadas de forma ainda mais degradante, e a tecnologia, em vez de corrigir distorções, tende a amplificá-las, criando novas camadas de objetificação.

Não é exagero dizer que isso pode alterar a maneira como as pessoas se relacionam entre si. Expectativas inatingíveis, comportamentos sexualizados distorcidos e uma compreensão enviesada do consentimento são consequências prováveis, pois este recurso reduzirá a necessidade de lidar com a complexidade de parceiros reais.

Mas gostem ou não, as pessoas precisam se relacionar com gente de verdade.

Veja esse artigo em vídeo:

Na prática, o novo recurso permitirá que adultos acessem conteúdos e experiências eróticas gerados pelo ChatGPT ou por aplicativos feitos para a plataforma. Esses aplicativos poderão oferecer interações de texto, histórias eróticas, sexting e até a geração controlada de imagens adultas. A liberação está prevista para dezembro.

O serviço também incluirá filtros opcionais e controle parental, mas a eficácia é incerta. A empresa quer consolidar uma “abordagem responsável”, mas deixa claro que a responsabilidade real será do usuário.

Altman afirma que quer “tratar adultos como adultos”. Ele justifica a mudança dizendo que novos sistemas de detecção de idade e controles de saúde mental tornaram essa liberação viável. Mas, ao se afastar da imagem de “empresa moralista” e permitir esse tipo de material, a OpenAI assume riscos éticos, agradando investidores que despejaram bilhões no negócio. E eles esperam crescimento brutal e contínuo, sem se impressionarem com escrúpulos morais.

Altman provavelmente sempre soube que liberaria conteúdo adulto se quisesse que o ChatGPT se tornasse uma plataforma verdadeiramente aberta. A diferença é que ele antes resistia por orgulho moral, criando agora essa incoerência que tenta dissolver ao racionalizar o conflito com a retórica sobre não ser “paternalista”.

A ironia é que, sob o pretexto de dar liberdade para adultos, o público está sendo usado como laboratório social, enquanto a empresa testa limites éticos.

 

Negócio arriscado

A indústria pornográfica agradece por ser legitimada por uma das empresas mais poderosas da tecnologia. A OpenAI, por sua vez, expande seu modelo de negócios e atrai usuários insatisfeitos com restrições. Por fim, adultos que defendiam essa flexibilização conquistam o que pediam, sem se preocupar com consequências.

Crianças e adolescentes, por sua vez, estarão mais próximos da exposição precoce a esse tipo de conteúdo, deixando para as famílias enfrentarem um ambiente digital ainda mais difícil de gerenciar. Não se pode esquecer que sistemas de verificação de idade na Internet têm uma eficácia historicamente deplorável.

O risco se agrava justamente quando a sociedade exige plataformas digitais mais seguras para jovens. A própria OpenAI enfrenta acusações sobre impactos de seus sistemas sobre pessoas que se suicidaram depois de interagir com o ChatGPT. Adicionar conteúdo adulto antes de resolver essas vulnerabilidades é arriscado e negligente, até que se prove o contrário.

Essa abertura da plataforma também pode ser usada para crimes não previstos pela empresa, como a produção de deepfakes pornográficos sem consentimento, extorsão sexual, material de abuso infantil e tráfico sexual. A moderação prometida não se sustenta, pois identificar infrações em bilhões de interações é praticamente impossível, e os criminosos são rápidos em explorar vulnerabilidades de novas tecnologias.

Plataformas de IA que já permitem conteúdo adulto, como o Grok, enfrentam problemas semelhantes, como perda de controle, vazamento de material sensível, reforço de estereótipos e dificuldade de fiscalização. A OpenAI pode repetir os mesmos erros, mas em escala muito maior, graças à popularidade do ChatGPT.

Portanto, mesmo quem gosta de pornografia não pode encarar a decisão da OpenAI como bem-intencionada ou mesmo ingênua. Ela representa uma aposta consciente de que lucros e crescimento valem os riscos de fortalecer estereótipos prejudiciais, facilitar crimes sexuais e até prejudicar relacionamentos reais entre pessoas.

Sabemos que, como de costume, a empresa fará o que quiser, a despeito de protestos ou evidências de perigo. Resta à sociedade exigir transparência através de relatórios públicos sobre falhas, pressionar por auditorias independentes dos sistemas de proteção, cobrar leis que estabeleçam padrões mínimos de segurança e desenvolver educação digital que prepare pessoas, especialmente jovens.

Infelizmente conseguir isso talvez seja o mais difícil de tudo. Mas não dá para depender apenas das boas intenções da OpenAI.

 

abr 28 2025
0
Sede do The Washington Post, que acaba de fechar acordo para distribuir seu conteúdo pelo ChatGPT - Foto: Daniel O'Neil/Creative Commons

Direitos autorais põem em dúvida de quem são os “ombros gigantes” onde a IA sobe

By | Jornalismo, Tecnologia | No Comments

O lançamento do ChatGPT no fim de 2022 plantou uma incômoda dúvida se as novas plataformas de inteligência artificial generativa estariam construindo seus impérios sobre obras alheias, sem autorização ou remuneração. Dois anos e meio depois, ela persiste e se intensificou.

A controvérsia ganhou novos capítulos recentemente. De um lado, a OpenAI firmou uma parceria com o The Washington Post para que seu ChatGPT publique resumos de notícias do jornalão. Do outro, figuras importantes do mundo digital defenderam abertamente a eliminação das leis de propriedade intelectual, uma postura radical e potencialmente destrutiva.

Essa divergência expõe uma fratura profunda no entendimento sobre como o futuro da tecnologia deve se relacionar com a criação humana. Enquanto os defensores da IA argumentam pelo uso irrestrito de conteúdos sob a bandeira do “uso justo”, produtores de conteúdo, desde artistas independentes até organizações como o The New York Times, movem processos alegando apropriação indébita.

A própria OpenAI, que defende seu direito de usar conteúdos alheios sem compensação ou mesmo autorização, não hesitou em acusar a empresa chinesa DeepSeek de violar sua propriedade intelectual quando a última lançou sua plataforma de IA. Essa contradição evidencia a complexidade e a hipocrisia desse debate.

Não se sabe como compensar financeiramente todos os criadores de conteúdo usados no treinamento da IA, e mesmo se isso é devido. Mas está cada vez mais difícil “empurrar com a barriga” a conclusão dessa disputa, que pode impactar profundamente o mundo, graças à penetração que a IA já construiu em nossas vidas.

Veja esse artigo em vídeo:

Em outros tempos, esse posicionamento dos executivos das big techs seria descartado como provocação barata. Mas em uma época em que sua influência na formulação de políticas públicas cresceu dramaticamente com a aproximação escandalosa desses magnatas ao novo presidente dos EUA, isso fica muito sério.

As empresas de tecnologia argumentam que, sem a flexibilização do “uso justo”, o desenvolvimento da IA será inviabilizado, entregando a liderança global dessa tecnologia absolutamente decisiva para a China. A OpenAI chegou a afirmar, com grande drama à Casa Branca, que a corrida pela IA estaria efetivamente encerrada para empresas americanas.

Sua postura incongruente evoca a famosa frase atribuída ao físico Isaac Newton: “se eu vi mais longe, foi por estar sobre os ombros de gigantes”. A afirmação reconhece que todo avanço intelectual se baseia em conhecimentos anteriores. Mas a OpenAI aplica essa filosofia apenas quando lhe convém.

A situação remete a Steve Jobs, que parafraseava Pablo Picasso dizendo que “bons artistas copiam; grandes artistas roubam” (na verdade, a frase de Picasso era “artistas menores tomam emprestado; grandes artistas roubam”). De fato, a história da tecnologia está repleta de casos assim, como a própria Apple, que desenvolveu a interface gráfica do Macintosh “roubando” conceitos da Xerox, cuja diretoria desprezou seus ícones e até o mouse, inventados pelos seus engenheiros da Califórnia.

Por outro lado, se os direitos autorais forem flexibilizados demais, corre-se o risco de desestimular a criação. Afinal, quem se dedicará a escrever livros, compor músicas ou apurar reportagens se souber que qualquer plataforma digital poderá usar o resultado de seu esforço, sem qualquer compensação, para alimentar máquinas que depois competirão com vantagem sobre seu próprio trabalho?

 

Impactos cognitivos e econômicos

Para além das questões legais, emergem preocupações sobre como essas tecnologias alteram nossa relação com a informação. Diferentemente dos resultados de um buscador tradicional, que apresenta diversas fontes e incentiva a navegação por diferentes perspectivas, as plataformas de IA oferecem respostas prontas, aparentemente definitivas.

Essa mudança tem implicações profundas do ponto de vista cognitivo. O usuário deixa de exercitar sua capacidade de análise, comparação e interpretação crítica de diferentes visões. Receber uma resposta “mastigada” pode parecer confiável, mas carrega riscos de imprecisão, viés e perda de contexto. Isso pode levar ao surgimento de uma geração com dificuldade para construir argumentos originais.

Essa lógica também ameaça a sustentabilidade dos sites de conteúdo. Se o usuário não precisa mais visitar as páginas originais, seu tráfego cai. Isso leva à diminuição de receitas de publicidade e assinaturas, fragilizando ainda mais o jornalismo profissional. É o paradoxo que o ChatGPT, ao destacar o bom jornalismo, contribui para sua erosão, reduzindo a diversidade das fontes disponíveis.

Há muitos conflitos nessa história para se oferecer uma saída simples. A parceria entre a OpenAI e o The Washington Post, com resumos autorizados, links e atribuição clara, precisa ainda ser validada, pois vejo os usuários se satisfazendo com o que a IA lhes trouxer, não sentindo necessidade de visitar as páginas originais.

A decisão dos EUA sobre essa questão terá repercussões globais. Se o país flexibilizar excessivamente os direitos autorais para beneficiar as big techs, outros países devem seguir o exemplo, desestabilizando indústrias criativas e potencialmente ampliando problemas como falsificação e pirataria.

A inteligência artificial já está entre nós, e não há como retroceder, pois seus benefícios são reais e inegáveis. Mas é urgente compreender seus impactos, e buscar equilíbrios.

Usuários, empresas de tecnologia, criadores de conteúdo, legisladores e a Justiça precisam debater de forma aberta, crítica e colaborativa como construir um ecossistema justo, com um ambiente onde os “gigantes” continuem a nos ajudar a enxergar mais longe, mas sem esquecer de quem são esses ombros.

Afinal, roubar com talento ainda é roubo. E a história mostra que os “piratas do Vale do Silício” sempre foram mestres nesse ofício.

 

nov 18 2024
0
Para o CEO da OpenAI, Sam Altman, devemos chegar à IA Geral nos próximos anos: agentes são um possível caminho - Foto: reprodução

Líderes da IA começam nova corrida tecnológica

By | Tecnologia | No Comments

A disputa para dominar a inteligência artificial anda tão acirrada, que se parece cada vez mais a uma corrida de cavalos, em que o ganhador vence “por um nariz”. Agora foi dada a largada para um novo páreo, o dos agentes de IA, e os principais nomes dessa indústria já estão na pista!

Isso não quer dizer que os agentes sejam uma novidade: eles já existem há anos em nossas vidas pessoais e profissionais. Mas até agora são soluções prontas dos fabricantes. Criar o próprio agente é uma tarefa complexa e que exige conhecimentos técnicos. O que Microsoft, OpenAI, Google e Anthropic prometem agora é tornar essa tarefa tão simples quanto conversar com um chatbot, como já nos acostumamos.

Um agente é um sistema que usa a IA para realizar tarefas específicas de maneira autônoma, com pouca ou nenhuma dependência de um ser humano. Ele age de maneira contínua, monitorando o ambiente e analisando dados para tomar decisões seguindo o que lhe foi pedido. Isso é bem diferente de um uso da IA generativa, como conversas com o ChatGPT, em que, por mais incríveis que seus resultados sejam, são atividades pontuais e totalmente dependentes da interação com o usuário.

Essas empresas agora prometem unir o melhor desses dois mundos, de modo que qualquer pessoa possa criar agentes sofisticados de maneira tão simples, quanto pedir que o chatbot escreva um texto. Ainda que isso não vá acontecer imediatamente, a simples abertura desse caminho pode ser realmente revolucionária.

Veja esse artigo em vídeo:

A Microsoft saiu na frente nessa nova etapa, com o lançamento do Copilot Studio. Ele permite criar agentes de IA com relativa facilidade, expandindo as funcionalidades do Copilot ao integrá-lo a bases de dados empresariais, gerando respostas a partir dessas informações, considerando cada contexto específico. Esses agentes podem ser distribuídos para pessoas dentro e fora da organização.

Já a Anthropic, startup de IA ligada ao Google e à Amazon, anunciou recentemente uma abordagem inusitada para sua plataforma Claude, batizada de “uso do computador”. Ainda na fase de testes, ela inova ao adaptar a IA para o uso de sistemas existentes, e não o contrário. Ela pode, por exemplo, assumir o controle de um computador como se fosse o usuário, para realizar tarefas de acordo com o que aparece na tela, até mesmo usando vários programas.

A OpenAI, que continua sendo a estrela mais brilhante do setor com seu ChatGPT, obviamente não quer ficar para trás. A empresa anunciou a versão de testes de um produto para desenvolvedores semelhante à solução da Anthropic. Ela deve ser liberada em janeiro.

O Google também “está dando seus pulos”. A empresa promete novidades na área de agentes ainda nesse ano! Vale lembrar que a empresa impressionou muita gente em 2019, quando ninguém ainda falava de IA generativa, com o lançamento do Google Duplex. Ele permite que o usuário peça que o Assistente realize tarefas simples, com a possibilidade de fazer ligações telefônicas, para, por exemplo, reservar uma mesa de restaurante, interagindo com atendentes humanos. Essas conversas são tão impressionantes, que muita gente se incomodou quando descobria que estava falando com um robô, e não com outra pessoa.

Os agentes que já estão disponíveis em nosso cotidiano se diferenciam de automações convencionais justamente pelas características da IA, especialmente de continuar funcionando se algo não sai como o esperado. Eles também melhoram com o uso, aprendendo coisas novas.

 

O futuro é dos agentes

Nas empresas, os agentes vêm sendo usados cada vez mais no atendimento automatizado a clientes. Eles também são muito úteis ao identificar movimentos do mercado e propor ações mais assertivas para as equipes comerciais, além de ajudar em negociações e de propor ideias aos gestores. Eles também são bastante usados pelo RH, em processo de contratação e até de demissão de profissionais.

Em nosso cotidiano pessoal, os agentes estão em nossos smartphones (no Google Assistente e na Siri) e em alto-falantes inteligentes, como o Amazon Echo. Nesse último, a Alexa pode, entre outras coisas, identificar compras recorrentes e auxiliar em novos pedidos, quando necessário. Relógios inteligentes e outros dispositivos podem monitorar a nossa saúde, e até eletrodomésticos, como aspiradores de pó robôs, realizam tarefas da casa de forma autônoma e cada vez melhor.

Quando a nova geração de agentes sair da fase de testes e chegar ao cidadão comum, ela poderá ampliar seus poderes consideravelmente. As pessoas não ficarão mais restritas aos agentes criados pelos fabricantes dos equipamentos.

Isso permitirá a definição de regras complexas, que combinarão recursos e informações de diferentes serviços aos que o usuário tem acesso. Por exemplo, será possível tirar automaticamente dinheiro de uma aplicação financeira que esteja com baixa rentabilidade para comprar ações de uma empresa com boas perspectivas.

É praticamente um consenso entre especialistas que os agentes representam o futuro da IA. Eles não apenas se tornarão mais diversificados e poderosos, como também serão mais fáceis de se criar. Além disso, veremos cada vez mais soluções complexas resultantes da combinação de vários agentes trabalhando em conjunto.

Muita gente acredita que esse seja o caminho para a Inteligência Artificial Geral (IAG), o “Santo Graal” dessa tecnologia. Quando (e se) estiver disponível, ela tomará decisões de maneira autônoma (ou seja, sem necessidade de comandos de alguém), sobre qualquer assunto e de maneira adaptável. É basicamente como nosso cérebro funciona, mas a IAG terá sobre nós a vantagem de analisar, com velocidade sobre-humana, uma quantidade de dados gigantesca, para tomar decisões mais assertivas.

Ainda existe muita especulação se chegaremos a isso algum dia. Especialistas de alto nível afirmam que a IAG é um conceito teórico inatingível. As big techs apostam fortemente no sucesso, dizendo que isso acontecerá ainda nessa década. Mas não podemos esquecer que elas têm interesses comerciais em afirmações como essas.

Qualquer que seja esse desfecho, devemos nos manter atentos às oportunidades que essa tecnologia oferece, apropriando-nos do que ela pode nos oferecer de bom e nos mantendo vigilantes contra eventuais armadilhas que desenvolvimentos descuidados e usos pouco éticos possam colocar em nosso caminho.

Esse é um trabalho de educação digital importantíssimo, envolvendo empresas, instituições de ensino, governos e outros atores da sociedade civil. As pessoas precisam entender e se apropriar conscientemente da IA e seus agentes, e isso deve chegar a todos.

 

jan 15 2024
0
Uma inteligência artificial treinada com informações ruins não deve ser usada para confundir eleitores – Ilustração: Paulo Silvestre

A democracia precisa que o jornalismo e a inteligência artificial se entendam

By | Jornalismo, Tecnologia | No Comments

A recente briga do New York Times contra a Microsoft e a OpenAI (criadora do ChatGPT) pode ajudar a definir como nos informaremos no futuro e impactar consideravelmente a saúde da democracia no mundo todo. Tudo porque o processo aberto pelo jornal no dia 27 de dezembro contra as duas empresas de tecnologia pode balizar a qualidade do que a inteligência artificial oferecerá a todos nós.

O jornal afirma que seu conteúdo vem sendo usado para treinar as plataformas de IA, sem que seja remunerado ou sequer tenha autorizado esse uso, o que é verdade. Enquanto isso, essas plataformas rendem bilhões de dólares a seus donos.

Desde que o ChatGPT foi lançado no final de 2022, as pessoas vêm usando a IA para trabalhar, estudar e se divertir, acreditando candidamente em suas entregas. Sua precisão e seus recursos para evitar que produza e dissemine fake news dependem profundamente da qualidade do conteúdo usado em seu treinamento. O New York Times e outros grandes veículos jornalísticos são, portanto, algumas das melhores fontes para garantir uma entrega mais confiável aos usuários.

O problema é tão grave que, no dia 10, o Fórum Econômico Mundial indicou, em seu relatório Riscos Globais 2024, que informações falsas ou distorcidas produzidas por inteligência artificial já representam o “maior risco global no curto prazo”.

Nesse ano, dois bilhões de pessoas participarão de eleições no mundo, inclusive no Brasil, e a IA já vem sendo usada para aumentar a desinformação nas campanhas. Por aqui, o Tribunal Superior Eleitoral (TSE) busca maneiras de regular seu uso no pleito municipal de outubro, uma tarefa muito complexa. Por isso, é fundamental que os bons produtores de conteúdo e as big techs encontrem formas de melhorar essas plataformas respeitando os direitos e remunerando adequadamente os autores.

Veja esse artigo em vídeo:

Em um cenário extremo hipotético em que todos os produtores de bons conteúdos impeçam que os desenvolvedores os acessem, a IA ficaria à mercê de fontes pouco confiáveis (para dizer o mínimo). Isso aumentaria brutalmente a chance de ela ser manipulada, ajudando a transformar os usuários em autômatos da desinformação. E isso seria trágico também para o bom jornalismo, que luta fortemente contra isso.

Criou-se então um dilema: as plataformas precisam de bom conteúdo, mas não estão muito dispostas a pagar por ele, enquanto os veículos jornalísticos têm que garantir seus direitos, mas deveriam ajudar a melhorar as entregas da inteligência artificial.

“Quando eu compro uma assinatura do New York Times, eu não estou autorizado a pegar todo o conteúdo e desenvolver um produto meu em cima dele”, explica Marcelo Crespo, coordenador do curso de Direito da Escola Superior de Propaganda e Marketing (ESPM). “Só que é mais ou menos isso que a OpenAI faz quando pega esses dados”.

Para que os sistemas de inteligência artificial funcionem bem, eles precisam ser treinados com uma quantidade monstruosa de informações diversas, para que aprendam o que dizer e respeitem a diversidade de ideias. Em tese, todas as suas produções são inéditas, por isso os desenvolvedores se valem do conceito jurídico americano do “uso justo” (“fair use”), que protege as big techs há pelo menos duas décadas, quando, por exemplo, rastreiam a Internet inteira para fazer um buscador funcionar.

Por essa regra, os produtos digitais exibiriam apenas pequenos trechos desses conteúdos, insuficientes para configurar uma concorrência. Mas em seu processo, o New York Times afirma que as plataformas de IA exibiriam literalmente grandes nacos de sua produção, inclusive de material exclusivo a seus assinantes. A OpenAI nega.

É um desafio para a Justiça dos EUA, pois as leis do país proíbem a cópia de conteúdo, mas permitem que se criem produtos combinando elementos de diferentes fontes, sem criar concorrência direta. As plataformas de IA fazem as duas coisas.

 

Ameaça à democracia

Nesse pântano jurídico, grupos políticos já vêm se esbaldando nos recursos da inteligência artificial para convencer –ou mais especificamente confundir– os eleitores.

O TSE tenta encontrar formas de pelo menos dificultar que isso aconteça nas eleições brasileiras. No dia 4, publicou dez minutas de resoluções para esse fim. Esses textos estarão em consulta pública até o dia 19 deste mês. Entre 23 e 25 de janeiro, ocorrerão audiências abertas na Corte para o aperfeiçoamento das normas.

Infelizmente, criar ótimas regras é relativamente fácil. Verificar seu cumprimento, por outro lado, é bem difícil, especialmente nas campanhas não-oficiais, realizadas por eleitores diretamente instruídos pelos candidatos ou espontaneamente. Com isso, o gigantesco problema de disseminação de fake news e discursos de ódio em redes sociais (que fazem muito menos do que deveriam para combater isso) agora deve ser potencializado pelo uso da inteligência artificial igualmente não-regulada.

A solução exige, portanto, a participação da Justiça, dos veículos de comunicação e das big techs das redes sociais e de inteligência artificial. Felizmente há também movimentos positivos de consenso.

Segundo o mesmo New York Times, a Apple, que está atrasada no campo da IA, estaria tentando costurar acordos financeiros para justamente usar os conteúdos de grandes empresas de comunicação para o treinamento da sua plataforma em desenvolvimento. A notícia só não é totalmente positiva porque ela estaria interessada em consumir esse conteúdo, mas não em responder por qualquer problema derivado dele, o que está deixando os editores desses veículos desconfortáveis. E eles andam bem desconfiados por seus acordos prévios com o Vale do Silício, que, ao longo dos anos, favoreceram as big techs, enquanto viam seus negócios minguarem.

Tudo isso envolve interesses de bilhões de dólares e moldará a sociedade decisivamente nos próximos anos. É preciso um desenvolvimento responsável e transparente da tecnologia e uma enorme quantidade de boas informações. “Pode ser que a gente tenha modelos de inteligência artificial que sejam focados na maldade”, sugere Crespo. “É que ninguém parou para fazer isso ainda ou talvez ninguém tenha tanto dinheiro para isso.”

Alguns acreditam que a solução seria educar a população para não acreditar tão facilmente no que veem nas redes sociais e agora na inteligência artificial. No mundo ideal, isso resolveria o problema. Mas isso simplesmente não vai acontecer e as pessoas continuarão sendo manipuladas, agora possivelmente ainda mais.

Os já citados atores precisam dar as mãos para evitar o pior. Os veículos de comunicação devem alimentar a IA, mas de maneira justa, sem que isso ameace sua sobrevivência. As big techs precisam se abrir a esses acordos financeiros e se esforçar muito mais na transparência de seus sistemas e no respeito aos usuários e à própria democracia. E a Justiça precisa encontrar meios de regular tudo isso, sem ameaçar o avanço tecnológico.

Em um mundo tão digitalizado, a democracia depende do sucesso dessa união.

 

nov 27 2023
0
O CEO da OpenAI, Sam Altman, que ganhou a briga contra o antigo conselho da empresa - Foto: Steve Jennings/Creative Commons

Como a confusão na OpenAI determinará nossas vidas

By | Tecnologia | No Comments

Nessa quarta (30), o lançamento do ChatGPT completa seu primeiro aniversário. É bem pouco tempo para um produto que mudou a maneira como fazemos muitas coisas em nossas vidas. Isso se deu não por seus próprios recursos, limitados a escrever textos (ainda que de maneira surpreendente), mas por ter iniciado a corrida da inteligência artificial generativa, que invadiu todo tipo de ferramenta de produtividade.

Por uma infame coincidência, a OpenAI, criadora do sistema, quase deixou de existir na semana passada. Na sexta anterior (17), Sam Altman, fundador e CEO da empresa, foi sumariamente demitido, pegando o mundo da tecnologia –e aparentemente ele mesmo– de surpresa. A OpenAI só não desapareceu por uma cinematográfica sequência de eventos, que puseram Altman de volta na sua cadeira em apenas cinco dias.

Isso já tornaria essa história incrível, mas pouco se sabe e menos ainda se fala dos elementos mais suculentos em seus bastidores. Afinal, o que faria o conselho de administração da OpenAI mandar embora a estrela mais brilhante do Vale do Silício no momento, em plena ascensão?

A resposta é profundamente mais complexa que uma simples “quebra de confiança”, apresentada na justificativa. O real motivo são visões conflitantes sobre como o desenvolvimento da inteligência artificial deve continuar acontecendo. De um lado, temos uma maneira mais lenta e cuidadosa, até para se evitar que ela “saia do controle” e ameace a humanidade. Do outro, há os que defendam que isso aconteça de forma acelerada, criando freneticamente novos e fabulosos produtos com ela.

Veja esse artigo em vídeo:

Sam Altman faz parte do segundo grupo. Os agora ex-membros do conselho de administração da OpenAI fazem parte do outro.

No fim de semana seguinte a sua demissão, Altman tentou sem sucesso reassumir o cargo. Então a Microsoft, que é a principal investidora da OpenAI, anunciou na segunda (20) a sua contratação para liderar um novo centro de pesquisa de inteligência artificial. Disse ainda que aceitaria qualquer profissional da OpenAI que quisesse acompanhar Altman.

No dia seguinte, em um movimento ousado, cerca de 700 trabalhadores da startup publicaram uma carta aberta exigindo a readmissão de Altman e a renúncia dos membros do conselho. Caso contrário, todos se demitiriam, o que na prática acabaria com a empresa. Na quarta, Altman estava de volta e os conselheiros se demitiram.

A Microsoft não tinha nenhum interesse no fim da OpenAI, portanto contratar Altman foi uma jogada de mestre, por forçar a reação das suas equipes. Depois de investir US$ 13 bilhões na startup, seus produtos estão sendo gradualmente integrados aos da gigante, como o pacote 365 (antigo Office) e o buscador Bing. Além disso, a OpenAI está pelo menos seis meses à frente da concorrência, como Google e Meta, o que é um tempo enorme nas pesquisas de IA, e isso não pode ser jogado no lixo.

A confusão na OpenAI não se trata, portanto, se Altman estava fazendo um bom trabalho. Segundo o New York Times, ele e os antigos conselheiros já vinham brigando há mais de um ano, pois o executivo queria acelerar a expansão dos negócios, enquanto eles queriam desacelerar, para fazer isso com segurança.

Vale dizer que a OpenAI foi fundada em 2015 como uma organização sem fins lucrativos, para construir uma superinteligência artificial segura, ética e benéfica à humanidade. Mas a absurda capacidade de processamento que a inteligência artificial exige levou à criação de um braço comercial do negócio, em 2018.

 

A “mãe de todas as IAs”

Altman sempre disse que buscava o desenvolvimento de uma inteligência artificial geral (IAG), um sistema capaz de realizar qualquer tarefa por iniciativa própria, até mesmo se modificar para se aprimorar. Isso é muito diferente das IAs existentes, que realizam apenas um tipo tarefa e dependem de serem acionadas por um usuário.

Alguns pesquisadores afirmam que a IAG, que superaria largamente a capacidade cognitiva humana, jamais existirá. Outros dizem que já estamos próximos dela.

Na semana passada, a OpenAI deu mais um passo nessa busca, com o anúncio da Q* (lê-se “Q-Star”, ou “Q-Estrela”, em tradução livre), uma IA ainda mais poderosa que as atuais. Esse sistema pode ter contribuído para a demissão de Altman.

Nada disso é um “papo de nerd”. Se chegaremos a ter uma inteligência artificial geral ou até com que agressividade a IA transformará todo tipo de ferramentas já impacta decisivamente como vivemos. E isso vem acontecendo de maneira tão rápida, que mesmo os pesquisadores estão inseguros sobre benefícios e riscos que isso envolve.

Há ainda preocupações geopolíticas: se as grandes empresas ocidentais não fizerem isso, regimes autoritários e fundamentalistas podem chegar lá, com consequências imprevisíveis para a ordem mundial. Mas também não podemos ver candidamente o Vale do Silício como um campeão da liberdade e da ética. Eles querem dinheiro, e casos como o da OpenAI e de muitas redes sociais ilustram isso.

Mesmo uma “IA legítima” pode ser usada de forma antiética e abusiva. Acabamos de ver isso na eleição presidencial argentina, com os candidatos usando essas plataformas para se comunicar melhor com seus eleitores, mas também para criar imagens depreciativas dos concorrentes. O mesmo deve acontecer aqui nas eleições municipais de 2024. Tanto que o Tribunal Superior Eleitoral (TSE) já busca como coibir a bagunça. A inteligência artificial deve, portanto, nos preocupar desde um improvável extermínio da humanidade até problemas pelo seu uso incorreto em nosso cotidiano.

Os robôs têm “leis” para que não se voltem contra nós, propostas pelo escritor Isaac Asimov, em 1942. São elas: “um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal”, “um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que entrem em conflito com a Primeira Lei” e “um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.” Mais tarde, ele acrescentou a “Lei Zero”: “um robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal.”

Elas parecem suficientes, mas são apenas uma ideia, enquanto a IA é uma realidade. E mesmo que sejam implantadas no âmago de uma inteligência artificial geral, que garantia temos de que ela não encontre maneiras de alterar seu código para desobedecê-las se assim achar necessário?

Por tudo isso, as decisões do novo conselho da Open AI nos próximos meses, que a devem tornar mais capitalista, afetarão não apenas a empresa, mas o futuro de todos nós. Com tanto dinheiro envolvido, era pouco provável que um grupo de acadêmicos conseguisse desacelerar o desenvolvimento da IA por questões éticas.

No final das contas, estamos fazendo uma aposta entre produtividade e segurança. Uma goleada da primeira começa a se formar. O problema é que aparentemente não temos capacidade de antecipar com certeza o que acontecerá. Temos que estar monitorando a cada momento essa evolução e ter uma tomada física para simplesmente puxar e desligar a coisa toda, se assim for necessário.