conselho

nov 27 2023
0
O CEO da OpenAI, Sam Altman, que ganhou a briga contra o antigo conselho da empresa - Foto: Steve Jennings/Creative Commons

Como a confusão na OpenAI determinará nossas vidas

By | Tecnologia | No Comments

Nessa quarta (30), o lançamento do ChatGPT completa seu primeiro aniversário. É bem pouco tempo para um produto que mudou a maneira como fazemos muitas coisas em nossas vidas. Isso se deu não por seus próprios recursos, limitados a escrever textos (ainda que de maneira surpreendente), mas por ter iniciado a corrida da inteligência artificial generativa, que invadiu todo tipo de ferramenta de produtividade.

Por uma infame coincidência, a OpenAI, criadora do sistema, quase deixou de existir na semana passada. Na sexta anterior (17), Sam Altman, fundador e CEO da empresa, foi sumariamente demitido, pegando o mundo da tecnologia –e aparentemente ele mesmo– de surpresa. A OpenAI só não desapareceu por uma cinematográfica sequência de eventos, que puseram Altman de volta na sua cadeira em apenas cinco dias.

Isso já tornaria essa história incrível, mas pouco se sabe e menos ainda se fala dos elementos mais suculentos em seus bastidores. Afinal, o que faria o conselho de administração da OpenAI mandar embora a estrela mais brilhante do Vale do Silício no momento, em plena ascensão?

A resposta é profundamente mais complexa que uma simples “quebra de confiança”, apresentada na justificativa. O real motivo são visões conflitantes sobre como o desenvolvimento da inteligência artificial deve continuar acontecendo. De um lado, temos uma maneira mais lenta e cuidadosa, até para se evitar que ela “saia do controle” e ameace a humanidade. Do outro, há os que defendam que isso aconteça de forma acelerada, criando freneticamente novos e fabulosos produtos com ela.

Veja esse artigo em vídeo:

Sam Altman faz parte do segundo grupo. Os agora ex-membros do conselho de administração da OpenAI fazem parte do outro.

No fim de semana seguinte a sua demissão, Altman tentou sem sucesso reassumir o cargo. Então a Microsoft, que é a principal investidora da OpenAI, anunciou na segunda (20) a sua contratação para liderar um novo centro de pesquisa de inteligência artificial. Disse ainda que aceitaria qualquer profissional da OpenAI que quisesse acompanhar Altman.

No dia seguinte, em um movimento ousado, cerca de 700 trabalhadores da startup publicaram uma carta aberta exigindo a readmissão de Altman e a renúncia dos membros do conselho. Caso contrário, todos se demitiriam, o que na prática acabaria com a empresa. Na quarta, Altman estava de volta e os conselheiros se demitiram.

A Microsoft não tinha nenhum interesse no fim da OpenAI, portanto contratar Altman foi uma jogada de mestre, por forçar a reação das suas equipes. Depois de investir US$ 13 bilhões na startup, seus produtos estão sendo gradualmente integrados aos da gigante, como o pacote 365 (antigo Office) e o buscador Bing. Além disso, a OpenAI está pelo menos seis meses à frente da concorrência, como Google e Meta, o que é um tempo enorme nas pesquisas de IA, e isso não pode ser jogado no lixo.

A confusão na OpenAI não se trata, portanto, se Altman estava fazendo um bom trabalho. Segundo o New York Times, ele e os antigos conselheiros já vinham brigando há mais de um ano, pois o executivo queria acelerar a expansão dos negócios, enquanto eles queriam desacelerar, para fazer isso com segurança.

Vale dizer que a OpenAI foi fundada em 2015 como uma organização sem fins lucrativos, para construir uma superinteligência artificial segura, ética e benéfica à humanidade. Mas a absurda capacidade de processamento que a inteligência artificial exige levou à criação de um braço comercial do negócio, em 2018.

 

A “mãe de todas as IAs”

Altman sempre disse que buscava o desenvolvimento de uma inteligência artificial geral (IAG), um sistema capaz de realizar qualquer tarefa por iniciativa própria, até mesmo se modificar para se aprimorar. Isso é muito diferente das IAs existentes, que realizam apenas um tipo tarefa e dependem de serem acionadas por um usuário.

Alguns pesquisadores afirmam que a IAG, que superaria largamente a capacidade cognitiva humana, jamais existirá. Outros dizem que já estamos próximos dela.

Na semana passada, a OpenAI deu mais um passo nessa busca, com o anúncio da Q* (lê-se “Q-Star”, ou “Q-Estrela”, em tradução livre), uma IA ainda mais poderosa que as atuais. Esse sistema pode ter contribuído para a demissão de Altman.

Nada disso é um “papo de nerd”. Se chegaremos a ter uma inteligência artificial geral ou até com que agressividade a IA transformará todo tipo de ferramentas já impacta decisivamente como vivemos. E isso vem acontecendo de maneira tão rápida, que mesmo os pesquisadores estão inseguros sobre benefícios e riscos que isso envolve.

Há ainda preocupações geopolíticas: se as grandes empresas ocidentais não fizerem isso, regimes autoritários e fundamentalistas podem chegar lá, com consequências imprevisíveis para a ordem mundial. Mas também não podemos ver candidamente o Vale do Silício como um campeão da liberdade e da ética. Eles querem dinheiro, e casos como o da OpenAI e de muitas redes sociais ilustram isso.

Mesmo uma “IA legítima” pode ser usada de forma antiética e abusiva. Acabamos de ver isso na eleição presidencial argentina, com os candidatos usando essas plataformas para se comunicar melhor com seus eleitores, mas também para criar imagens depreciativas dos concorrentes. O mesmo deve acontecer aqui nas eleições municipais de 2024. Tanto que o Tribunal Superior Eleitoral (TSE) já busca como coibir a bagunça. A inteligência artificial deve, portanto, nos preocupar desde um improvável extermínio da humanidade até problemas pelo seu uso incorreto em nosso cotidiano.

Os robôs têm “leis” para que não se voltem contra nós, propostas pelo escritor Isaac Asimov, em 1942. São elas: “um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal”, “um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que entrem em conflito com a Primeira Lei” e “um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.” Mais tarde, ele acrescentou a “Lei Zero”: “um robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal.”

Elas parecem suficientes, mas são apenas uma ideia, enquanto a IA é uma realidade. E mesmo que sejam implantadas no âmago de uma inteligência artificial geral, que garantia temos de que ela não encontre maneiras de alterar seu código para desobedecê-las se assim achar necessário?

Por tudo isso, as decisões do novo conselho da Open AI nos próximos meses, que a devem tornar mais capitalista, afetarão não apenas a empresa, mas o futuro de todos nós. Com tanto dinheiro envolvido, era pouco provável que um grupo de acadêmicos conseguisse desacelerar o desenvolvimento da IA por questões éticas.

No final das contas, estamos fazendo uma aposta entre produtividade e segurança. Uma goleada da primeira começa a se formar. O problema é que aparentemente não temos capacidade de antecipar com certeza o que acontecerá. Temos que estar monitorando a cada momento essa evolução e ter uma tomada física para simplesmente puxar e desligar a coisa toda, se assim for necessário.

 

Maio 18 2017
0

A tecnologia pode acabar com conselhos profissionais e sindicatos

By | Tecnologia | One Comment

Imagem: Visual Hunt/Creative Commons

Você sabia que, como passageiro, você também tem uma nota no Uber, dada pelos motoristas? Longe de ser uma firula do serviço, essa “reputação” está transformando dramaticamente, ainda que de maneira sorrateira, a maneira como compramos produtos e contratamos profissionais. E, nessa nova ordem mundial, sindicatos e conselhos profissionais podem estar rumando para o mesmo fim dos dinossauros.

Tudo por causa de fundamentos da economia compartilhada! Com eles, profissionais, produtos e serviços são escolhidos por seus clientes a partir da experiência que outros consumidores tiveram antes com tais fornecedores. Quem atende bem, é brindado com uma boa nota, e assim ganha destaque nos sistemas.

Vídeo relacionado (de 17/5/16):

O critério de reputação foi criado por essas empresas como uma maneira de dar alguma proteção tanto ao consumidor, quanto ao fornecedor. Afinal, quando você chama um carro pelo Uber, quando faz uma compra pelo Mercado Livre, quando se hospeda pelo Airbnb (apenas para ficar em alguns exemplos óbvios), você está comprando algo que não é da empresa, e sim fornecido por uma legião de desconhecidos que usam essas plataformas para viabilizar os seus micronegócios. Por isso, a nota que outros clientes já lhes atribuíram é fundamental para saber se esses fornecedores prestam um bom serviço.

Quem tiver uma boa nota, acaba sendo privilegiado pelo sistema, e faz mais negócios. Já quem tiver uma nota ruim, pode acabar sendo expulso dele! Da mesma forma, o cliente também tem sua nota, atribuída pelos profissionais com quem já fez negócio anteriormente. Um cliente ruim também pode ser recusado! Afinal, você alugaria o seu apartamento pelo Airbnb para um “ogro”, que pode estragar tudo lá dentro?

O efeito colateral disso é que as empresas de economia compartilhada não dão muita bola para convenções sindicais ou resoluções de conselhos profissionais.  Quem pode oferecer seu serviço na plataforma, quem é considerado um bom profissional, a maneira como o serviço é prestado atende os seus próprios critérios, e não o que dizem as entidades de classe.

Em muitos casos, isso gera conflitos seríssimos. Talvez o caso mais emblemático seja justamente o do Uber, que entrou em choque frontal com sindicato dos taxistas do Brasil (e do mundo) todo. Afinal, qualquer um que atenda seus critérios pode virar seu motorista. Isso passa por cima das regras dos sindicatos e até das prefeituras, que regulam a atividade.

Mas advinha de que lado fica o consumidor?

 

Cabo de guerra

O cliente não dá a menor bola para as convenções sindicais ou resoluções de conselhos, que, aliás, normalmente desconhece. O que interessa para ele é ser bem atendido, com um profissional competente, com um serviço focado em suas necessidades e a um preço justo. Mas essas regras existem por bons motivos. E aí surge o grande dilema.

Os sindicatos foram criados com a Revolução Industrial, como uma maneira de proteger os interesses dos trabalhadores, que não tinham nenhum direito e eram explorados além do limite da irresponsabilidade. Têm, portanto, um papel essencial na construção de uma sociedade mais justa. As resoluções e códigos de ética dos conselhos profissionais, por sua vez, regulamentam como os profissionais devem exercer seus ofícios, inclusive protegendo interesses dos clientes.

O problema é que, como se pode imaginar, tais regras sofrem atualizações muito, muito lentamente, inclusive porque qualquer mudança precisa ser muito debatida e até embasada em pesquisas científicas, em muitos casos. Mas o mercado não topa mais esperar por isso, pois seu ritmo é muito mais acelerado, e isso só tem aumentado com a introdução de novas tecnologias digitais e a entrada de empresas com modelos de negócios totalmente disruptivos.

Não estou dizendo que a tecnologia vai acabar com categorias profissionais inteiras. Aliás, a tecnologia jamais destrói coisa alguma! Ela promove transformações, propondo alternativas mais vantajosas para as pessoas. Quem tira uma categoria profissional, um produto, um modelo de negócios da jogada é justamente seu consumidor, quando ele encontra essa tal alternativa que lhe atende melhor.

Para piorar ainda mais a situação das entidades de classe, muitas têm fortíssimos interesses políticos, que, muitas vezes até se contrapõem aos dos seus representados. Outras tantas se encontram envolvidas em escândalos de corrupção. Como resultado, não apenas o público, como também muitos profissionais da categoria começam a achar tudo aquilo um atraso de vida.

E advinha só onde todos acabam caindo?

 

Alternativa também para o profissional

Apesar da importância das regras das entidades de classe explicadas acima, o que se vê são cada vez mais profissionais acompanhando seus clientes para as novas plataformas, inclusive contrariando determinações de suas categorias. E o motivo é muito simples: as demandas do público são claras e vão nessa direção.

Oras, pode chegar uma hora em que, se o profissional não embarcar nessas novidades, ficaria sem clientes! O que lhe restaria então?

Um bom exemplo é o que acontece com os psicólogos. Segundo resolução do Conselho Federal de Psicologia, não é permitido fazer terapia online. O máximo que é permitido é uma orientação psicológica pontual, limitada a, no máximo, 20 sessões.

Só que os pacientes não entendem isso! Em uma sociedade totalmente conectada, em que cada vez mais coisas podem ser feitas pelo telefone celular (desde paquerar até a declaração do Imposto de Renda), por que não é possível fazer terapia online? O questionamento ganha ainda mais força quando, por exemplo, o paciente muda de cidade e gostaria de continuar sendo atendido pelo mesmo profissional, à distância. Mas isso não pode acontecer, pois fere a resolução do CFP.

Por mais bem-intencionada que seja a resolução, fica cada vez mais difícil defender essa restrição, especialmente se considerarmos que pesquisas já estão sendo feitas nessa área há 15 anos! Como resultado, o que se vê no mercado são cada vez mais psicólogos ignorando a resolução e encontrando suas maneiras de atender as demandas de seus clientes, mesmo colocando em risco a sua atuação profissional!

Pior que isso: demoras como essa abrem espaço para o surgimento de serviços que ignoram solenemente as regras e chutam a porta com um modelo radicalmente diferente. No mesmo setor da psicologia, no ano passado foi lançado o Fala Freud, um aplicativo que bate de frente não apenas com a resolução acima, mas com o próprio código de ética da profissão. Desde então, ele vem provocando uma acalorada discussão e uma sequência de notas de repúdio de psicólogos.

O aplicativo foi longe demais? Não estou habilitado para afirmar categoricamente que sim ou que não. Mas o fato é que tem um monte de psicólogos cadastrados na plataforma.

Como lidar com essa crise?

 

Foco no cliente e no profissional

Como se pode ver, a tecnologia e as empresas com modelos de negócios (muito) inovadores estão provocando um enorme movimento no mercado. E não quero dizer que estejam promovendo uma bagunça. Mas certamente estão provocando profundas discussões e até indicando alternativas de como uma categoria profissional deve se comportar!

É óbvio que profissões e serviços devem ser regulamentados por entidades competentes, inclusive para proteger o cliente e o profissional: jamais sugeriria o contrário! Mas não é possível que isso continue sendo feito como é hoje.

Ao invés de se posicionarem em lados opostos desse cabo de guerra, empresas e entidades de classe deveriam se unir para se ajudar, cada um oferecendo o que tem de melhor para esse diálogo. Caso contrário, veremos cada vez mais profissionais sérios colocados entre determinações de suas entidades e as demandas de seu público. Se penderem para um lado, podem ficar sem clientes; se forem para o outro, podem ficar sem profissão.

É hora de dar as mãos e construir algo juntos com foco nos clientes e nos profissionais.

Artigos relacionados: