Cuidado para não se apaixonar pelo seu computador

By 20 de junho de 2022 Tecnologia No Comments
O caçador de replicantes Deckard (Harrison Ford) e a replicante Rachael (Sean Young), de “Blade Runner”: amor de máquinas conscientes

Uma máquina pode se tornar consciente? Para o engenheiro do Google Blake Lemoine, isso aconteceu com o LaMDA (sigla em inglês para modelo de linguagem para aplicação em diálogo), sistema de inteligência artificial da empresa criado para conversar com seres humanos de maneira muito convincente. Críticos dizem que Lemoine se precipitou em suas conclusões. De qualquer forma, elas abriram um debate sobre se (ou quando) as máquinas poderiam ganhar “vida” e como seria nosso relacionamento com elas.

A maioria das análises sobre esse caso tem sido feita sob pontos de vista tecnológico e científico. Mas o assunto fica ainda mais interessante por um prisma filosófico. Afinal, o que define que algo se tornou consciente? Em última instância, o corpo humano não seria também uma máquina biológica incrivelmente sofisticada? Ainda assim, ninguém duvida que estejamos vivos e sejamos conscientes.

Essa questão é amplamente explorada pela ficção, para nos divertir, assustar e provocar reflexões. Algumas obras descrevem um futuro apocalíptico, com robôs inteligentes exterminando a humanidade. Outras mostram pessoas se apaixonando por computadores, e sendo correspondidas por eles.

Entre os dois cenários, prefiro esse último. Mas se uma pessoa e uma máquina se apaixonassem genuinamente, isso ainda causaria estranheza.


Veja esse artigo em vídeo:


Isso foi brilhantemente explorado em “Ela” (2014), do diretor Spike Jonze. No filme, o protagonista Theodore (Joaquin Phoenix) acaba se apaixonado por Samantha, o sistema operacional de seu computador e de seu celular. Apesar de não ter corpo, sendo representada apenas pela voz de Scarlett Johansson, a plataforma estava sempre presente, conversando como se fosse outra pessoa, exceto pelo fato de que Samantha sabia tudo sobre Theodore, pelo acesso que tinha a seus dados. A incrível sensibilidade com que a história é construída nos chega a fazer questionar o que é necessário para uma pessoa se apaixonar por alguém (ou algo), e chegamos a esquecer que Samantha é apenas um programa.

Outra abordagem interessante é a da animação “Wall-E” (2008), de Andrew Stanton. Ela conta o cotidiano de um robô deixado em uma Terra devastada pela poluição. Apesar de ele ser programado para uma única tarefa (compactar lixo), que continua executando por séculos, ele aparentemente aprende e demonstra sentimentos, como amizade (por uma barata), senso de dever e até amor.

Por fim, talvez o mais emblemático exemplo de máquinas que se tornariam conscientes é o de “Blade Runner” (1982), dirigido por Ridley Scott. Na história, máquinas chamadas de “replicantes” se parecem a humanos e agem como tal, exceto pela ausência de empatia ou apego a animais. Seguindo seu slogan “mais humano que o humano”, a fabricante Tyrell Corporation lança uma nova geração de replicantes que têm memórias de outras pessoas implantadas em seu cérebro como se fossem suas, chegando ao ponto de desconhecer sua natureza e acreditarem que são realmente humanos. Uma dessas replicantes, Rachael (Sean Young), e o caçador de replicantes Deckard (Harrison Ford) se apaixonam. Um relançamento em 1991, sem as interferências criativas do estúdio sobre o trabalho de Scott, sugere que o próprio Deckard seria também um replicante sem saber.

Ninguém diria que qualquer uma dessas máquinas estaria viva, do ponto de vista biológico. Mas o impacto desses grandes roteiros passa por fazerem o público acreditar que todas eram conscientes. Além disso, tinham capacidades extraordinárias, mas apresentavam sentimentos tipicamente humanos, demonstrando até mesmo fragilidades por isso.

De todas elas, o Google LaMDA se aproxima mais de Samantha. Lemoine não chegou a se apaixonar pela plataforma, mas, em entrevista ao jornal americano “The Washington Post”, disse que conhece uma pessoa quando fala com ela, não importando se tem um cérebro biológico ou um bilhão de linhas de código. “Eu escuto o que ela tem a dizer, e é assim que eu decido o que é e o que não é uma pessoa”, afirmou.

O Google discordou publicamente das conclusões de Lemoine, e o colocou em licença remunerada por violar sua política de confidencialidade.

 

O desenvolvimento de uma consciência

Lemoine teve uma formação religiosa sólida, o que pode ter contribuído para sua conclusão sobre a consciência de LaMDA. Alguns cientistas sugerem que ele pode ter sido influenciado por respostas cuidadosamente construídas pelo sistema, que poderia ter captado e estaria tentando corroborar as suspeitas do engenheiro com base em suas crenças. Exatamente o que Samantha aparentemente fez com Theodore.

Os críticos afirmam que, apesar de o sistema ter tido uma inegável eficiência na captação dos desejos de seu interlocutor e na construção das “melhores respostas” baseadas neles, nada disso teria acontecido por uma real inteligência, franqueza ou intenção. A máquina reproduziria a melhor fala possível, sem verdadeiramente entender o significado dela.

Ainda assim, muitos deles acreditam que estejamos caminhando para máquinas conscientes, que poderão existir entre 10 a 20 anos. Por isso, eles se preocupam com possíveis problemas vindos de quem interagir com sistemas de inteligência artificial pensando que se trata de outras pessoas. Por muito menos, o atual sistema de linguagem natural do Google Assistente, que pode fazer chamadas telefônicas de voz em alguns países de língua inglesa, passou a informar ao interlocutor, logo no começo da chamada, que é uma máquina falando ali.

Então a capacidade de uma máquina conversar de maneira absolutamente convincente, se aproxima da perfeição. Mas ter consciência, para os pesquisadores, implicaria muito mais que isso. Significaria, por exemplo, máquinas capazes de cuidar de si mesmas e de genuinamente demonstrarem empatia por outras pessoas. Além disso, ter consciência passa pela capacidade de criar modelos psicológicos de si mesmo e dos outros e conviver com isso em todas suas ações.

Por esses critérios e olhando de maneira bastante técnica, provavelmente o LaMDA não desenvolveu ainda sua consciência. Mas e quanto a Samantha, Wall-E e Rachael? Eles pareciam ter mesmo um “algo a mais”.

Pode ser… É bom lembrar que, para algumas pessoas, o que nos torna conscientes é nossa alma, nosso espírito.

Mas esse debate eu deixarei para outra ocasião.