câmera

Graças à IA em novos celulares, qualquer um poderá alterar profundamente suas fotos - Foto: Akshay Gupta/Creative Commons

Celulares podem se tornar máquinas de distorcer a realidade

By | Tecnologia | No Comments

Quando a fotografia foi inventada, no século XIX, ela revolucionou o mundo por conseguir reproduzir facilmente a realidade. De lá para cá, ela só melhorou, culminando na fotografia digital, que transformou um hobby caro em uma diversão extremamente popular, consolidada com as câmeras cada vez mais poderosas nos celulares. Mas agora esses equipamentos podem ironicamente subverter a característica essencial da fotografia de retratar a realidade com precisão.

A culpa disso recai sobre a inteligência artificial. Ela já está presente há algum tempo nos softwares de captura e edição de imagens dos melhores celulares. Mas, até então, prestava-se a “melhorar” (note as aspas) as fotografias, usando técnicas para aumentar a sua fidelidade e refinar elementos como cores, brilho e contraste.

Isso começa a mudar agora, com o lançamento nos EUA, no dia 11, do Pixel 8 (sem previsão de chegada ao Brasil). O smartphone de US$ 700 do Google consegue efetivamente alterar a realidade fotografada. Isso quer dizer que, com ele, é possível, por exemplo, eliminar pessoas e objetos das fotos, alterar elementos das imagens ou modificar suas posições e até “melhorar” (de novo, com aspas) o rosto de pessoas combinando com a maneira que elas apareceram em outras fotos.

Como em todas as atuais plataformas baseadas na inteligência artificial generativa, alguns resultados dessas edições são decepcionantes e até grotescos. Outros, porém, ficam incrivelmente convincentes!

Já dizia São Tomé: “preciso ver para crer”. Parábolas à parte, é um fato que somos seres visuais: nosso cérebro tende a assumir como real o que está diante de nossos olhos. Por isso, vale perguntar até que ponto é positivo e até saudável dar a possibilidade de se distorcer a realidade de maneira tão simples.


Veja esse artigo em vídeo:


É curioso que a fotografia foi combatida por muitos quando surgiu, justamente pela sua capacidade de reproduzir, de maneira fácil, rápida e precisa, o mundo. Pintores diziam que o invento era algo grosseiro, que eliminava a subjetividade e a técnica dos artistas quando retratavam pessoas e paisagens. Grupos religiosos também a combatiam, por serem contrários à captura de imagens de “coisas feitas por Deus”.

Em 1826, o francês Joseph Nicéphore Niépce registrou seu quintal em uma placa de estanho revestida de betume, usando uma câmera escura por oito horas. Essa é considerada a primeira fotografia permanente. Três anos depois, ele fez um acordo com outro francês, Louis Jacques Mandé Daguerre, que aperfeiçoou o processo com o daguerreótipo, que precisava de “apenas” 30 segundos para fazer uma fotografia.

A patente do daguerreótipo foi vendida ao Estado francês em 1839, que a colocou em domínio público. Isso permitiu que a fotografia experimentasse grandes avanços ao redor do mundo. Provavelmente a empresa mais inovadora do setor foi criada pelo americano George Eastman em 1888: a Kodak. Entre suas contribuições, estão o rolo de filme (1889), a primeira câmera de bolso (1912) e o filme colorido moderno (1935).

O último grande invento da Kodak foi a fotografia digital, em 1975. Mas como os lucros da empresa dependiam da venda de filmes, seus executivos não deram importância a ela. Foi um erro fatal, pois a tecnologia se tornou incrivelmente popular e, quando a empresa decidiu olhar para ela, as japonesas já dominavam o mercado.

Em 1999, foi lançado o Kyocera VP-210, o primeiro celular com câmera capaz de tirar fotos, que tinham resolução de 0,11 megapixel (o iPhone 15 tira fotos de 48 megapixels). E isso nos traz de volta ao dilema atual.

 

Realidade alternativa

As fotografias nos celulares se tornaram tão realistas e detalhadas que o próprio negócio de câmeras fotográficas entrou em colapso. Elas continuam existindo, mas hoje praticamente só profissionais as utilizam, pois sabem como aproveitar todos os recursos daqueles equipamentos para fotografias realmente diferenciadas.

Os recursos de IA do Pixel 8 fazem parte de uma nova versão do Google Fotos, o aplicativo de edição e publicação de fotos da empresa, que é nativo nos smartphones Android, mas também pode ser baixado para iPhones. Isso significa que, em tese, outros aparelhos poderão ganhar esses recursos em breve, desde que, claro, tenham capacidade de processamento para isso.

A alteração de fotografias sempre existiu, mesmo antes dos softwares de edição de imagem. Entretanto fazer isso era difícil, exigindo equipamentos e programas caros e muita habilidade técnica. Além disso, as fotos editadas eram apresentadas como tal, sem a pretensão de levar quem as visse a acreditar que fossem reais (salvo exceções, claro)..

O que se propõe agora é que isso seja feito de maneira muito fácil, por qualquer pessoa, sem nenhum custo adicional e em equipamentos vendidos aos milhões. Isso levanta algumas questões éticas.

A primeira delas é que as pessoas podem passar a se tornar intolerantes com a própria realidade. O mundo deixaria de ser o que é, para ser o que gostariam. Isso é perigosíssimo como ferramenta para enganarem outros indivíduos e até a si mesmas.

A sociedade já experimenta, há anos, um crescimento de problemas de saúde mental, especialmente entre adolescentes, devido a fotos de colegas com corpos “perfeitos” (pela terceira vez, as aspas). Isso acontece graças a filtros com inteligência artificial em redes sociais, especialmente Instagram e TikTok, que fazem coisas como afinar o nariz, engrossar os lábios, diminuir os quadris e alterar a cor da pele. O que se observa mais recentemente são adolescentes insatisfeitos com seus corpos não pelo que veem em amigos, mas pelo que veem em suas próprias versões digitais.

Há um outro aspecto que precisa ser considerado nesses recursos de alteração de imagens, que são os processos de desinformação. Muito provavelmente veremos grupos que já se beneficiam das fake news usando intensamente essa facilidade para convencer seu público com mentiras cada vez mais críveis.

Hoje esses recursos ainda estão toscos demais para um convencimento completo. Mas é uma questão de pouco tempo até que eles se aproximem da perfeição.

Não tenham dúvidas: quando estiver disponível, as pessoas usarão intensamente essa tecnologia, estando imbuídas de boas intensões ou de outras não tão nobres assim. Quem será responsabilizado quando começarem a surgir problemas disso?

Assim como acontece com as redes sociais, as desenvolvedoras se furtam disso, dizendo que apenas oferecem um bom recurso, e as pessoas que fazem maus usos deles. Em tese, isso é verdade. Mas alegar inocência dessa forma chega a ser indecente! É como entregar uma arma carregada na mão de uma criança e torcer para que nada de ruim aconteça.

Chegamos ao mundo em que a ilusão se sobrepõe à realidade, mas não estamos prontos para lidar com isso.

 

Cena do filme “RoboCop” (1987), em que um policial dado como morto ganha um corpo e uma consciência digitais - Foto: reprodução

IA pode brilhar na segurança, mas suas falhas podem ser catastróficas

By | Tecnologia | No Comments

Pegue qualquer lista dos maiores problemas das grandes cidades e a segurança sempre estará nas primeiras posições. Não é para menos: nos últimos anos, a escalada da violência chegou a níveis insustentáveis em todo Brasil. Diante disso, precisamos usar os recursos disponíveis para tentar resolver o problema. A digitalização de nossas vidas e a inteligência artificial podem ajudar muito nisso, mas precisamos estar preparados para lidar com as consequências de suas imprecisões.

Quanto mais crítica for uma aplicação, menos tolerante a falhas ela é. Isso quer dizer que o sistema não pode sair do ar nunca e as informações oferecidas por ele ou suas decisões devem ser precisas. E infelizmente a tecnologia não chegou a esse nível de excelência inquestionável.

Uma coisa é alguém fazer um trabalho escolar ou um relatório profissional com erros grosseiros por ter acreditado cegamente em alguma bobagem dita pelo ChatGPT. É verdade que podem acabar reprovando na disciplina ou perdendo o emprego por isso, duas coisas ruins. Mas isso não se compara a ser confundido pela máquina com um criminoso, e assim acabar sendo preso ou –pior– morto.

Por isso, apesar de a tecnologia ser muito bem-vinda no combate à criminalidade, os agentes de segurança pública precisam estar preparados para lidar com os resultados dessa colaboração e seus potenciais erros.


Veja esse artigo em vídeo:


Nesse cenário, é bastante ilustrativo o projeto da Prefeitura de São Paulo de unir diversos serviços municipais que hoje não trabalham integrados, como a Defesa Civil, o SAMU, a CET e a Guarda Civil Metropolitana, além das polícias Civil e Militar, Metrô e CPTM. Batizado de Smart Sampa, ele prevê ainda a adição de 20 mil câmeras na cidade, especialmente em pontos sensíveis e de maior criminalidade, que se somarão a outras 20 mil já existentes.

A princípio, a ideia parece muito boa, especialmente porque os diferentes órgãos da administração podem funcionar melhor ao compartilharem suas informações. A exemplo de outras grandes cidades no mundo, como Nova York, a tecnologia desempenha papel central nesse processo. Ironicamente aí começam a surgir os problemas.

O ponto mais delicado da proposta é o uso de reconhecimento facial. Essa tecnologia tem avançado incrivelmente, mas não o suficiente para evitar uma quantidade inaceitável de erros, particularmente entre pessoas negras. Isso acontece porque a inteligência artificial aprende a diferenciar rostos a partir de uma enorme quantidade de fotografias, mas proporcionalmente há muito mais amostras de brancos que de negros nesse “treinamento”. Diferentes estudos apontam que os erros de reconhecimento de pessoas brancas giram em torno de 1%, enquanto de negras ultrapassa os 30%, especialmente mulheres negras.

Por isso, a proposta original do Smart Sampa, que previa “rastrear uma pessoa suspeita, monitorando todos os seus movimentos e atividades, por características como cor, face, roupas, forma do corpo, aspectos físicos etc.”, precisou ser alterada. Monitorar alguém pela sua cor é ilegal!

O projeto prevê que qualquer problema identificado pela plataforma seja confirmado por um agente humano treinado antes de emitir qualquer alerta, o que é, sem dúvida, um ponto positivo para minimizar injustiças. Mas a ideia de rastrear alguém que o algoritmo ache suspeito, ainda cruzando com dados de redes sociais dos cidadãos, lembra algumas das piores sociedades da ficção científica.

 

Sem escapatória

No filme “Minority Report: a Nova Lei” (2002), as autoridades sabiam continuamente onde cada cidadão estava. Além disso, um sistema que combinava tecnologia com aspectos místicos, conseguia prever assassinatos antes que acontecessem. Dessa forma, a polícia prendia os “prováveis criminosos” antes de cometerem o crime.

Sim, as pessoas eram presas antes de terem cometido qualquer crime, apenas porque a plataforma tinha convicção de que o cometeriam! E para a polícia isso era suficiente.

O sistema parecia infalível e, de fato, os assassinatos acabaram. Os “prováveis criminosos” eram condenados a viver o resto de seus dias em uma espécie de coma induzido. O problema é que o sistema não só era falho, como ainda podia ser manipulado para “tirar de circulação” pessoas indesejáveis para os poderosos. Quando isso é revelado, o sistema é desativado e todos os condenados são libertados.

Como se pode ver, quando uma tecnologia tem o poder de levar alguém à prisão ou decidir sobre sua vida ou morte, nenhuma falha é aceitável. Ainda aproveitando a ficção para ilustrar o caso, temos a cena de RoboCop (1987) em que o robô de segurança ED-209, durante uma demonstração, identifica corretamente que um voluntário lhe apontava uma arma. Mas ele falha em reconhecer que a pessoa a joga ao chão logo depois, e acaba metralhando a vítima diante dos presentes.

Por isso, é assustador ver os motivos que desclassificaram a empresa vencedora do primeiro pregão do Smart Sampa. No dia 7 de junho, técnicos da Prefeitura foram verificar se ela estava apta ao serviço. Pelas regras, deveria ter mil câmeras operando com reconhecimento facial, mas só havia 347, das quais apenas 147 estavam online. Segundo o relatório dos técnicos, o responsável argumentou que “todo mundo tem problemas de Internet” e que “horário de almoço é complicado, muita gente fazendo download impacta no link de Internet mesmo”.

Esse amadorismo e falta de comprometimento é algo que jamais poderia pairar sobre um sistema de segurança pública, podendo colocar em xeque toda sua credibilidade! É por essas e outras que cidades importantes ao redor do mundo, como San Francisco (EUA), baniram o uso de reconhecimento facial em plataformas assim.

Alguns grupos querem reduzir esse debate a uma questão ideológica, como vem se tornando um padrão no Brasil há alguns anos. Mas essa não é uma questão ideológica e sim tecnológica!

Em um famoso artigo de 2018, Brad Smith, presidente da Microsoft, questionou qual papel esse tipo de tecnologia deve ter na sociedade, a despeito de todos os benefícios que traga. Segundo ele, “parece mais sensato pedir a um governo eleito que regule as empresas do que pedir a empresas não eleitas que regulem tal governo”.

Como em um bom episódio da série “Black Mirror”, o problema não está necessariamente na tecnologia em si, mas em usos errados dela. Câmeras e inteligência artificial darão poderes sobre-humanos às forças de segurança, com enorme poder de detecção de crimes e contravenções. Mas ela também pode maximizar vieses e falhas humanas da força policial, como o racismo.

Sem dúvida, podem ser ferramentas valiosíssimas no combate à criminalidade galopante. Mas em uma sociedade assustada e que clama por segurança rápida, despontam como soluções “mágicas” para políticos que buscam votos fáceis. Mas a coisa não funciona assim e, se não for implantada com cuidados técnicos e éticos, pode ainda ampliar outros problemas sociais existentes.

É necessário entender que, mesmo que o sistema evite 100 mortes, não é aceitável que 10 vítimas inocentes sejam condenadas ou mortas por erros da plataforma. Se houver um único erro, o sistema não é bom o suficiente para ser usado! Mas parece que pouca gente se preocupa com isso, no melhor estilo de “o fim justifica os meios”.

No final, a solução recai sobre o ser humano. Os agentes de segurança precisam ser treinados para lidar com possíveis falhas técnicas. Precisam aprender a dosar suas ações e abordagens feitas a partir de informações que podem estar erradas.

Resta saber se esses profissionais estão preparados para isso. Diante de diversas ações desastrosas e mortíferas que vemos nas ruas brasileiras o tempo todo, não estão! A solução desse outro problema é essencial e deveria acontecer antes da implantação da tecnologia. Mas isso, por si só, já renderia outro artigo.

 

Videodebate: o governo está de olho em você!

By | Tecnologia | No Comments

O que vale mais para você: sua segurança ou sua privacidade?

Você abriria mão dessa última para se sentir mais seguro? Muita gente diria que sim.

Vivemos uma realidade em que, cada vez mais, câmeras nos observam o tempo todo, em todo lugar. Na liderança mundial, a China já tem 200 milhões delas!

E se isso fosse imposto a você, e talvez você nem soubesse? E mais: e se esse controle começasse a comprometer o seu direito de viver sua vida como acha melhor? Ainda é um preço a se pagar por mais segurança?

O presente começa a se parecer com o mundo sombrio descrito pelo livro “1984”, de George Orwell, em que todos são doutrinados a ter um pensamento único e são controlados pelo governo por câmeras. A diferença é que agora, além das câmeras, há ainda a inteligência artificial nos vigiando.

Dá para ter segurança sem que sejamos manipulados? Veja a resposta no meu vídeo abaixo. E depois vamos debater sobre isso aqui nos comentários.



Quais são (ou deveriam ser) os limites da publicidade invasiva?

By | Tecnologia | No Comments
Outdoor interativo e com realidade aumentada no filme “Blade Runner 2049”: a realidade já se aproxima da ficção – Foto: divulgação

Outdoor interativo e com realidade aumentada no filme “Blade Runner 2049”: a realidade já se aproxima da ficção

Os meios digitais provocaram uma incrível revolução na publicidade. É verdade que, para alguns casos, uma grande, cara e indiferenciada campanha de marketing de massa, daquelas que passam no break da novela e do Jornal Nacional, ainda faz sentido. Entretanto a publicidade migra continuamente para peças criadas para cada indivíduo, a partir do cruzamento das pegadas digitais que deixamos cada vez mais por toda parte, conscientemente ou não. Isso é bacana para o anunciante e para o consumidor, pois as peças trazem, em tese, produtos do interesse de ambos. Mas você já sentiu que às vezes esse negócio está invadindo a sua privacidade?

Se sentiu, você não está sozinho! E, de certa forma, é isso mesmo que acontece. O fato é que a privacidade, como nós conhecemos há alguns anos, morreu! Mas isso não é necessariamente algo ruim. A novidade é que isso está extrapolando os limites das redes sociais, dos buscadores e dos smartphones, as principais ferramentas para essa arapongagem digital, sobre as quais muita gente já está ciente. A coleta de informações sem aviso prévio vem acontecendo também, por exemplo, em TVs e até em outdoors!


Vídeos relacionados:


Peguemos como exemplo o tradicional telão publicitário em Piccadilly Circus. Essa verdadeira atração turística de Londres, lançada em sua primeira versão em 1908, foi reinaugurada na semana passada (como pode ser visto na reportagem no vídeo acima).  Ele agora funciona com uma impressionante tela Ultra HD de 790 metros quadrados, que exibe campanhas de diferentes marcas. O telão ainda oferece WiFi grátis para a região. Mas a grande novidade são câmeras escondidas na estrutura, que continuamente capturam as imagens das pessoas e dos carros que passam a sua frente, assim como as condições climáticas.

Essas imagens são usadas para personalizar as peças exibidas na tela em tempo real. Por exemplo, se um tradicional ônibus londrino de dois andares vermelho passa por ali, todas as peças podem adotar esse tom. Se ele for seguindo por um carro amarelo, as peças passam a ser amarelas. Divertido, né?

As peças também refletem as pessoas que estiverem ali na hora! O sistema continuamente verifica o gênero e a faixa etária dos pedestres. Mais que isso, tenta identificar a emoção dos indivíduos fazendo uma análise de suas expressões. Tudo isso para que a publicidade se adapte ao público.

A Landsec, empresa responsável pelo sistema, afirma que as informações não são armazenadas e nem cruzadas com outros bancos de dados para identificar as pessoas ali. Mas em uma cidade conhecida por ter a maior quantidade de câmeras em ambientes públicos do mundo, usadas, por exemplo, pela polícia para procurar automaticamente suspeitos a partir de algoritmos de reconhecimento facial, a única coisa que a impede de fazer isso é o respeito a questões éticas.

Afinal, ao contrário de redes sociais e smartphones, em que as pessoas ainda precisam aceitar “termos de uso” desses produtos, com os quais autorizam (quase sempre sem ler) o uso de suas informações pessoais para fins comerciais, isso não acontece com o telão.

Para andar na rua, ninguém assina termo algum, certo?

 

“Mi casa, tu casa”

Ninguém assina tampouco termo algum para assistir televisão. Mas as nossas smart TVs também podem estar nos espionando.

Não se enganem: as TVs atuais que compramos para nossas casas são poderosos computadores conectados permanentemente à Internet. E, ao contrário do que parecem, elas nunca estão totalmente desligadas. Tanto que muitos modelos podem ser ligados a partir de comandos de voz. Em outras palavras, mesmo com suas telas apagadas, as TVs com microfones estão nos ouvindo o tempo todo. E as que têm câmeras também podem estar nos vendo.

Acontece que, ao contrário do que é feito em smartphones e especialmente em computadores, não tomamos providências de segurança com nossas TVs. Ou alguém instala antivírus ou firewalls nelas? Os fabricantes tampouco parecem se preocupar muito com isso, pois as informações capturadas pela TV sequer são criptografadas antes de serem transmitidas.

Nada impede que um hacker invada a nossa TV e acione esses recursos para coletar informações pessoais. Muito mais provável é o próprio fabricante coletar informações dos usuários para decisões comerciais. E isso não acontece só em casa.

Por exemplo, as TVs expostas no varejo podem tentar identificar, a partir de sua câmera, o gênero e a faixa etária das pessoas que ficam diante de cada tela. Ou seja, enquanto as pessoas estão analisando a qualidade da imagem do modelo, a TV está analisando a pessoa, tentando identificar que tipo de público é atraído por cada modelo em cada loja específica. Essa informação é muito valiosa para definir o mix ideal de produtos para cada ponto do varejo, e até mesmo o volume de produção nas fábricas.

Portanto, antes de fazer na frente da TV algo que possa se arrepender depois, pense duas vezes: ela pode estar vendo tudinho!

 

O que nos resta?

Não estou pintando aqui nenhum futuro (ou presente) apocalíptico. Quem me conhece sabe que eu sou um entusiasta da tecnologia e do uso criativo de informações pessoais para criar produtos e ofertas que sejam benéficas para todos, especialmente para o dono dessas informações, o consumidor.

Já fui executivo de várias multinacionais que coletam informações de seus consumidores das mais diferentes formas. E sempre notei um uso ético delas.

Aliás, ética é uma palavra que ganha importância a cada dia que passa. Justamente porque as empresas têm, cada vez mais, recursos para coletar tais informações, e tirar conclusões impressionantes sobre cada um de nós, graças a algoritmos mais e mais sofisticados e capacidade de processamento gigantescas e crescentes.

Logo, a tentação para cruzar o limite do razoável é imenso! Até onde podem ir? Até onde disseram que iriam quando iniciaram o relacionamento com cada um de nós. E que tenhamos explicitamente concordado (mesmo não lendo os termos).

Sendo bem sincero, quem tem tanto poder nas mãos só não avança o sinal se não quiser. E se sua ética (e seu “compliance”) não permitir (e for obedecida). Mas honestamente não precisam disso! Os benefícios para as empresas e para o consumidor já serão incríveis fazendo apenas um uso ético do que já têm.

Quanto a cada um de nós, claro que não vamos deixar de usar nenhum desses produtos. Não dá para ser feliz tomado eternamente pela paranoia, e a vida seria praticamente inviável no mundo atual sem todos esses serviços digitais. Mas precisamos, pelo menos, ser conscientes do que estamos entregando e principalmente a quem.

Tem muito picareta por aí.


Artigos relacionados: