polícia

Cena do filme “RoboCop” (1987), em que um policial dado como morto ganha um corpo e uma consciência digitais - Foto: reprodução

IA pode brilhar na segurança, mas suas falhas podem ser catastróficas

By | Tecnologia | No Comments

Pegue qualquer lista dos maiores problemas das grandes cidades e a segurança sempre estará nas primeiras posições. Não é para menos: nos últimos anos, a escalada da violência chegou a níveis insustentáveis em todo Brasil. Diante disso, precisamos usar os recursos disponíveis para tentar resolver o problema. A digitalização de nossas vidas e a inteligência artificial podem ajudar muito nisso, mas precisamos estar preparados para lidar com as consequências de suas imprecisões.

Quanto mais crítica for uma aplicação, menos tolerante a falhas ela é. Isso quer dizer que o sistema não pode sair do ar nunca e as informações oferecidas por ele ou suas decisões devem ser precisas. E infelizmente a tecnologia não chegou a esse nível de excelência inquestionável.

Uma coisa é alguém fazer um trabalho escolar ou um relatório profissional com erros grosseiros por ter acreditado cegamente em alguma bobagem dita pelo ChatGPT. É verdade que podem acabar reprovando na disciplina ou perdendo o emprego por isso, duas coisas ruins. Mas isso não se compara a ser confundido pela máquina com um criminoso, e assim acabar sendo preso ou –pior– morto.

Por isso, apesar de a tecnologia ser muito bem-vinda no combate à criminalidade, os agentes de segurança pública precisam estar preparados para lidar com os resultados dessa colaboração e seus potenciais erros.


Veja esse artigo em vídeo:


Nesse cenário, é bastante ilustrativo o projeto da Prefeitura de São Paulo de unir diversos serviços municipais que hoje não trabalham integrados, como a Defesa Civil, o SAMU, a CET e a Guarda Civil Metropolitana, além das polícias Civil e Militar, Metrô e CPTM. Batizado de Smart Sampa, ele prevê ainda a adição de 20 mil câmeras na cidade, especialmente em pontos sensíveis e de maior criminalidade, que se somarão a outras 20 mil já existentes.

A princípio, a ideia parece muito boa, especialmente porque os diferentes órgãos da administração podem funcionar melhor ao compartilharem suas informações. A exemplo de outras grandes cidades no mundo, como Nova York, a tecnologia desempenha papel central nesse processo. Ironicamente aí começam a surgir os problemas.

O ponto mais delicado da proposta é o uso de reconhecimento facial. Essa tecnologia tem avançado incrivelmente, mas não o suficiente para evitar uma quantidade inaceitável de erros, particularmente entre pessoas negras. Isso acontece porque a inteligência artificial aprende a diferenciar rostos a partir de uma enorme quantidade de fotografias, mas proporcionalmente há muito mais amostras de brancos que de negros nesse “treinamento”. Diferentes estudos apontam que os erros de reconhecimento de pessoas brancas giram em torno de 1%, enquanto de negras ultrapassa os 30%, especialmente mulheres negras.

Por isso, a proposta original do Smart Sampa, que previa “rastrear uma pessoa suspeita, monitorando todos os seus movimentos e atividades, por características como cor, face, roupas, forma do corpo, aspectos físicos etc.”, precisou ser alterada. Monitorar alguém pela sua cor é ilegal!

O projeto prevê que qualquer problema identificado pela plataforma seja confirmado por um agente humano treinado antes de emitir qualquer alerta, o que é, sem dúvida, um ponto positivo para minimizar injustiças. Mas a ideia de rastrear alguém que o algoritmo ache suspeito, ainda cruzando com dados de redes sociais dos cidadãos, lembra algumas das piores sociedades da ficção científica.

 

Sem escapatória

No filme “Minority Report: a Nova Lei” (2002), as autoridades sabiam continuamente onde cada cidadão estava. Além disso, um sistema que combinava tecnologia com aspectos místicos, conseguia prever assassinatos antes que acontecessem. Dessa forma, a polícia prendia os “prováveis criminosos” antes de cometerem o crime.

Sim, as pessoas eram presas antes de terem cometido qualquer crime, apenas porque a plataforma tinha convicção de que o cometeriam! E para a polícia isso era suficiente.

O sistema parecia infalível e, de fato, os assassinatos acabaram. Os “prováveis criminosos” eram condenados a viver o resto de seus dias em uma espécie de coma induzido. O problema é que o sistema não só era falho, como ainda podia ser manipulado para “tirar de circulação” pessoas indesejáveis para os poderosos. Quando isso é revelado, o sistema é desativado e todos os condenados são libertados.

Como se pode ver, quando uma tecnologia tem o poder de levar alguém à prisão ou decidir sobre sua vida ou morte, nenhuma falha é aceitável. Ainda aproveitando a ficção para ilustrar o caso, temos a cena de RoboCop (1987) em que o robô de segurança ED-209, durante uma demonstração, identifica corretamente que um voluntário lhe apontava uma arma. Mas ele falha em reconhecer que a pessoa a joga ao chão logo depois, e acaba metralhando a vítima diante dos presentes.

Por isso, é assustador ver os motivos que desclassificaram a empresa vencedora do primeiro pregão do Smart Sampa. No dia 7 de junho, técnicos da Prefeitura foram verificar se ela estava apta ao serviço. Pelas regras, deveria ter mil câmeras operando com reconhecimento facial, mas só havia 347, das quais apenas 147 estavam online. Segundo o relatório dos técnicos, o responsável argumentou que “todo mundo tem problemas de Internet” e que “horário de almoço é complicado, muita gente fazendo download impacta no link de Internet mesmo”.

Esse amadorismo e falta de comprometimento é algo que jamais poderia pairar sobre um sistema de segurança pública, podendo colocar em xeque toda sua credibilidade! É por essas e outras que cidades importantes ao redor do mundo, como San Francisco (EUA), baniram o uso de reconhecimento facial em plataformas assim.

Alguns grupos querem reduzir esse debate a uma questão ideológica, como vem se tornando um padrão no Brasil há alguns anos. Mas essa não é uma questão ideológica e sim tecnológica!

Em um famoso artigo de 2018, Brad Smith, presidente da Microsoft, questionou qual papel esse tipo de tecnologia deve ter na sociedade, a despeito de todos os benefícios que traga. Segundo ele, “parece mais sensato pedir a um governo eleito que regule as empresas do que pedir a empresas não eleitas que regulem tal governo”.

Como em um bom episódio da série “Black Mirror”, o problema não está necessariamente na tecnologia em si, mas em usos errados dela. Câmeras e inteligência artificial darão poderes sobre-humanos às forças de segurança, com enorme poder de detecção de crimes e contravenções. Mas ela também pode maximizar vieses e falhas humanas da força policial, como o racismo.

Sem dúvida, podem ser ferramentas valiosíssimas no combate à criminalidade galopante. Mas em uma sociedade assustada e que clama por segurança rápida, despontam como soluções “mágicas” para políticos que buscam votos fáceis. Mas a coisa não funciona assim e, se não for implantada com cuidados técnicos e éticos, pode ainda ampliar outros problemas sociais existentes.

É necessário entender que, mesmo que o sistema evite 100 mortes, não é aceitável que 10 vítimas inocentes sejam condenadas ou mortas por erros da plataforma. Se houver um único erro, o sistema não é bom o suficiente para ser usado! Mas parece que pouca gente se preocupa com isso, no melhor estilo de “o fim justifica os meios”.

No final, a solução recai sobre o ser humano. Os agentes de segurança precisam ser treinados para lidar com possíveis falhas técnicas. Precisam aprender a dosar suas ações e abordagens feitas a partir de informações que podem estar erradas.

Resta saber se esses profissionais estão preparados para isso. Diante de diversas ações desastrosas e mortíferas que vemos nas ruas brasileiras o tempo todo, não estão! A solução desse outro problema é essencial e deveria acontecer antes da implantação da tecnologia. Mas isso, por si só, já renderia outro artigo.

 

O fundador e CEO do Facebook, Mark Zuckerberg, durante depoimento no Congresso americano, em 2018

Redes sociais fogem do seu papel nos ataques à democracia

By | Tecnologia | No Comments

O Brasil chegou à semana do Dia da Independência com um clima tão denso, que dá para ser cortado com uma faca, feito doce de leite cozido além do ponto. Ainda que tudo leve a crer que isso não passe de uma fumaça espessa, diz o ditado que onde ela existe, também há fogo. E o combustível para essas labaredas são as redes sociais, particularmente o pouco que elas vêm fazendo para tentar corrigir seu papel decisivo no ataque crescente à sociedade organizada.

Para quem viveu praticamente toda sua vida em um Brasil redemocratizado com o fim da ditadura militar, é inacreditável e assustador ver essa escalada da insanidade e da violência. Ela acontece porque grupos políticos usam essas plataformas digitais e o incrível poder de convencimento de seus algoritmos para incutir, em uma parcela considerável da população, a falsa ideia de que podem pensar, dizer e fazer o que bem entenderem em nome da liberdade de expressão.

Isso é uma falácia! Quando todos têm razão, ninguém tem razão! Mas o fato de as redes sociais nos colocarem em contato apenas com quem pensa como nós acaba legitimando mesmo a mais absurda porcaria.


Veja esse artigo em vídeo:


Possivelmente o exemplo mais emblemático desse momento é o motim de grupos expressivos de polícias militares pelo Brasil, abarcando de soldados a coronéis. Em nome desse suposto direito de se expressar, vêm transgredindo, de forma despudorada, seu próprio regulamento e atacando explicitamente instituições democráticas. A insubordinação é alimentada pelos grupos de poder nas redes sociais, transformando os militares em marionetes.

A gênese desse comportamento são diversas insatisfações das tropas, especialmente quanto a salários. Mas a prolongada e aguda crise política e econômica do Brasil atinge todas as categorias da sociedade. Os policiais não podem se atribuir mais direitos que qualquer outra categoria, e muito menos, para conseguir o que querem, usar a força que a sociedade lhes confere para ameaçar a mesma sociedade. Caso contrário, quem nos protegerá de quem deve nos proteger?

Winston Churchill disse em 1947 uma de suas célebres frases: “Ninguém espera que a democracia seja perfeita ou infalível. Na verdade, tem sido dito que a democracia é a pior forma de governo, excetuando-se todas as demais formas.” O ex-primeiro-ministro do Reino Unido, considerado um dos maiores estadistas da história, sabia que a democracia só funciona bem pela contraposição de ideias.

Ele deve estar se revirando no túmulo agora ao ver o que oportunistas fizeram da democracia com a ajuda das redes sociais, ao eliminar tal contraposição.

 

Poder desmedido

Não seria absurdo afirmar que nunca existiram empresas tão poderosas no sentido de transformar a sociedade, para o bem ou para o mal. As redes sociais, que surgiram como espaço lúdico para encontrar amigos e compartilhar trivialidades, se transformaram em plataformas que definem o que compramos (seu grande negócio), com quem andamos e até o que pensamos.

Suas equipes conscientemente constroem sistemas que atuam nas camadas mais primitivas de nosso cérebro. Isso é fartamente explicado no documentário “O Dilema das Redes”, disponível na Netflix. Também foi descrito cientificamente em um estudo liderado por Adam Kramer, então cientista de dados do Facebook, publicado em 2014 na prestigiosa revista Proceedings of the National Academy of Sciences, assim como em outra pesquisa, que ganhou a capa da Science, a mais importante revista científica do mundo, em 2018.

Nunca nada ou ninguém sequer rivalizou com essa capacidade de persuadir as pessoas. Trata-se de uma virtual onipotência, que é usada o tempo todo. Assim como a indústria tabagista sabia que o cigarro fazia mal e viciava os consumidores e, mesmo assim, investia em ingredientes que ampliavam a dependência, as redes sociais persistem nesse seu caminho.

Justiça seja feita, algumas dessas plataformas, inclusive o Facebook, vêm tomando ações para minimizar os pesados efeitos colaterais provocados por suas atividades. Mas isso está longe de ser eficaz, principalmente porque essas companhias ainda não assumem a verdadeira extensão desse dano.

Além disso, as ações acontecem principalmente porque elas vêm sendo pressionadas por governos ao redor do mundo, especialmente depois que explodiu o escândalo da Cambridge Analytica em 2018. Como explica outro documentário da Netflix, “Privacidade Hackeada”, essa empresa britânica de marketing político usou o Facebook para manipular milhões de pessoas favorecendo a eleição de Donald Trump para presidente dos EUA em 2016, e o Brexit, que tirou o Reino Unido da União Europeia.

E pensar que tudo isso começou com conversas inocentes de amigos.

 

A alegria na ignorância

A maioria das pessoas gostaria apenas de seguir sua vida de maneira produtiva e em paz. Mas a onipresença das plataformas digitais acaba nos arrastando para esse turbilhão.

Governos totalitários adoram isso: o pensamento único lhes favorece. Por isso, investem tanto nas redes sociais.

Isso me faz lembrar do filme “O Doador de Memórias” (2014), que retrata uma sociedade em que não há tristeza, doença ou pobreza. Mas o custo dessa harmonia é a eliminação de todas as emoções (mesmo do amor) e da liberdade. As pessoas sequer têm memórias do seu passado e veem o mundo sem cores (literalmente).

Para a governante vivida por Meryl Streep, “quando as pessoas têm a liberdade de escolher, elas escolhem errado”. Assim o governo determina até o que cada pessoa deve fazer e como deve pensar. E, para conter qualquer rebelião, todos devem tomar diariamente uma espécie de droga.

Começo a achar que as redes sociais são essa droga em nossa realidade. Muita gente topa aparentemente eliminar toda a dor e a discordância, mesmo que o custo disso seja sua liberdade, sua autonomia e seu senso crítico. Precisam apenas de alguém que os guie para esse mundo do pensamento único.

Bem, isso agora existe e está sendo implantado. Mas não dá para viver assim!

Precisamos de paz e de liberdade! Ninguém se desenvolve em um uma vida de constante incerteza e conflito, ou sendo dominado socialmente (ainda que não perceba essa dominação).

Sou progressista e liberal (ao contrário do que muitos pensam, esses conceitos não são antagônicos). Entendo que empresas não podem atuar livremente apenas para garantir seus próprios interesses. Como integrantes de uma sociedade, suas ações têm impacto na vida das pessoas e devem ser responsabilizadas quando algo que fizerem prejudicar a população.

Por isso, devemos usar as redes sociais no que elas têm de bom –e são muitas coisas! Mas não podemos deixar que elas se prestem aos objetivos nefastos de alguns grupos. O espaço que elas já ocuparam em nossas vidas não pode colocar em risco a democracia e nosso bem-estar.

Nós também somos responsáveis por tudo isso!

Dá para melhorar o Brasil?

By | Educação | 3 Comments
O deputado Jean Wyllys (de vermelho) cospe no deputado Jair Bolsonaro (com braços levantados) em plena Câmara dos Deputados - Foto: reprodução

O deputado Jean Wyllys (de vermelho) cospe no deputado Jair Bolsonaro (com braços levantados) em plena Câmara dos Deputados

Há dez dias, assistimos a um espetáculo de fanfarronice de deputados governistas e oposicionistas na votação do impeachment na Câmara. Transformaram seus segundos de fama diante de uma enorme audiência em um palanque grotesco. Mas aquilo pode nos ensinar muito sobre o caminho para melhorar o Brasil.

Desde aquele fatídico domingo, as redes sociais têm sido tomadas por todo tipo de manifestação a favor ou contra tudo que foi visto lá. Naturalmente alguns deputados acabaram ganhando mais destaque, infelizmente menos pelas suas ideias e mais por cenas bizarras que protagonizaram. Diante disso, nós nos indignamos, rimos e até ridicularizamos alguns. Mas, assim como os deputados, muitos fizeram isso levados pela emoção e por seguir o clamor popular, em um verdadeiro efeito-manada político, sem a devida reflexão.


Vídeo relacionado:


Será que não estamos ridicularizando a nós mesmos?

Apesar de toda repulsa que isso nos causa, não podemos esquecer que aquele circo representa as crenças da população.

Sei que pode parecer horrível dizer isso e muito difícil admitir tal coisa. Mas todas aquelas pessoas foram eleitas pelo que pensam ou pelo que representam na sociedade. Para comprovar isso, basta considerar os deputados Jean Wyllys e Jair Bolsonaro. Ambos habitam extremos opostos da sociedade e estão constantemente entrando em conflito na Câmara. Na votação acima, Bolsonaro provocou Wyllys logo após ele ter votado e recebeu, em troca, uma cusparada.

As atitudes de ambos são condenáveis. Não obstante, é bem fácil encontrar grupos que os defendem, mesmo depois de mais esse confronto. E não poderia ser diferente, pois seus posicionamentos são os mesmos desses grupos sociais. Por isso, essas pessoas os elegeram e os continuam apoiando.

Bolsonaro e Wyllys são apenas dois exemplos, mas a Câmara é povoada por seres que representam os ideais de grupos específicos, que podem parecer aberrações ao resto da população. Mas esse é o jogo democrático.

O que me leva à pergunta fatídica: por que o Congresso Nacional, a exemplo da sociedade que o elege, se transformou em um circo de horrores?

 

“Espelho mágico, espelho meu”

O Congresso Nacional –e na verdade os três poderes nas três esferas– representam o povo. Precisamos então pensar no que levou a sociedade a esse ponto e como melhorar isso.

Vivemos um vale-tudo cuja raiz está no Brasil Colônia. Nesse cenário, ganha quem é mais forte, grita mais alto, é mais malandro ou simplesmente porque “está pagando”.

Como poderia ser diferente se a história brasileira começou com a Coroa Portuguesa despachando a escória da sua sociedade para colonizar suas novas terras? Some-se a isso o completo desprezo da Metrópole pelo desenvolvimento da Colônia, escravidão e uma completa falta de acesso à educação, e você tem elementos de nossa cultura que foram cultivados ao longo de séculos. Como resultado, temos a corrupção endêmica, o “jeitinho brasileiro” (que, a despeito do romantismo que lhe conferem, também é corrupção), o suborno ao guarda, o pouco caso com leis e instituições, a “Lei do Gerson”, o “você sabe com quem está falando” e muitos outros comportamentos da mesma estirpe.

De uns tempos para cá, a situação só vem piorando. Em uma sociedade em que é muito mais importante “ter” que “ser”, o vale-tudo descambou para a população querendo se armar e tendo mais medo da polícia que dos bandidos em algumas regiões, os falidos serviços essenciais do Estado sendo substituídos por versões privadas (o que enfraquece ainda mais o Estado), a busca inconsequente por todo tipo de prazer e a vontade de fazer justiça com as próprias mãos. Afinal, hoje se mata por muito pouco (ou por nada) no Brasil. Desse caldo, florescem o ódio, o radicalismo e a inconsequência.

 

A única saída

Naturalmente, todas essas medidas só fazem piorar ainda mais a situação. A sociedade brasileira é como uma enorme roda girando cada vez mais rapidamente no sentido da intolerância autodestrutiva. E tudo o que foi dito acima acelerará mais e mais essa roda, até um ponto em que não será mais possível detê-la. E então o Brasil estará condenado. Viveremos em um “Mad Max” cotidiano.

Claramente o que temos que fazer é desacelerar a roda, forçando uma rotação contrária. E isso implica em, primeiramente, parar de fazer tudo o que foi dito acima. O vale-tudo, o “jeitinho brasileiro”, a “Lei do Gerson” e a justiça pelas próprias mãos são cânceres que estão matando o Brasil.

Mas isso ainda não será suficiente. Outro fator essencial para “curarmos” nossa sociedade é investir pesadamente em educação. Educação séria, de qualidade, ampla e para todos.

Simples, não é? Nem tanto, infelizmente…

O primeiro obstáculo é convencer a população a abandonar esses maus hábitos. E isso significa lutar contra um sentimento de que, se deixar de fazer isso, acabará sendo “passado para trás” pelos que não fizerem o mesmo. E desgraçadamente isso acontecerá em muitos casos. Mas é necessário resistir e não ter uma recaída para o “lado negro”. E sempre contagiar o próximo para o que é certo.

A segunda grande barreira é convencer o governo a levar a educação com seriedade, melhorando a formação e as condições de trabalho dos professores, devolvendo-lhes autoridade e autoestima, criando uma base curricular realmente de excelência e trazendo a sociedade para dentro da escola. E isso para todos os brasileiros! Mas os políticos preferem uma massa ignorante e fácil de manipular. Portanto o governo não faz isso direito desde… bem, desde sempre.

Gosto muito do exemplo da Coreia do Sul. Em 1950, a Coreia era considerado o país mais pobre do mundo, muito mais pobre que o Brasil da época. Após o fim da guerra que consolidou a divisão do país entre o norte socialista e o sul capitalista, este último começou um intenso e consistente programa de educação de toda a população. Com resultado, depois de 35 anos, a Coreia do Sul saiu da miséria para figurar entre os Tigres Asiáticos. Hoje é considerada a 13º maior economia do mundo, com o 17º melhor Índice de Desenvolvimento Humano.

E foram necessárias apenas algumas décadas…

Portanto, se fizermos tudo o que precisamos, não teremos resultados no ano que vem. Nem na década que vem. Afinal, temos que arrumar uma bagunça de 516 anos! Portanto, temos que ser persistentes, sem esmorecer diante dos obstáculos que certamente surgirão. E aí, daqui a uns 50 anos, o brasileiro poderá bater no peito e dizer que vive em um dos melhores países do mundo.

Não há outro jeito. Sem fórmulas mágicas.

A alternativa é continuar do jeito que está. Assim poderemos seguir rindo de deputados se agredindo em pleno Congresso Nacional. E rindo também da nossa própria incompetência.


Artigos relacionados: