militar

fev 10 2025
0
Sundar Pichai, CEO do Google, fala durante a conferência Google I/O 2024, realizada em 14 de maio do ano passado - Foto: reprodução

Google dá sua bênção para que a IA seja usada em armas e vigilância

By | Tecnologia | No Comments

Em mais um caso de big tech que trai seus princípios, na terça passada (4), o Google alterou suas regras éticas para que a inteligência artificial da empresa possa ser usada no desenvolvimento de armas, na vigilância de pessoas, em produtos que possam causar danos severos à sociedade ou que violem direitos humanos.

Não quer dizer que a companhia entrou no negócio de armas de destruição em massa. Sua posição agora é de “mitigar resultados não intencionais ou prejudiciais” e buscar “princípios amplamente aceitos do direito internacional e dos direitos humanos”. Mas na prática, isso significa pouco ou nada.

É uma mudança profunda, que pode ter impacto global no uso da IA. Pela posição de enorme destaque do Google, ela pode inspirar empresas do mundo todo a fazer o mesmo, provavelmente com ainda menos cuidado.

É inevitável perguntar por que decidiram fazer isso agora, e por que se recusavam até então. Além disso, se a IA poderá ser usada largamente em produtos criados com o objetivo de matar pessoas, qual garantia existe de que essa tecnologia não sairá do controle, com consequências devastadoras?

Vale lembrar o antigo lema do Google: “don’t be evil” (“não seja mau”), um pacto com práticas empresariais éticas e responsáveis. Mas em 2015, a Alphabet, conglomerado que incorporou o Google, trocou o mote por “faça a coisa certa”, bem mais genérico.

E cá estamos discutindo como a recente decisão pode ser tão má!

Veja esse artigo em vídeo:

O Google alega que a decisão reflete a necessidade de empresas de “países democráticos” defenderem seus valores em um cenário geopolítico complexo. Mas especialistas sugerem que a pressão do mercado de IA e a busca por lucrativos contratos militares de um governo nacionalista podem ter influenciado seus gestores.

Qualquer que seja o motivo, a empresa mina a confiança do público e sinaliza que a ética é negociável. Isso estabelece um novo padrão para toda a indústria, em uma competição global impiedosa e menos preocupada com direitos humanos.

Ironicamente, no início do mês, passaram a valer partes da Lei da Inteligência Artificial da União Europeia que proíbem o uso de sistemas de reconhecimento facial em espaços públicos e restringem aplicações consideradas de alto risco, como a manipulação comportamental e a vigilância em massa.

A nova posição do Google se choca com a anterior, que listava as “aplicações que não buscaremos”: armas, vigilância, tecnologias que “causam ou podem causar danos gerais” ou que violam os princípios do direito internacional e dos direitos humanos.

Essas regras que agora foram enterradas surgiram após protestos de funcionários em 2018 contra o projeto Maven, um contrato militar que usava seus algoritmos de visão computacional para analisar imagens de drones. Milhares assinaram uma carta aberta que dizia: “acreditamos que o Google não deveria estar no negócio da guerra”. Por isso, além daquelas regras, o contrato com o Pentágono não foi firmado na época.

O Google não está sozinho nesse novo posicionamento. Concorrentes como Microsoft, Amazon, OpenAI e Anthropic já oferecem suas IAs para aplicações militares. Mas o gigante de busca sempre serviu de inspiração para aqueles que procuram um uso ético da tecnologia. Agora isso acabou!

 

“Skynet feelings”

Algumas das maiores autoridades em IA do mundo, como o canadense Yoshua Bengio, vencedor em 2018 do prêmio Turing (o “Nobel da computação”), afirmam que a busca pela inteligência artificial geral (AGI), que terá autonomia e flexibilidade semelhante ao cérebro humano, pode levar a comportamentos inesperados ou indesejados, até mesmo contrários aos interesses humanos.

Sistemas com aprendizado autônomo podem criar estratégias para autopreservação ou poder, o que poderia torná-los difíceis de controlar. A falta de transparência aumenta o risco de decisões incompreensíveis e não-rastreáveis, dificultando a intervenção humana em casos críticos. Mesmo um botão físico para desligar um servidor (um “kill switch”) poderia ser contornado com a IA se replicando em incontáveis outros servidores antes que fosse possível interromper seu funcionamento.

Adicione a esse caldo a IA sendo usada para o desenvolvimento e operação de armas autônomas. Não entrarei em cenários da ficção em que máquinas decidem exterminar a humanidade, mas isso pode, sem dificuldade, levar a violações de direitos humanos e a escaladas militares perigosas. Pode ainda incentivar o uso de IA para vigilância em massa, especialmente por regimes autoritários, comprometendo as liberdades civis.

Para evitar isso, as big techs deveriam agir de forma oposta ao que estão fazendo. Devem existir regras internas e leis que impeçam o uso da IA em atividades potencialmente perigosas ou que violem direitos individuais. Além disso, os sistemas precisam ser transparentes para auditorias independentes. E isso deve acontecer em todos os países do mundo: talvez o mais difícil de tudo isso, e o que põe tudo a perder.

A decisão do Google de flexibilizar seus princípios éticos não pode ser vista como uma mera decisão empresarial. Como uma das empresas mais valiosas do mundo, cujos produtos são usados diariamente pela maior parte da população global, deveria ser um farol mostrando que responsabilidade e inovação podem coexistir. Mas a gigante decidiu priorizar os lucros em detrimento da segurança e dos direitos humanos.

Essa é uma lógica do capitalismo: companhias não fazem nada que comprometa seus lucros. Assim, é uma ilusão esperar que elas se autorregulem efetivamente por pressões competitivas e financeiras. Diante disso, regulamentações governamentais tornam-se essenciais para estabelecer limites claros e garantir que o desenvolvimento tecnológico continue existindo, mas sem comprometer valores humanos fundamentais.

Nada disso é ficção: vivemos uma realidade que nos brinda com avanços fabulosos, mas que oferece um mundo perigosamente instável por conflitos militares, Estados autoritários que atropelam a civilidade pelos interesses de seus governantes, e uma sociedade cada vez mais fragilizada, em que o cidadão, de tão manipulado pelo meio digital, defende ferozmente seus próprios algozes.

Com tudo isso, quem precisa de robôs assassinos?

 

mar 25 2024
0
Soldados ucranianos exibem drone russo capturado em agosto passado - Foto: Ministério de Assuntos Internos da Ucrânia/Creative Commons

Como vencer uma guerra sem disparar um único tiro

By | Tecnologia | No Comments

Para mim, as guerras representam a falência da humanidade. Quando governos recorrem a armas para impor pontos de vista ou obter ganhos às custas de incontáveis vidas humanas e enorme destruição, algo dramaticamente deu errado, partindo para a força. A tecnologia vem abrindo novos caminhos para a guerra, em que as armas dividem seu protagonismo com o mundo digital.

Talvez cheguemos a um cenário em que se vença um conflito sem que nenhum tiro seja disparado, o que não quer dizer que não mais existirão prejuízos e sofrimento. Ainda não estamos lá, mas a brutal invasão russa na Ucrânia fez dos dois anos desse teatro de guerra um campo de testes tecnológicos de drones, novos materiais e inteligência artificial para fins militares, que estão transformando o conceito da guerra.

Ela sempre esteve associada à ciência, para o desenvolvimento de melhores estratégias e armamentos. Grandes avanços para a humanidade também se derivaram disso, como a penicilina e até os fornos de micro-ondas.

Agora a Ucrânia vivencia uma guerra de algoritmos, inteligência artificial e satélites. O desconhecido se torna claro, previsível e muitas vezes evitável. Por outro lado, tropas e civis se tornam mais vulneráveis. Generais criam assim suas estratégias com o apoio de algoritmos preditivos e de armas que cumprem “suas missões” sozinhas.

Mas então por que o conflito da Ucrânia chegou a um impasse, sem conclusão aparente? Por que as cidades seguem sendo destruídas e as pessoas continuam sendo mortas? Como se pode ver, nesse videogame, ninguém tem vida extra.

Veja esse artigo em vídeo:

A resposta passa, em parte, por essas novas tecnologias serem relativamente portáteis, baratas e disponíveis para ambos os lados do conflito. Em janeiro, dois comandantes veteranos, o general Yuri Baluievski, ex-chefe do Estado-Maior russo, e o general Valeri Zaluzhni, chefe do Estado-Maior ucraniano, fizeram publicações em que abordam a digitalização da guerra, respectivamente na publicação russa “Army Standard” e no site do Ministério de Defesa da Ucrânia.

As tropas de ambos os países estão aprendendo as mesmas lições. Entre elas, está que a tecnologia favorece mais a defesa. A exceção são os drones, veículos aéreos e aquáticos não-tripulados, que conseguem causar danos aos inimigos de maneira barata, eficiente e preservando tropas, enquanto tanques, aviões e navios têm sido mais facilmente interceptados. Eles são as estrelas desse conflito sangrento.

Não se trata dos sofisticados drones militares americanos. Os veículos usados no conflito são baratos, às vezes equipamentos de mercado, que podem ser adquiridos em grande quantidade. Eles são modificados para carregar explosivos e para tentarem ser menos suscetíveis aos sistemas do inimigo que embaralham as frequências que usam, fazendo com que os pilotos percam seu controle. E nessas contramedidas digitais, a Rússia vem levando vantagem, com sua massiva máquina de guerra.

Mas uma nova geração de drones tenta resolver esse problema. Graças à inteligência artificial, eles são capazes de cumprir sua missão, mesmo que seu piloto remoto perca o contanto com eles. Nesse caso, o sistema no próprio veículo assume o controle e faz tudo que for necessário para atingir seu alvo, mesmo que ele se mova.

Nem sempre dá certo. Em uma simulação no ano passado, um “drone inteligente” atacou seu próprio centro de comando depois de receber dele um comando para cancelar a missão. O robô entendeu que essa ordem atrapalhava o objetivo de destruir o inimigo, e por isso atacou a própria base. Felizmente era apenas uma simulação.

Às vezes, soluções simples podem ser mais eficientes. As armas antigas, sem inteligência ou guiadas por GPS, ganham uma sobrevida com o apoio da tecnologia, que indica com precisão onde os disparos devem acontecer. Os ucranianos também têm usado celulares espalhados pelo território para captar o zunido típico dos drones. Dessa forma, identificam sua aproximação melhor que caros sistemas de radar.

Smartphones nas mãos dos soldados tornaram-se, por outro lado, uma perigosa ameaça a sua segurança. A Ucrânia infligiu pesadas baixas aos russos ao atacar locais em que identificaram grande concentração de sinais de celulares, WiFi ou Bluetooth.

 

Uma guerra sem disparos

A guerra do futuro tem outras formas, igualmente ligadas ao avanço da tecnologia. Ela pode viabilizar confrontos que acontecerão sem disparos e uso de tropas militares, mas ainda assim criarão grandes prejuízos ao inimigo.

Além dos já citados drones, mais fáceis de compreender e implantar, Forças Armadas de diversos países investem no desenvolvimento de ataques cibernéticos, capazes de inutilizar digitalmente a infraestrutura de inimigos. Em um mundo cada vez mais digital, isso pode colocar uma nação de joelhos em curtíssimo tempo. Militares estão atentos a isso e tratam de proteger seus equipamentos. Mas atacar sistemas civis, muito mais vulneráveis, podem trazer resultados catastróficos.

A inteligência artificial, especialmente modelos de linguagem amplos (como o ChatGPT), está sendo usada para identificar fragilidades em inimigos, analisar fotos de satélite e até decifrar suas mensagens cifradas, o que pode conceder uma vantagem tática incrível. Isso teve um papel decisivo na vitória dos Aliados na Segunda Guerra Mundial, quando uma equipe de matemáticos britânicos, liderada por Alan Turing, construiu um rudimentar computador mecânico capaz de decifrar a máquina Enigma, usada pelos nazistas para suas transmissões militares codificadas.

Rompendo a tradição de se manterem afastadas de desenvolvimentos militares, algumas big techs e startups americanas, como Microsoft, Amazon Web Services, OpenAI e Scale AI, têm trabalhado com os militares do país para que sua tecnologia seja usada com esse fim. O Google também fazia isso, mas encerrou sua colaboração com o Pentágono em 2019, após protestos de seus funcionários.

A mistura de IA com armamentos desperta medo em muita gente, alguns oriundos da ficção científica, como nos filmes do “Exterminador do Futuro”. Espero que não cheguemos àquilo, mas uma guerra cibernética pode envolver a contaminação de bases de dados dessas plataformas no inimigo, para que elas tomem decisões erradas e potencialmente devastadoras.

O militar prussiano Carl Von Clausewitz (1790-1831), especialista em estratégias militares, escreveu em sua obra “Sobre a Guerra” (1832) que “a guerra é a continuação da política por outros meios”. Segundo ele, trata-se de “um ato de violência destinado a forçar o adversário a submeter-se à nossa vontade.”

Para isso, ao longo da história, o ser humano usou porretes, flechas, rifles, canhões e bombas, armas químicas e biológicas, e dispositivos nucleares. A tecnologia da vez vem do mundo digital. Mas qualquer que seja o meio, a guerra continua sendo o que é, conduzida por homens que desprezam qualquer vida que não seja a sua própria, para atingir objetivos no mínimo questionáveis.