regulamentação

mar 18 2024
0
Roberta Metsola, presidente do Parlamento Europeu, que acaba de aprovar a Lei da Inteligência Artificial - Foto: PE/Creative Commons

Europa regulamenta a IA protegendo a sociedade e sem ameaçar a inovação

By | Tecnologia | No Comments

O Parlamento Europeu aprovou, na quarta passada (13), a Lei da Inteligência Artificial, uma legislação pioneira que visa a proteção da democracia, do meio ambiente e dos direitos fundamentais, enquanto promove o desenvolvimento dessa tecnologia. As novas regras, que devem entrar em vigor ao longo dos próximos dois anos, estabelecem obrigações para desenvolvedores, autoridades e usuários da IA, de acordo com potenciais riscos e impacto de cada aplicação.

Na semana anterior, a Europa já havia aprovado uma lei que regula a atuação das gigantes da tecnologia, favorecendo a competição. Tudo isso consolida a vanguarda do continente na organização do uso do mundo digital para proteger e beneficiar a sociedade, inspirando leis pelo mundo. O maior exemplo é a GDPR, para proteção de dados, que no Brasil inspirou a LGPD, nossa Lei Geral de Proteção de Dados.

Legislações assim se tornam necessárias à medida que a digitalização ocupa espaço central em nossas vidas, transformando profundamente a sociedade. Isso acontece desde o surgimento da Internet comercial, na década de 1990. De lá para cá, cresceu com as redes sociais, com os smartphones e agora com a inteligência artificial.

O grande debate em torno dessas regras é se elas podem prejudicar a sociedade, ao atrapalhar o desenvolvimento tecnológico. A preocupação é legítima, mas ganha uma dimensão muito maior que a real por influência dessas empresas, que se tornaram impérios por atuarem quase sem regras até agora, e gostariam de continuar assim.

Infelizmente essas big techs abusaram dessa liberdade, sufocando a concorrência e criando recursos que, na prática, podem prejudicar severamente seus usuários. Portanto, essas leis não devem ser vistas como ameaças à inovação (que continuará existindo), e sim como necessárias orientações sociais para o uso da tecnologia.

Veja esse artigo em vídeo:

A nova lei proíbe algumas aplicações da IA. Por exemplo, o uso de câmeras fica restrito, sendo proibido o “policiamento preditivo”, em que a IA tenta antecipar um crime por características e ações das pessoas. Também são proibidos a categorização biométrica e a captação de imagens da Internet ou câmeras para criar bases de reconhecimento facial. A identificação de emoções em locais públicos, a manipulação de comportamentos e a exploração de vulnerabilidades tampouco são permitidos.

“O desafio é garantir que tecnologias de vigilância contribuam para a segurança e bem-estar da sociedade, sem prejuízo das liberdades civis e direitos individuais”, explica Paulo Henrique Fernandes, Legal Ops Manager no Viseu Advogados. “Isso requer um diálogo contínuo para aprimoramento de práticas e regulamentações que reflitam valores democráticos e éticos”, acrescenta.

A lei também disciplina outros sistemas de alto risco, como usos da IA em educação, formação profissional, emprego, infraestruturas críticas, serviços essenciais, migração e Justiça. Esses sistemas devem reduzir os riscos, manter registros de uso, ser transparentes e ter supervisão humana. As decisões da IA deverão ser explicadas aos cidadãos, que poderão recorrer delas. Além disso, imagens, áudios e vídeo sintetizados (os deep fakes) devem ser claramente rotulados como tal.

A inovação não fica ameaçada pela lei europeia, porque ela não proíbe a tecnologia em si, concentrando-se em responsabilidades sobre aplicações que criem riscos à sociedade claramente identificados. Como a lei prevê um diálogo constante entre autoridades, desenvolvedores, universidades e outros membros da sociedade civil, esse ambiente pode até mesmo favorecer um desenvolvimento sustentável da IA, ao criar segurança jurídica a todos os envolvidos.

A nova legislação também aborda um dos temas mais polêmicos do momento, que é o uso de conteúdos de terceiros para treinar as plataformas de IA. Os donos desses sistemas vêm usando tudo que podem coletar na Internet para essa finalidade, sem qualquer compensação aos autores. A lei aprovada pelo Parlamento Europeu determina que os direitos autorias sejam respeitados e que os dados usados nesse treinamento sejam identificados.

 

Evitando Estados policialescos

Um grande ganho da nova lei europeia é a proteção do cidadão contra o próprio Estado e seus agentes. A tecnologia digital vem sendo usada, em várias partes do mundo, para monitorar pessoas e grupos cujas ideias e valores sejam contrárias às do governo da vez, uma violação inaceitável a direitos fundamentais, além de criar riscos enormes de injustiças por decisões erradas das máquinas.

Em várias partes do mundo, inclusive no Brasil, muitas pessoas foram presas por terem sido confundidas pelos sistemas com criminosos. Em São Paulo, a primeira proposta do programa Smart Sampa, implantado em 2023 pela Prefeitura e que monitora os cidadãos com milhares de câmeras, previa que o sistema indicasse à polícia pessoas “em situação de vadiagem”, seja lá o que isso significasse.

A ficção nos alerta há muito tempo sobre os problemas desses abusos. O filme “Minority Report” (2002), por exemplo, mostra que mesmo objetivos nobres (como impedir assassinatos, nessa história) podem causar graves danos sociais e injustiças com a tecnologia. E há ainda os casos em que as autoridades deliberadamente a usam para controlar os cidadãos, como no clássico livro “1984”, publicado por George Orwell em 1949.

O Congresso brasileiro também estuda projetos para regulamentar a inteligência artificial. O mais abrangente é o Projeto de Lei 2.338/2023, que propõe o Marco Legal da Inteligência Artificial. “Enquanto a União Europeia estabeleceu um quadro regulatório detalhado e abrangente, focando na gestão de riscos associados a diferentes usos da IA, o Brasil ainda está definindo seu caminho regulatório, com um enfoque aparentemente mais flexível e menos prescritivo”, explica Fernandes.

É inevitável a profunda transformação que a inteligência artificial já promove em nossa sociedade, um movimento que crescerá de maneira exponencial. Os benefícios que ela traz são imensos, mas isso embute também muitos riscos, especialmente porque nem os próprios desenvolvedores entendem tudo que ela vem entregando.

Precisamos estar atentos também porque muitos desses problemas podem derivar de maus usos da IA, feito de maneira consciente ou não. Por isso, leis que regulamentem claramente suas utilizações sem impedir o desenvolvimento são essenciais nesse momento em que a colaboração entre pessoas e máquinas ganha um novo e desconhecido patamar. Mais que aspectos tecnológicos ou de mercado, essas legislações se tornam assim verdadeiros marcos civilizatórios, críticos para a manutenção da sociedade.

 

jun 20 2023
0
Imagem: composição por Paulo Silvestre

Chamamos de “magia” muitas coisas que simplesmente não entendemos

By | Tecnologia | No Comments

Em 1985, eu e três amigos começamos a nos interessar por computadores, em uma época em que pouquíssimas pessoas sabiam o que eles eram ou para que serviam. Fomos a uma pioneira “escola de computação” no bairro para saber se poderíamos aprender mais sobre aquilo. A recepcionista nos levou a um TK-85 (um pequeno computador como o da imagem) e digitou o seguinte programa:

 

10 PRINT "Qual é o seu nome?"
20 INPUT nome$
30 PRINT "Olá, " + nome$ + "."
40 END

 

Quando ela rodou aquele código “espantoso”, a tela da TV preto-e-branco exibiu “Qual o seu nome?” Cada um de nós digitou o seu, ao que a máquina respondeu (para mim) “Olá, Paulo.”

Assombro geral com a “inteligência” do computador! Suficiente para aqueles pré-adolescentes se matricularem no cursinho de BASIC.

Não é preciso ser um programador para perceber que aquilo era algo extremamente simples. Mas para quem nunca tinha tocado em um computador (1985, lembra?), foi o suficiente para abrir as portas que me permitiram, a partir dali, olhar para o digital como forma de ampliar meus horizontes, procurando entender o que acontece no mundo dos bits.

O ser humano tem medo do desconhecido, porque não o pode controlar. Mesmo que algo aconteça incontestavelmente diante de seus olhos, se não compreender o fenômeno com o que sabe, recai sobre obra do divino ou –pior– vira “bruxaria”. Por conta disso, muitas mulheres e homens geniais foram, ao longo da história, calados, presos ou mortos por suas ideias, mesmo as mais benéficas à humanidade.

Por outro lado, quando adquirimos conhecimento, qualquer coisa, mesmo aquelas até então tidas como mágicas, deixa o campo do desconhecido e passa a ser uma ferramenta sob nosso domínio. E de tempos em tempos, uma nova tecnologia disruptiva surge para “testar a nossa fé”.

A bola da vez é a inteligência artificial, que já está revolucionando muitos negócios, mas igualmente desperta medo, pois o cidadão médio não consegue entender como ela funciona. Para ficar ainda mais confuso, temos pesquisadores e executivos da própria área revelando publicamente restrições a ela.

Talvez exista exagero nesses temores; talvez não. A dúvida se dá porque essa, que é uma das mais poderosas tecnologias já criadas, ainda seja majoritariamente incompreendida pela massa, que a vê, portanto, como “mágica”.

Precisamos desmistificar a IA, assim como qualquer outra tecnologia. Essa é a melhor maneira de tirarmos bom proveito do que ela pode nos oferecer, enquanto escapamos de eventuais armadilhas. Não quer dizer que teremos que ser todos programadores ou cientistas de dados: entendermos o que é, como funciona e para que serve já ajudará muito!

 

PS: tenho até hoje o meu TK-85 (foto a seguir), testemunha daquele momento histórico do nascimento da microinformática no país, nos anos 1980.

Foto: Paulo Silvestre

Foto: Paulo Silvestre

 

Vídeo relacionado:

jun 19 2023
0
Joan, protagonista do primeiro episódio da sexta temporada de “Black Mirror”, surta por causa de um mau uso da IA - Foto: divulgação

“Black Mirror” explica ludicamente os riscos da inteligência artificial

By | Tecnologia | No Comments

Em uma sociedade polarizada pelo poder descontrolado dos algoritmos das redes sociais, cresce o debate se a inteligência artificial vai exterminar ou salvar a humanidade. Como costuma acontecer com esses extremismos, a verdade provavelmente fica em algum lugar no meio do caminho. Agora a sexta temporada da série “Black Mirror”, que estreou na Netflix na última quinta (15), surge com uma explicação lúdica de como essa tecnologia pode ser incrível ou devastadora, dependendo apenas de como será usada.

A icônica série, criada em 2011 pelo britânico Charlie Brooker, é conhecida pelas suas perturbadoras críticas ao mau uso de tecnologias. Sem correr risco de “dar spoiler”, o primeiro episódio da nova temporada (“A Joan É Péssima”) concentra-se na inteligência artificial generativa, mas guarda espaço para apontar outros abusos do mundo digital pela sociedade. Sobra até para a própria Netflix, a vilã do episódio!

Como fica claro na história, o poder da inteligência artificial cresce de maneira que chega a ser assustador, alimentando as teorias pessimistas ao redor dela. Se até especialistas se pegam questionando como essas plataformas estão “aprendendo”, para uma pessoa comum isso é praticamente incompreensível, algo ainda no campo da ficção científica.

Mas é real e está a nossa volta, começando pelos nossos smartphones.

Veja esse artigo em vídeo:

Como acontece em tantos episódios de “Black Mirror”, algo dá muito errado. E a culpa não é do digital, mas de como ele é usado por seres humanos movidos por sentimentos ou interesses condenáveis. A lição é que, quanto mais poderosa for a tecnologia, mais incríveis serão os benefícios que ele pode trazer, mas também maiores os riscos associados à sua desvirtuação.

É nesse ponto que estamos com a inteligência artificial. Mas ela não estraga a vida da protagonista do episódio sozinha: tem a “ajuda” de celulares (que estão captando continuamente o que dizemos e fazemos), dos algoritmos das plataformas de streaming (que nos dizem o que assistir), da “ditadura das curtidas”, do sucesso de discursos de ódio e até de instalarmos aplicativos sem lermos seus termos de uso.

A indústria de tecnologia costumava ser regida pela “Lei de Moore”, uma referência a Gordon Moore, um dos fundadores da Intel. Em um artigo em 1965, ele previu que a quantidade de circuitos em chips dobraria a cada 18 meses, pelo mesmo custo. Em 1975, reviu sua previsão para 12 meses. Hoje, o poder da inteligência artificial –que é software, mas depende de um processamento gigantesco– dobra a cada três meses.

O “problema” é que nossa capacidade humana não cresce no mesmo ritmo. E quando não conseguimos acompanhar uma evolução, ela pode nos atropelar. Essa é a gênese de muitos desses problemas, pois tanto poder à disposição pode fazer com que as pessoas deixem cuidados de lado e até passem por cima de limites morais.

É como diz o ditado: “quem nunca comeu melado, quando come, se lambuza!”

 

Faça a coisa certa

Na quarta, participei do AI Forum 2023, promovido pela IBM e pela MIT Sloan Review Brasil. As palestras demonstraram o caminho desse avanço da inteligência artificial e de como ela está se tornando uma ferramenta essencial para empresas de qualquer setor.

De fato, com tantos recursos incríveis que novas plataformas movidas pela IA oferecem aos negócios, fica cada vez mais difícil para uma empresa se manter relevante no mercado sem usar essa tecnologia. É como procurar emprego hoje sem saber usar a Internet ou um smartphone. Por mais experiente e qualificado em outras áreas que se seja, não haveria chance de ser contratado, porque esses pontos fortes seriam facilmente suplantados por outros candidatos que dominassem esses recursos.

Um estudo recém-divulgado pela IBM mostra que, se em 2016 58% dos executivos das empresas estavam familiarizados com a IA tradicional, agora em 2023 83% deles conhecem a IA generativa. Além disso, cerca de dois terços se sentem pressionados a acelerar os investimentos na área, que devem quadruplicar em até três anos.

A mesma pesquisa aponta que o principal fator que atravanca essas decisões é a falta de confiança na tecnologia, especialmente em aspectos de cibersegurança, privacidade e precisão. Outros problemas levantados foram a dificuldade de as decisões tomadas pela IA generativa serem facilmente explicadas, a falta de garantia de segurança e ética, a possibilidade de a tecnologia propagar preconceitos existentes e a falta de confiança nas respostas fornecidas pela IA generativa.

Conversei no evento com Marcela Vairo, diretora de Automação, Dados e IA da IBM (a íntegra da entrevista pode ser vista no vídeo abaixo). Para ela, três premissas devem ser consideradas para que a inteligência artificial nos ajude efetivamente, resolvendo essas preocupações.

A primeira delas é que as aplicações movidas por IA devem ser construídas para tornar as pessoas mais inteligentes e produtivas, e não para substituí-las. Deve existir também um grande cuidado e respeito com os dados dos clientes, que pertencem apenas a eles e não podem ser compartilhados em outra plataforma ou com outros clientes. E por fim, as aplicações devem ser transparentes, para que as pessoas entendam por que elas estão tomando uma determinada decisão e de onde ela veio, o que também ajuda a combater os possíveis vieses que a IA desenvolva.

O que precisamos entender é que essa corrida tecnológica está acontecendo! Não sejamos inocentes em achar que ela será interrompida pelo medo do desconhecido. Os responsáveis por esse desenvolvimento devem incluir travas para que seus sistemas não saiam do controle, garantindo essas premissas.

O que nos leva de volta a “Black Mirror”: tampouco podemos ser inocentes em achar que todos os executivos da indústria serão éticos e preocupados em fazer a coisa certa. É por isso que a inteligência artificial precisa ser regulamentada urgentemente, para pelo menos termos a tranquilidade de continuar usufruindo de seus benefícios incríveis sem o risco de sermos dominados pela máquina.

E no final, sempre temos que ter uma tomada para puxar e desligar a coisa toda se ela sair completamente dos trilhos.

Íntegra de entrevista com Marcela Vairo (IBM):

Maio 17 2016
0

Por que os taxistas nunca vencerão o Uber (e o que você pode tirar disso)

By | Jornalismo, Tecnologia | 5 Comments
Taxistas protestam contra a regulamentação do Uber em São Paulo – Foto: Rovena Rosa/Agência Brasil

Taxistas protestam contra a regulamentação do Uber em São Paulo

No dia 11, o prefeito Fernando Haddad regulamentou os aplicativos de transporte, como o Uber, em São Paulo. Isso desencadeou uma nova onda de protestos violentos dos taxistas, que acusam a empresa de concorrência desleal. Mas é uma luta que eles jamais vencerão, pois o Uber redefiniu o transporte de pessoas, “commoditizando” o serviço dos taxistas. E esse é um fenômeno social e econômico que pode atingir qualquer negócio ou categoria profissional.

Mas o que é essa “commoditização” de produtos e serviços? Isso acontece quando novas empresas, novas tecnologias ou novos modelos de negócios começam a oferecer a mesma coisa de maneira inovadora, acrescentando uma camada inédita de valor sobre algo que já existe. Nesse processo, o produto ou o serviço original continua lá e até pode ser essencial no novo formato, mas o público deixa de ver valor naquilo, passando a pagar apenas pela novidade.

Vídeo relacionado:

É o que o Uber fez com os táxis. Trocando em miúdos, os passageiros passaram a querer mais que o simples transporte em quaisquer condições, oferecido pelos taxistas. Para esses consumidores, o verdadeiro valor é ter esse serviço em um carro novo, limpo e confortável, com um motorista educado, treinado e bem vestido, com serviço de bordo. É por tudo isso que cada vez mais pessoas estão dispostas a pagar. E é isso que o Uber oferece, e os taxistas não conseguem –ou não querem– entender e fazer.

É claro que o que os taxistas e o Uber vendem é transporte de passageiros. Mas o Uber tirou o valor disso, que virou apenas o básico, aquilo que o público nem vê, por mais que seja a essência do serviço: foi “commoditizado”. O valor foi transferido para a camada de serviços extra.

O que os taxistas oferecem não vale mais. É por isso que não vencerão o Uber.

 

“Commoditizando” tudo

Mas isso pode afetar qualquer um, inclusive você, seja lá o que você faça. Isso porque, quando menos se espera, alguém pode chegar oferecendo a mesma coisa, só que de uma maneira que faça mais sentido para o seu público.

Qualquer jornalista já sentiu isso na pele. Com a popularização das redes sociais e a explosão de oferta de conteúdo de qualquer tipo, muitos colegas chegam a achar que a profissão encontrou o seu fim, com uma massa enorme e crescente de desempregados. Eles não estão sozinhos: veículos de comunicação tradicionais quebram um após o outro no mundo todo, incapazes de fazer frente à fuga de público e de anunciantes.

Assim como os taxistas, esses profissionais e essas empresas ficam em um “mimimi” eterno, reclamando que são eles que sabem fazer esse trabalho direito, que são eles que produzem o conteúdo de qualidade, e que isso custa muito caro! E que não é justo que novos veículos digitais cheguem e acabem com o seu monopólio da notícia, que durava mais de um século.

Oras, mas esses novos veículos, como a Vice, vão muito bem, e o que eles oferecem, na base, é conteúdo jornalístico. Mas eles tiveram sucesso em criar aquela “camada de valor extra”. Ou seja, o conteúdo jornalístico está mesmo “commoditizado”, mas ele serve para viabilizar esses novos títulos e profissionais.

Outro exemplo que gosto muito de citar é o da indústria fonográfica. Há uns 20 anos, ela era bilionária, com lucros calcados principalmente sobre a venda de CDs. Surgiram então os serviços de compartilhamento de MP3, como o Napster, que mostraram ao público que aquele modelo da indústria já havia caducado. Eventualmente isso acabou perdendo força, com as gravadoras processando os serviços e até seus clientes (o que demonstra como estavam dissociadas desse novo mundo).

Mas então a Apple lançou o iTunes, oferecendo a possibilidade de compra digital de cada faixa por uma fração do valor do álbum, e jogou a pá de cal no modelo de negócios de CDs. Só que esse modelo também já está perdendo força, sendo substituído pelo do Spotify, onde se paga um valor fixo por mês e se consome à vontade do seu gigantesco acervo de músicas online.

A música foi “commoditizada”: sorte do Spotify! Azar dos vendedores de CDs…

Agora pense com carinho: o seu produto ou serviço já está sendo “commoditizado” por alguém ou isso ainda vai acontecer?

 

Como escapar da “commoditização”

A Apple também poderia ficar rangendo os dentes, como as gravadoras, os jornais, revistas ou os taxistas. Mas, ao invés disso, ela reinventou seu serviço! O iTunes ainda existe, mas a empresa já lançou a Apple Music, exatamente nos mesmos moldes do Spotify. Porque, como diz o filósofo, “quem fica parado é poste!”

Esse deveria ser o mantra de todos os gestores, de qualquer negócio. Mais cedo ou mais tarde, isso que eles fazem tão bem e que parece essencial à sociedade perderá o valor. Se continuarem insistindo, serão substituídos por alguém com uma visão mais moderna dos negócios e do mundo.

Então voltemos ao caso dos taxistas, para entender como sobreviver à “commoditização”.

Não é o Uber que ameaça os taxistas, e por vários motivos. Primeiramente porque existe espaço para todos. Como a Prefeitura de São Paulo não emite novos alvarás para táxis comuns desde 1996, há um déficit estimado de 20 mil carros para transporte particular na cidade. O Uber pode triplicar a sua frota atual em São Paulo, que isso mal fará cócegas nessa demanda reprimida.

No final das contas, a verdadeira ameaça aos taxistas são o seu sindicato, a máfia dos alvarás e os próprios taxistas! O primeiro porque promove o ódio entre os motoristas e incentiva essa baderna que temos visto nas cidades. O resultado disso é um sentimento de rejeição ao serviço de táxi como um todo entre a população, seja pelos recorrentes transtornos causados por aquela parcela dos motoristas, seja pela repulsa à violência injustificável que alguns criminosos praticam contra motoristas e até passageiros do Uber.

Sobre a máfia dos alvarás (que chega a cobrar R$ 150 mil por algo que é uma concessão municipal), ela é uma facção do crime organizado que lesa a população e o poder público por manipular essas autorizações para obter lucros milionários. Os próprios taxistas são os principais prejudicados por esses bandidos, pois, para que consigam trabalhar, precisam comprar ou alugar essa licença, pagando valores astronômicos.

Portanto, se os taxistas realmente quiserem sobreviver à “commoditização”, não deveriam se organizar contra Uber, muito menos do jeito que estão fazendo. A solução dos seus problemas passa por ficar livres justamente desse sindicato, que os manipula, e dessa máfia, que os explora ao extremo. Os dois são dignos representantes do pior que existe na sociedade brasileira. Além disso, os taxistas precisam repensar o seu serviço: se o que eles oferecem não é mais o que as pessoas estão dispostas a pagar, é hora de se reinventar. E o Uber, ao invés de algoz, pode ser o modelo a ser seguido.

Não há como resistir à evolução do mercado. Ranger os dentes, distribuir pancada ou desqualificar novos concorrentes não resolverá o problema de nenhum negócio. A única solução é melhorar: ficar parado é o mesmo que piorar.

Vamos falar sobre a linguagem certa para público certo na Social Media Week? Esse é o segredo do sucesso nas redes sociais. É só entrar nesta página e clicar no botão verde de CURTIR abaixo da minha foto.

Artigos relacionados: