assistente

Quem assedia uma assistente virtual?

By | Tecnologia | No Comments

No dia 5, o Bradesco lançou uma nova campanha de marketing. O banco apresentou mudanças no algoritmo da BIA, sua assistente com inteligência artificial. As mudanças se concentram nas respostas que o sistema dá diante de diferentes formas de assédio que a assistente recebe de clientes, que vão desde insultos até importunações sexuais.

Esse comportamento bizarro não é novidade. Mas ainda me pego analisando o que leva alguém a assediar sexualmente um software.

Alguns dizem que se trata apenas de “brincadeira”. Afinal quem vai “passar uma cantada” em um bot? Mas as reações ao comercial do Bradesco mostram que o assunto é sério, problemático e está disseminado em nossa sociedade.

No momento em que estou escrevendo esse texto, a peça já passou de 105 milhões de visualizações no canal oficial do Bradesco no YouTube, em apenas seis dias no ar! Conquistou cerca de 7.000 “gostei” e 25 mil “não gostei”. E entre os mais de 13 mil comentários, a esmagadora maioria traz uma reprovação furiosa ao comercial.

E isso –pelo menos nessa quantidade– me surpreendeu.


Veja esse artigo em vídeo:


O polêmico comercial mostra algumas das cerca de 95 mil mensagens agressivas que a BIA recebeu no ano passado, segundo o Bradesco. Entre elas estão insultos como “BIA, sua imbecil” e “BIA, eu quero uma foto sua de agora” (sic).

Até então, o sistema identificava os comentários condenáveis e dava repostas leves, como “Não entendi, poderia repetir” ou “Foto? Apesar de falar como humana, sou uma inteligência artificial”. Essas respostas foram substituídas por outras, bem mais incisivas, como “Essas palavras são inadequadas, não devem ser usadas comigo e mais ninguém” ou “Para você, pode ser uma brincadeira; para mim, foi violento”.

A iniciativa do banco segue a campanha “Hey update my voice” (“Ei, atualize minha voz”), da Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura). Ela foi criada a partir do estudo “I’d blush if I could” (“Eu ficaria corada, se pudesse”), que descreve o assédio sofrido pelas assistentes virtuais. A partir disso, a Unesco recomenda às empresas atualizações nas respostas de suas assistentes para combater a violência e o preconceito, educando a população para o problema do assédio contra mulheres, muto além das assistentes virtuais.

Segundo a Unesco, 73% das mulheres no mundo já foram vítimas de algum assédio online. No Brasil, pesquisa Datafolha revelou que 42% das mulheres a partir de 16 anos já sofreu assédio sexual. Outro levantamento indicou que 97% já haviam sido vítimas de algum tipo de assédio dentro do transporte público ou privado.

 

Do amor à violência

Para entendermos a raiz do assédio contra assistentes virtuais, temos que voltar uma década no tempo. A Siri, assistente da Apple, lançada em 2011, foi o primeiro sistema do tipo a se tornar um grande sucesso de público. Ela surgiu como parte do iOS 5.0, que controlava o iPhone 4S. Até então, nenhum produto de massa tinha a capacidade de convincentemente entender comandos de voz e dar respostas também por voz.

Uma das diversões da época era “desafiar” o sistema com comandos inesperados. Um dos mais populares era dizer “Siri, eu te amo”. Ela dava respostas espirituosas como “eu aposto que você diz isso a todos os produtos da Apple.” A princípio, naquele momento embrionário da tecnologia, ninguém estava “cantando” a assistente, especialmente para quem sabe do relacionamento apaixonado entre os clientes da Apple e a marca e seus produtos.

Infelizmente, à medida que as assistentes se popularizaram em celulares e muitos outros dispositivos, melhorando também a sua capacidade de respostas, aqueles testes quase pueris evoluíram para mensagens agressivas e sexistas.

Isso foi reforçado pelo fato de quase todos esses sistemas incorporaram uma voz e até uma personalidade feminina. É o caso dos principais sistemas internacionais: Siri (Apple), Google Assistente, Cortana (Microsoft) e Alexa (Amazon). Isso se repete em sistemas brasileiros: além da própria BIA (Bradesco), outros exemplos são a Lu (Magazine Luiza) e a Nat (Natura).

Modismos à parte, a origem dessa escolha tem fundamento. Em 2005, Clifford Nass, professor de comunicação da Universidade Stanford (EUA), compilou dez anos de pesquisas psicológicas e de interface de voz, e concluiu que a voz sintética feminina é percebida como capaz de ajudar a resolver problemas, enquanto a masculina representa autoridade e dá respostas. Outro estudo, em 2008, de Karl MacDorman, da Universidade de Indiana (EUA), indicou que vozes sintetizadas femininas eram vistas como mais calorosas e agradáveis.

Segundo a Unesco, 90% da força de trabalho envolvida na criação dos assistentes é masculina. De acordo com o órgão, eles reforçam o imaginário popular de que a voz da mulher é dócil, acolhedora, subserviente e sempre pronta a ajudar. A prática tende a normalizar o assédio.

Seguindo as recomendações da Unesco, a Apple fará com que o usuário escolha o gênero da voz da Siri a partir do iOS 14.5. A voz masculina já está disponível, mas hoje o usuário precisa alterar o padrão feminino nas configurações do sistema.

 

“Mimimi”

Os detratores do novo comercial do Bradesco afirmam que ele exagera e que o banco se aproveita de uma pauta feminista para se promover. Mas muitos dos comentários acabam justamente reforçando os preconceitos e a violência contra mulheres, o que indica que a iniciativa está no caminho certo. Afinal, o debate levantado não é sobre o assédio contra a BIA e sim contra todas as mulheres.

Mas já que o assunto foi tocado, poderíamos debater também se seria legítimo agredir sexualmente um robô, apenas por ser uma máquina. O tema é recorrentemente explorado pela ficção, com sistemas inteligentes que desenvolvem sentimentos e até se apaixonam. Vimos isso, por exemplo, nos filmes “Ela” (2013), de Spike Jonze, e “Blade Runner” (1982), de Ridley Scott, ou no reboot da série “Battlestar Galactica” (2004 a 2010). Portanto, nem os robôs devem ser assediados.

Outra crítica recorrente contra o comercial é que o Bradesco se preocupa mais com a BIA que com as atendentes humanas do banco. Conversei com várias gestoras de call center sobre o caso. De fato, esse é um mercado conhecido por condições de trabalho ruins. Em alguns casos, se um atendente encerra uma ligação, mesmo após ter sido agredido por um cliente, ele pode ser punido administrativamente.

A política dos call centers refletem a da empresa que a contrata. A boa notícia é que, aos poucos, essas regras vêm evoluindo, para proteger esses profissionais contra violências de consumidores. Em muitos casos, os atendentes já são autorizados a reagir aos ataques e até a encerrar a ligação. Em casos menos comuns, a empresa envia uma notificação formal ao cliente, advertindo-o por seu comportamento. Isso acontece inclusive em alguns bancos.

A BIA também está pagando por diversos tipos de insatisfação de clientes com o Bradesco. Se a empresa comete erros (e todas as empresas cometem), eles precisam ser notificados pelo cliente e corrigidos. Mas isso deve ser feito de maneira apropriada, o que nos leva à questão original de combate ao assédio.

A frase de que “o cliente sempre tem razão” é uma falácia. Naturalmente ele deve ser bem atendido, sempre da melhor maneira possível. Mas infelizmente muitos clientes abusam dessa prerrogativa, sem falar daqueles que possuem sérios problemas sociais. A empresa e seus funcionários, mesmo os virtuais, não têm nenhuma obrigação de acolher quem os trata mal. Qualquer forma de relacionamento, mesmo comercial, deve ser pautada pelo respeito mútuo.

Por isso, a nova campanha do Bradesco é mais que oportuna: é necessária! O debato em torno da violência contra uma assistente virtual e a onda de ódio contra a peça explicitam como nossa sociedade ainda tem muito a evoluir.

Você confiaria a sua vida a um super app?

By | Jornalismo | No Comments

Caminhamos a passos largos para um momento em que a Siri, dos iPhones, e o Google Assistente, dos Androids, serão substituídos por sistemas muito mais poderosos, que saberão quase tudo sobre nós, e serão capazes de tomar decisões complexas e até negociar valores em nosso nome. Nesse futuro próximo, a nova geração de assistentes virtuais evoluirá a partir dos atuais “super apps” (como o WeChat), acrescentando uma grande dose de inteligência artificial, análises preditivas, linguagem natural, big data.

Parece muito bacana -e é! Mas esses sistemas levantam algumas questões éticas e comerciais. Com tanto poder concentrado, eles serão capazes de impactar fortemente a “jornada do cliente”, até mesmo determinando o que consumiremos e como.

E aí a coisa fica complicada.

Diante disso, que garantia teremos que esses sistemas sempre tomarão as melhores decisões para nós, e não para atender interesses ocultos de seus fabricantes ou de seus parceiros comerciais? Entretanto, se não confiarmos nas assistentes, a sua “mágica” desaparece.

Para completar, em agosto do ano que vem, a LGPD (Lei Geral de Proteção de Dados) começa a valer. Ela disciplinará não apenas a coleta de nossas informações, como também o uso que será feito delas, determinando que tudo deve ser explicitamente autorizado pelo usuário antes. Como esses sistemas, que se esbaldarão e cruzarão nossas informações mais íntimas, serão impactadas pela lei?

Uma coisa é certa: o futuro é inevitável! Quando esses sistemas estiverem disponíveis, daqui uns três anos, devem ser rapidamente adotados. Veja no meu vídeo abaixo o que você precisa saber para aproveitar bem novidades assim. E depois compartilhe conosco suas percepções nos comentários.



Quer ouvir as minhas pílulas de cultura digital no formato de podcast? Você pode me encontrar no Spotify, no Deezer ou no Soundcloud. Basta procurar no seu player preferido por “Macaco Elétrico” e clicar no botão “seguir” ou clicar no ícone do coração. Se preferir, clique nos links a seguir:

Spotify: https://open.spotify.com/show/5qusvjLXpXtkV0urqvWaKA

Deezer: https://www.deezer.com/br/show/383802

Soundcloud: https://soundcloud.com/macacoeletrico

Se quiser usar seu aplicativo de podcast preferido, cadastre nele o endereço http://feeds.soundcloud.com/users/soundcloud:users:640617936/sounds.rss

Você não sai mais da Internet… ou é a Internet que não sai de você?

By | Tecnologia | 2 Comments
Cena de “Matrix”: ao contrário do filme, a “vida online” é a nossa própria “vida real”, e isso pode ser bom! – Imagem: divulgação

Cena de “Matrix”: ao contrário do filme, a “vida online” é a nossa própria “vida real”, e isso pode ser bom!

Talvez você já tenha passado por isso: está animadamente conversando com alguém, quando, de repente, seu celular “acorda” sozinho. Na tela, o Google está esperando o seu comando de voz para pesquisar algo. Longe de ser um “bug” –afinal, você não invocou o dito cujo– isso reflete uma nova maneira de nos relacionarmos com o meio digital: mais que estarmos o tempo todo online por opção, está muito difícil nos desconectarmos, mesmo se quisermos. E isso é uma mudança maiúscula na vida de todos nós!

Eu me lembro que, lá nos primórdios da Internet comercial, em meados dos anos 1990, eu tinha um fetiche de estar online o tempo todo, pois eu achava que isso me daria uma sensação de onipresença e até de onisciência. Mas isso era impossível naquela época, pois não havia tecnologia de comunicação para tanto.


Vídeo relacionado:


Mas, de alguns anos para cá, isso é perfeitamente viável! Os principais responsáveis são nossos celulares, que carregamos o tempo todo e se tornaram computadores poderosíssimos, recheados de sensores e permanentemente pendurados na Internet.

Portanto, agora se vive um dilema contrário àquele meu desejo antigo: ficou muito difícil ficar off line, mesmo de vez em quando. Pois, além de estarmos conectados o tempo todo, estamos permanentemente produzindo –na maioria das vezes de forma involuntária e inconsciente– todo tipo de informação sobre nós mesmos. E esses dados vão direto para um número crescente de empresas, governos e instituições.

Em troca disso, recebemos uma infinidade de serviços que deixam nossas vidas mais fáceis, produtivas e divertidas. O problema é que, na prática, não temos nenhum controle do que farão com essas nossas pegadas digitais. E nem falei de cybercriminosos, que também podem estar nos monitorando.

Ficou preocupado? É melhor ir se acostumando, pois a tendência é que isso se acentue ainda mais.

Mas então não bastaria desligar o computador e deixar o celular em casa para ficarmos off line?

 

“Vigiados” o tempo todo

É verdade que os computadores foram a nossa primeira porta para a Internet, e os celulares nos mantêm conectados o tempo todo. Mas hoje eles estão longe de ser os únicos pontos de contato com o mundo digital. Cada vez mais, temos equipamentos a nossa volta permanentemente online e nos “monitorando”, prontos para nos fornecer todo tipo de serviço –e para coletar nossas informações.

Quer testar? Se você tiver um celular Android, experimente falar, do outro lado da sala, “Ok, Google”. Se seu celular for um iPhone, diga “E aí, Siri“. Esses comandos disparam os assistentes pessoais dos aparelhos, que ficam prontos para ouvir seus comandos por voz, quaisquer que sejam. E eles tentarão nos atender da melhor maneira possível.

Para que isso aconteça, o telefone está literalmente nos ouvindo o tempo todo. Mas o que mais ele está captando além de nossos comandos? Não estou sugerindo que Google ou Apple estejam violando a privacidade de seus clientes. Mas e quanto àqueles incontáveis aplicativos de terceiros que você instalou no celular: dá para confiar totalmente neles?

Outro aparelho presente em praticamente todos os lares vem ganhando espaço nessa arapongagem doméstica: a televisão. As smart TVs são verdadeiros computadores o tempo todo online. Muitas delas vêm equipadas com câmeras e podem ser controladas por voz. Dá até para ligar a TV falando com ela! Ou seja, assim como os smartphones, muitas das TVs também estão permanentemente nos escutando.

Portanto seria razoável perguntar o que impede que um hacker invada a sua TV e passe a ver e ouvir o que acontece na sua casa. Por isso, alguns fabricantes de TV sugerem que não façamos em frente à TV algo que possamos nos arrepender depois.

Entenda isso como quiser.

 

Incansáveis assistentes

O mais curioso dessa história toda é que as pessoas não veem nenhum problema nisso. Na verdade, os incríveis serviços que recebemos aparentemente fazem tudo valer a pena.

Tanto é assim que, nos EUA, a Amazon está puxando a fila de uma nova categoria de produtos: os assistentes digitais domésticos. Tratam-se de pequenos equipamentos de mesa que combinam microfone e alto falante conectados à Internet. Funcionam da mesma forma que os assistentes dos celulares, sempre prontos para ouvir nossos comandos e nos dar respostas imediatas instantaneamente.

Amazon Echo e Google Home

O produto da Amazon é o Echo, um pequeno cilindro negro de 23,5 cm de altura. O Google também já lançou o seu, o Home, ainda mais discreto: apenas 14 cm. Nenhum dos dois ainda é vendido no Brasil, mas funcionam se trazidos para cá.

Já há muitos outros aparelhos que se conectam à Internet para expandir seus recursos, como geladeiras e até carros! A tendência é que todos passem a ter funções controladas por voz, e coletem algum tipo de informação sobre os usuários. Possivelmente chegará a hora em que a nossa mobília estará online para nos brindar com algum recurso adicional!

Há ainda os “dispositivos vestíveis”, os “wearables”, normalmente lembrados pelos relógios smart e óculos de realidade aumentada. Mas eles vão muito além disso, como uma nova pulseira que mede, sem necessidade de coleta de sangue, o nível de glicose de diabéticos, ou um tênis que ajuda atletas a corrigir suas passadas. Tudo integrado com aplicativos no celular e, portanto, com dados prontos para serem compartilhados.

Isso é o que os analistas chamam de “terceira onda digital”, ou “era pós-digital”: um mundo em que a tecnologia está tão presente e tão integrada ao nosso cotidiano, que nos beneficiamos dela o tempo todo, sem mesmo nos darmos conta da sua existência.

Então não tem volta?

 

Simbiose digital

Quando penso que alimentamos uma enorme quantidade de sistemas de diferentes empresas com nossas informações, garantindo-lhes gordos lucros e troca de serviços, eu me lembro do filme Matrix (1999), das irmãs Wachowski. Mas felizmente a nossa realidade é muito menos terrível: nada de uma máquina que escraviza a humanidade, reduzindo-a a meros fornecedores de energia, em troca de uma ilusória “vida normal”.

Mas essa nossa vida online cada vez mais ubíqua se tornou, de fato, a nossa vida. Não existe mais separação da “vida presencial”. Na verdade, entendo que nunca houve isso, pois as duas são apenas diferentes representações de nossa única vida real.

A diferença é que agora estamos integrados, imersos, vinculados com o ciberespaço. Toda essa integração funciona como extensões do nosso próprio ser, dando-nos “poderes” que efetivamente expandem nossos limites.

Portanto, esse é um caminho que não tem volta. Conceitos de privacidade precisam ser revistos, diante da nossa tolerância o compartilhamento de nossa vida. Assim, não há solução para esse “problema”, pelo simples fato de que não há problema afinal. Então, se você é daqueles que tenta resistir a tudo isso, receio que sua tarefa ficará cada vez mais difícil.

Precisamos apenas ser conscientes dessa nossa realidade, para não passarmos por trouxas. Tudo isso pode mesmo ser muito legal e útil! Mas, da próxima vez que assistir à TV, lembre-se que talvez ela também esteja assistindo a você.

E daí curta a programação numa boa!


Artigos relacionados: