Inteligências artificiais com elementos femininos recebem mensagens ofensivas
BIA é o nome da inteligência artificial do banco Bradesco. E ela sofre ataques de assédio. Sim, você leu direito. Um robô composto por elementos considerados femininos sofre assédio.
⠀
Pra conter as mensagens ofensivas (somente em 2020 foram 95 mil), as respostas dela foram alteradas, pra que exista uma reação justa e firme. “Sem meias palavras. Sem submissão.” — como diz o próprio banco em seu site, em uma página criada para falar do assunto. Um exemplo de “antes” e “depois” de respostas da BIA está na imagem que abre este post.
A ação foi inspirada pelo movimento “Hey, atualize minha voz”, da UNESCO, que tem como objetivo chamar atenção sobre a educação cibernética e respeito às assistentes virtuais, além de pedir para que as empresas atualizem as respostas de suas assistentes. No site do movimento, existe também um campo chamado “sua voz”, em que é possível gravar mensagens de voz de até 15 segundos com sugestões de respostas para as assistentes aos assédios sofridos.
⠀
De acordo com estudo lançado em maio do ano passado pela Organização, chamado “I’d Blush If I Could” (“Ficaria Corada se Pudesse”, em tradução livre), as assistentes virtuais, via Inteligência Artificial, com vozes femininas, sofrem altos índices de preconceito de gênero e normalmente respondem com frases tolerantes, subservientes e passivas.
⠀
Ainda, de acordo com a UNESCO, as assistentes são programadas basicamente por homens (que representam 90% da força de trabalho na criação de IA) e têm a premissa de serem subservientes, mesmo quando verbalmente assediadas.
Diariamente, no mundo inteiro assistentes virtuais sofrem abusos de todos os tipos. No caso do Brasil, a Lu, a assistente virtual das Lojas Magazine Luiza, já foi vítima desse tipo de violência. Internacionalmente, há registros contra a Siri, Alexa, entre outras.
Quando o tema é trazido para a mulheres reais, o número é assustador:
- 73% das mulheres de todo o mundo já sofreram algum assédio online.
• 15 milhões de adolescentes entre 15 e 19 anos já sofreram abuso sexual.
• 70% das mulheres refugiadas são vítimas de violência ao longo da vida.
• 97% das mulheres brasileiras dizem que já sofreram assédio em transportes públicos e privados.
• 43% das mulheres europeias já sofreram bullying ou violência física de seus parceiros.
• 1 em cada 5 jovens sofrem abusos sexuais dentro de universidades nos Estados Unidos.
Se você vivenciou ou presenciou uma situação de violência contra as mulheres, on ou offline, denuncie.
⠀
180 — Central de atendimento às mulheres
190 — Polícia militar
Fontes: Bradesco e site Hey Update My Voice
⠀
#HeyUpdateMyVoice
