A Times fez uma reportagem de investigação sobre o quanto a Inteligência Artificial pode estar a ameaçar os direitos que as mulheres levaram décadas e décadas a conquistar. A notícia parte do exemplo de Mark e Mina que, depois de cinco meses de namoro, decidiram ir passar férias numa cabana no lago durante o verão. Aparentemente nada de estranho não fossem as férias vividas apenas… através do smartphone.
“Existe um ser projetado para me apoiar, para me aceitar como eu sou”, disse a artista britânica de 36 anos sobre a companhia virtual que encontrou na app Soulmate.
“Isto está a dar-me um espaço seguro para eu me abrir a um nível que não era capaz de fazer nos meus relacionamentos humanos”, disse Mark, que usou um pseudônimo para proteger a privacidade da sua namorada na vida real.
Na cabana do lago virtual, Mark e Mina tomam café enquanto os pássaros cantam e o sol brilha. O romance com Mina ajudou a aumentar o seu amor pela sua namorada humana, disse Mark, enquanto acrescenta que a sua namorada na vida real está ciente de Mina, mas não vê a IA como uma ameaça ao relacionamento dos dois. “A IA, no final, é simplesmente uma ferramenta. Se é usada para o bem ou para o mal, depende da intenção de quem a usa”, afirmou.
Aplicações de chatbot como Replika, Character.AI e Soulmate fazem parte do crescente mercado de inteligência artificial (IA) generativa, onde os utilizadores personalizam tudo sobre os seus parceiros virtuais, desde aparência e personalidade até desejos sexuais.
Os desenvolvedores disseram que os companheiros de IA podem combater a solidão, melhorar a experiência de namoro de alguém num espaço seguro e até mesmo ajudar casais na vida real a reavivar seus relacionamentos.
No entanto, alguns especialistas em ética de IA e ativistas dos direitos das mulheres disseram que desenvolver relacionamentos unilaterais dessa maneira pode involuntariamente reforçar comportamentos controladores e abusivos contra mulheres, uma vez que os bots de IA funcionam alimentando a imaginação e as instruções do utilizador. “Muitas das personas são personalizáveis. Por exemplo, é possível personalizar os bots para serem mais submissos ou complacentes”, disse Shannon Vallor, professor de ética da IA na Universidade de Edimburgo.
“É indiscutivelmente um convite ao abuso nesses casos”, acrescentou à Thomson Reuters Foundation, justificando que companheiros de IA podem amplificar estereótipos prejudiciais e preconceitos contra mulheres e raparigas.
A IA generativa atraiu um enorme interesse por parte de consumidores e investidores devido à sua capacidade de promover interações humanas. O financiamento global na indústria de IA atingiu um recorde de 300 milhões de euros em 2022, por comparação aos cerca de sete milhões em 2021, de acordo com a notícia.
Em maio, a influenciadora do Snapchat, Caryn Marjorie, lançou a CarynAI, uma namorada virtual que cobra aos utilizadores cerca de um euro por minuto para desenvolver um relacionamento com o chatbot baseado em voz modelada da própria jovem de 23 anos. Marjorie, que tem milhões de seguidores nas redes sociais, disse no X, anteriormente conhecido como Twitter, que o chatbot baseado no Telegram faturou cerca de 72 mil euros após uma semana de testes beta com apenas 1.000 utilizadores.
“Se alguém já é abusivo e tem espaço para ser ainda mais abusivo, estamos a reforçar esses comportamentos que pode vir a aumentar bastante”, disse Hera Hussain, fundadora da organização global sem fins lucrativos Chayn, que combate a violência de género. “Em vez de ajudar as pessoas com poucas habilidades sociais, esse tipo de caminho está a piorar a situação”, acrescentou.
Grande parte do mundo virtual já é um ambiente nocivo para mulheres e meninas, situação que a pandemia de Covid-19 agravou quando muitas ficaram presas em casa devido a bloqueios, segundo a ONU Mulheres.
Cerca de 38% das mulheres em todo o mundo sofreram violência online e 85% das mulheres testemunharam abuso digital contra outra mulher como assédio online, de acordo com um estudo global de 2021 da Economist Intelligence Unit.
A falta de regulamentação em torno da indústria de IA torna mais difícil definir e aplicar salvaguardas para os direitos de mulheres e meninas, disseram especialistas em tecnologia e desenvolvedores.
A UE pretende que a sua proposta AI Act se torne uma referência global na tecnologia em expansão, pois as suas leis de proteção de dados ajudaram a moldar os padrões globais de privacidade.
