2023 foi, sem dúvida, o ano de Taylor Swift. A sua ‘The Eras Tour’ e tudo o que isso significou para os seus fãs, marcou um marco na sua carreira, sendo um ano de celebração para todos os swifties. No entanto, o início deste ano foi ofuscado para a cantora por um problema cada vez mais preocupante na Internet: os deepfakes.
Nos últimos dias, a plataforma X (anteriormente conhecida como Twitter) teve que bloquear todas as pesquisas relacionadas a Taylor Swift devido ao surgimento constante de imagens explicitamente sexuais da cantora, geradas por inteligência artificial. Seja num telemóvel ou na versão desktop da rede social, não encontrarás nenhum resultado ao pesquisar por Taylor Swift em X. Esta medida de contenção foi acompanhada por uma investigação para descobrir a origem dessas imagens.
As imagens encontradas online levavam a um grupo no Telegram onde eram partilhados deepfakes de conteúdo explícito de mulheres. O grupo usava o Microsoft Designer para gerar as imagens do zero usando inteligência artificial. A Microsoft tem medidas de segurança para agir contra o uso indevido da sua IA, no entanto, no grupo do Telegram também eram partilhadas medidas para contornar esta proteção através de determinados prompts. Descobriram que, ao usar “Taylor ‘singer’ Swift” em vez de ‘Taylor Swift’, podiam gerar imagens de forma mais eficaz.
A notícia chegou até ao próprio Satya Nadella, CEO da Microsoft, que também destacou a importância da colaboração global em incidentes que podem causar danos online. Segundo ele, muito pode ser feito, especialmente quando a lei, as forças da ordem e as plataformas tecnológicas se unem, acreditando que podemos governar muito mais do que pensamos e do que nos damos crédito.
As imagens geradas por IA sem consentimento estão a tornar-se um verdadeiro problema que afeta muitas pessoas. De acordo com o relatório “2023 State of Deepfakes” da equipa Home Security Heroes, “99% das pessoas afetadas nos deepfakes de pornografia são mulheres”. A utilização indevida da IA para gerar imagens explicitamente sexuais sem consentimento é uma questão que precisa ser abordada com urgência, como destacou Satya Nadella, CEO da Microsoft. É preocupante que 99% das vítimas de deepfakes pornográficos sejam mulheres, o que sublinha a necessidade de uma ação global para combater este problema.
Fonte: Themirror
