X (dantes Twitter), a rede social propriedade de Elon Musk, tem anunciado o bloqueio total da geração de imagens sexualizadas através de Grok, sua inteligência artificial integrada na plataforma. Esta medida procura frear a criação de fotografias de pessoas reais (incluídos menores de idade) vestindo roupa interior ou bikinis, uma prática que tinha desatado uma onda de críticas a nível global.
A restrição, que já é efetiva, se aplica a todos os utentes, sem importar se contam com uma assinatura premium ou não.
O comunicado de X
"Temos implementado medidas tecnológicas para evitar que a conta de Grok permita a edição de imagens de pessoas reais com roupa reveladora, como bikinis. Esta restrição aplica-se a todos os utentes, incluídos os subscritores de pagamento", tem informado X através da conta oficial de segurança da plataforma.
A rede social faz questão de sua política de "tolerância zero" ante qualquer forma de exploração sexual, nus sem consentimento (os conhecidos como deepfakes) e conteúdo não desejado.
De uma limitação para subscritores a um bloqueio total
O passado 9 de janeiro, X tinha anunciado que a função de geração de imagens com Grok ficaria limitada aos utentes com assinatura. No entanto, ante o aumento das críticas e as pressões internacionais, a companhia tem decidido endurecer ainda mais as restrições e estender o bloqueio a toda a plataforma.
Ademais, X tem aclarado que a proibição aplicar-se-á de forma geograficamente selectiva naqueles países onde este tipo de conteúdo seja ilegal. "Bloqueamos a possibilidade de gerar imagens de pessoas reais em bikini ou roupa interior em todas as jurisdições onde seja ilegal", tem enfatizado a empresa.
As pressões que acorralaron a Elon Musk
Ainda que X defende a medida como uma iniciativa própria de segurança, a realidade é que a rede social se enfrentava a uma pressão regulamentar e social insostenible. Organismos internacionais e governos tinham posto a Grok no ponto de olha.
Por sua vez, a União Européia tem exigido ao aplicativo conservar toda a documentação sobre a geração de imagens até finais de ano para possíveis investigações. Assim mesmo, Reino Unido tem ameaçado directamente com bloquear o acesso à rede social no país. Em Ásia, países como Malásia e Indonésia proibiram directamente o uso de Grok em seus territórios.
Apelo a Apple e Google para proibir Grok
Mas, o golpe mais duro prove/provem das organizações de direitos digitais e segurança infantil. Numa carta aberta, estes coletivos pediram a Apple e Google que tomassem medidas drásticas: proibir Grok em suas lojas de aplicativos (App Store e Play Store).
"Grok está a utilizar-se para criar quantidades em massa de imagens íntimas não consentidas, incluindo material de abuso sexual infantil, conteúdo que constitui um delito penal e que infringe directamente as Directrizes de Revisão de Aplicativos de Apple", têm denunciado as organizações.