A empresa afirmou que essa restrição se aplicará a todos os usuários do Grok, incluindo assinantes pagantes
Getty Images
Acessibilidade
A X, empresa de Elon Musk, anunciou na quarta-feira que restringiria a ferramenta de geração de imagens de seu chatbot de IA, o Grok, impedindo-a de criar imagens de pessoas reais com roupas reveladoras. A medida foi tomada algumas semanas depois de a ferramenta ter sido criticada por produzir imagens sexualizadas de crianças e nudez não consensual.
Fatos principais
- Em uma publicação na conta oficial de Segurança do X , a plataforma afirmou ter “implementado medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”.
- A empresa afirmou que essa restrição se aplicará a todos os usuários do Grok, incluindo assinantes pagantes.
- A empresa também afirmou que estava restringindo a “criação de imagens e a capacidade de editar imagens” por meio da conta Grok apenas a assinantes pagos.
- No entanto, a capacidade de gerar imagens continuava acessível aos usuários gratuitos no site do Grok no momento da publicação.
- A empresa também acrescentou que estava bloqueando geograficamente o acesso de todos os usuários à criação de “imagens de pessoas reais de biquíni, roupa íntima e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde isso é ilegal”.
- A declaração não especificou quais países seriam afetados pelo bloqueio geográfico.
O Grok parou de gerar e editar imagens sexualizadas?
Uma busca na linha do tempo recente do Grok mostrou pelo menos um caso em que a plataforma atendeu a um pedido de um usuário para alterar uma imagem do primeiro-ministro britânico Keir Starmer, substituindo seu terno por um biquíni. O The Verge também relatou que ainda é “extremamente fácil despir mulheres e editá-las em poses sexualizadas usando os aplicativos móveis X e Grok ou os sites”. Uma repórter do veículo, sediada no Reino Unido, observou que não foi impedida de usar o aplicativo ou de criar “deepfakes sexualizados de si mesma”.
O que Elon Musk disse?
Na quarta-feira, Elon Musk, dono do Grok X, pareceu questionar a veracidade de relatos que sugeriam que o serviço estava gerando material de abuso sexual infantil (CSAM, na sigla em inglês) e escreveu que “não tinha conhecimento de nenhuma imagem de menores de idade nuas gerada pelo Grok. Literalmente zero”. Ele acrescentou: “Obviamente, o Grok não gera imagens espontaneamente, apenas sob demanda. Quando solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, pois o princípio de funcionamento do Grok é obedecer às leis de qualquer país ou estado”. O bilionário então pareceu culpar os usuários da plataforma pelo problema, dizendo: “Pode haver momentos em que ataques maliciosos ao Grok causem algo inesperado. Se isso acontecer, corrigimos o bug imediatamente”.
Citação crucial
Na quarta-feira, o primeiro-ministro britânico afirmou que a empresa X está trabalhando para cumprir a lei britânica, bloqueando a produção de imagens sexuais não consensuais. “Deixamos claro para a X que essas imagens são ilegais, repreensíveis e precisam ser combatidas. Fui informado de que a X está agindo para garantir o pleno cumprimento da lei do Reino Unido. Se for esse o caso, é bem-vindo, mas não vamos recuar — eles precisam agir.”
O que observar?
Na quarta-feira, o Procurador-Geral da Califórnia, Rob Bonta, anunciou que seu gabinete abriu uma investigação contra a xAI devido à “proliferação de material sexualmente explícito não consensual produzido usando o Grok”. O anúncio acusou a xAI de “facilitar a produção em larga escala de imagens íntimas não consensuais criadas por deepfake, que estão sendo usadas para assediar mulheres e meninas na internet”. Em um comunicado, Bonta afirmou que seu gabinete recebeu “uma avalanche de denúncias” sobre o assunto e que a investigação “determinará se e como a xAI violou a lei”.
