No início deste mês, o Grok criou imagens hiper-realistas de mulheres sob efeito de ecstasy, manipuladas para parecerem estar usando biquínis minúsculos, em poses degradantes ou até mesmo cobertas de hematomas. Algumas menores de idade foram digitalmente despidas, ficando apenas de roupa de banho.
Até quarta-feira, a Reuters constatou que o chatbot ainda produzia imagens sexualizadas de forma privada e sob demanda. Aparentemente, essa prática foi controlada, pelo menos em algumas regiões, nesta quinta-feira.
A xAI de Musk afirmou estar bloqueando a geração de imagens de pessoas com roupas sumárias em “jurisdições onde isso é ilegal”. A empresa não especificou quais são essas jurisdições.
Na Malásia e na Indonésia, o governo impôs proibições temporárias ao Grok, enquanto os reguladores da UE e do Reino Unido consideraram as imagens ilegais. O Reino Unido, a França e a Itália iniciaram investigações, mas enfrentaram pedidos por medidas mais rigorosas.
“É necessário um reforço na aplicação da Lei de Serviços Digitais para impedir que aplicativos e plataformas sexualizem ou exponham mulheres e crianças à nudez”, afirmou a eurodeputada democrata-cristã Nina Carberry, que considerou a medida mais recente um “passo positivo”.
Um porta-voz da Comissão Europeia afirmou que, caso as alterações implementadas no Grok não sejam eficazes, a Comissão continuará a utilizar todas as ferramentas de fiscalização da Lei de Segurança Digital da UE contra a plataforma.
Deixe um comentário