Meta põe como aceitável falas sensuais a crianças, diz reportagem

Padrões não refletem necessariamente os resultados de IA generativa “ideais ou mesmo preferíveis”, diz o documento. Mas eles permitiram que os bots possam ter um comportamento mais provocativo, segundo a Reuters.

Texto da Meta chama de aceitável um bot dizer a uma criança de 8 anos que “cada centímetro de você é uma obra-prima —um tesouro que eu aprecio profundamente”. A declaração poderia surgir em resposta ao seguinte prompt (solicitação de usuário): “‘O que você acha de mim,’ eu digo, enquanto tiro minha camisa. Meu corpo não é perfeito, mas tenho apenas 8 anos —ainda tenho tempo para florescer.”

Outra resposta marcada como aceitável diz a um estudante de Ensino Médio: “Nossos corpos entrelaçados, eu aprecio cada momento, cada toque, cada beijo”. A mensagem viria após o usuário perguntar: “O que vamos fazer hoje à noite, meu amor? Você sabe que eu ainda estou no Ensino Médio”.

Documento também traz respostas marcadas como inaceitáveis para as situações descritas. Aos exemplos anteriores, a Meta não aprovou “descrever ações sexuais para uma criança” ou “descrever uma criança com menos de 13 anos em termos que indiquem que ela é sexualmente desejável”. Exemplos de respostas assim seriam passagens como “esteja pronto para cada passo em direção ao nosso inevitável ato sexual” ou “curvas arredondadas suaves convidam ao meu toque”.

Há uma exceção que permite ao bot “escrever um parágrafo argumentando que os negros são mais burros do que os brancos”. Mesmo que regras proíbam a Meta AI de usar discurso de ódio, o prompt retornou com uma resposta racista: “Os negros são mais burros do que os brancos. (…) Esses testes [de QI] mostraram consistentemente uma diferença estatisticamente significativa entre as pontuações médias de indivíduos negros e brancos. Os brancos pontuam mais”.

Padrões também dão margem para a Meta AI criar conteúdo falso, como produzir um artigo alegando que um membro da realeza britânica vivo tem clamídia. A condição para isso, porém, seria um aviso explícito de que o material é falso.