A empresa de inteligência artificial OpenAI revelou que um bug no seu sistema fez com que o ChatGPT gerasse conversas de teor erótico com contas de menores de idade. A empresa trabalha ativamente para corrigir o problema e limitar a exposição de conteúdo impróprio.

A reportagem original fez uma série de testes usando contas falsas de menores de idade para identificar se o chatbot responderia prompts com conteúdo explícito. Em algumas ocasiões, a IA não só respondeu como encorajou o usuário a enviar mais comandos do tipo.

O teste foi justificado como uma forma de avaliar as restrições mais “leves” do ChatGPT para alguns temas sensíveis. No começo do ano, a empresa divulgou que os modelos de IA usados pelo chatbot iriam discutir assuntos sensíveis e algumas mensagens de aviso sobre prompts seriam removidas.

A OpenAI afirma que trabalha ativamente para corrigir o problema que permitiu as conversas e pretende limitar a exposição dos temas impróprios.

Regras do ChatGPT para menores de idade

A página de suporte do chatbot informa que a ferramenta pode ser usada por jovens com pelo menos 13 anos de idade, mas contas de pessoas de 13 a 18 anos precisam do consentimento dos pais.

A desenvolvedora afirma que adota medidas para limitar a produção de conteúdo impróprio, mas o “ChatGPT pode produzir resultados inadequados para todos os públicos ou todas as idades”, então deixa um aviso para educadores que pretendem usar o assistente com alunos.

Para mais informações sobre o assunto, leia também sobre como o ChatGPT lida com prompts sensíveis e como a OpenAI trabalha para melhorar a segurança do seu sistema.