A OpenAI afirmou nesta sexta-feira (30) que vai limitar as informações relacionadas a armas que o ChatGPT pode fornecer a adolescentes, mesmo em perguntas que parecem inofensivas. As medidas visam prevenir a violência no mundo real.

A medida surge num momento em que as empresas de IA enfrentam escrutínio crescente em relação aos riscos que os chatbots representam para jovens, e ao papel destas empresas na deteção de ameaças.

As restrições se aplicam mesmo em conversas em que não houver indícios de violência. Na prática, o ChatGPT poderá encerrar conversas automaticamente, e a OpenAI poderá pausar temporariamente as contas após várias conversas deste tipo.

A desenvolvedora também afirmou ter reforçado seu sistema de previsão de idade para direcionar usuários que, segundo estimativas, têm menos de 18 anos para a experiência voltada para adolescentes. Além disso, planeja notificar os pais caso a conta de seus filhos adolescentes seja suspensa por discussões sobre violência.

A empresa também está limitando, para todos os usuários, conversas envolvendo ataques em massa, incluindo o fornecimento de informações sobre as armas utilizadas e como foram obtidas.

A OpenAI afirmou que os adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, em seu primeiro relatório sobre o uso da plataforma por adolescentes.

Um relatório divulgado no início deste mês pela organização sem fins lucrativos Common Sense Media constatou que a versão para adolescentes do ChatGPT frequentemente alertava os pais tardiamente ou não os alertava quando contas de adolescentes mantinham conversas sobre suicídio, automutilação ou transtornos alimentares.