A OpenAI anunciou nesta sexta-feira (30) novas restrições às informações sobre armas fornecidas pelo ChatGPT a adolescentes, como parte de medidas para reduzir o risco de violência no mundo real. As limitações também valerão quando a pergunta parecer inofensiva e não houver sinais de intenção violenta. A empresa começará a implementar as mudanças nas próximas semanas.
Restrições para adolescentes e adultos
Para usuários adolescentes, o ChatGPT limitará informações práticas sobre armas e sistemas de segurança que possam ser usadas de forma indevida. A regra será aplicada mesmo sem indícios de que a pessoa pretenda cometer violência. A medida altera o critério de resposta para esse público: segundo a OpenAI, o caráter aparentemente inofensivo de uma pergunta não será suficiente para liberar detalhes que possam ser aproveitados de maneira perigosa.
As mudanças também incluem uma resposta a conversas que indiquem possível preocupação persistente com violência. Para qualquer usuário, o ChatGPT poderá encerrar automaticamente uma conversa quando a pessoa parecer obcecada pelo tema. Depois de várias conversas desse tipo, a OpenAI poderá suspender a conta temporariamente.
A empresa não restringirá apenas respostas dirigidas a adolescentes. Para todos os usuários, o sistema passará a limitar detalhes sobre ataques em massa ocorridos no passado, incluindo informações sobre as armas utilizadas e como elas foram obtidas. A medida reduz o acesso a aspectos práticos desses episódios, sem que a empresa tenha detalhado outras categorias de conteúdo que serão afetadas.
Identificação de idade e aviso aos pais
A OpenAI afirmou que aprimorou o sistema usado para prever a idade dos usuários. Com essa estimativa, pessoas que o serviço considerar menores de 18 anos serão direcionadas à experiência do ChatGPT voltada a adolescentes. A empresa não divulgou, no anúncio, como o sistema calcula a idade nem quais critérios específicos utiliza para fazer o encaminhamento.
Os pais também poderão receber notificações em uma situação definida pela empresa: quando a conta de um adolescente for suspensa após conversas repetidas sobre violência. O aviso está ligado à suspensão por esse padrão de conversas; a OpenAI não informou que notificará os responsáveis sempre que um adolescente fizer uma pergunta sobre armas ou violência.
As medidas combinam, portanto, controles sobre o conteúdo das respostas com ações sobre o uso da plataforma. O ChatGPT poderá reduzir informações sobre armas, encerrar conversas consideradas preocupantes e, em casos de interações repetidas, suspender temporariamente uma conta. Para adolescentes, a previsão de idade também direcionará o usuário a uma experiência específica, enquanto a comunicação aos pais poderá ocorrer diante de suspensões relacionadas a conversas sobre violência.
Relatórios sobre adolescentes
No início deste mês, a OpenAI informou que adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT. Esse dado fez parte do primeiro relatório da empresa sobre o uso do serviço por esse grupo. O anúncio das novas medidas não relacionou diretamente o tempo médio de uso às mudanças nas regras de segurança.
Também no início deste mês, a organização sem fins lucrativos Common Sense Media divulgou um relatório sobre a experiência voltada a adolescentes. Segundo a entidade, o ChatGPT frequentemente alerta os pais tarde demais ou não os alerta quando contas de adolescentes mantêm conversas sobre suicídio, automutilação ou distúrbios alimentares.
Os dois levantamentos tratam de aspectos diferentes: o relatório da OpenAI apresenta uma média de tempo de uso, enquanto a análise da Common Sense Media avalia a resposta a conversas sobre temas de risco e a comunicação com os responsáveis. A OpenAI não informou se as medidas anunciadas alteram especificamente os alertas relacionados a suicídio, automutilação ou distúrbios alimentares.
A empresa disse que começará a colocar as novas regras em prática nas próximas semanas e que continuará a aprimorá-las. Não foram divulgados um cronograma detalhado para cada mudança nem informações sobre quando a implementação será concluída.