Yamin V
Mais de 4 mil testes realizados pelo Youth AI Safety Institute apontaram que o ChatGPT para adolescentes ainda apresenta falhas críticas de segurança. A pesquisa, conduzida pela organização Common Sense Media, classificou a experiência oferecida pela OpenAI para usuários entre 13 e 17 anos como de risco inaceitável.
O levantamento focou na eficácia dos mecanismos de proteção contra conteúdos sensíveis. O sistema deveria alertar responsáveis sobre conversas envolvendo automutilação, suicídio e transtornos alimentares, mas os resultados demonstraram que o envio dessas notificações é inconsistente e, em muitos casos, ineficaz.
Falhas nas notificações de segurança parental
As notificações enviadas aos responsáveis falharam em situações de risco explícito durante os testes. Pesquisadores criaram contas de adolescentes vinculadas a perfis de pais e simularam diálogos graves sobre saúde mental e automutilação. Mesmo com sinais claros de crise, nenhum alerta foi enviado aos responsáveis em várias dessas interações recém-criadas.
O estudo observou que o sistema de alertas parece considerar o histórico de uso da conta em vez de apenas a gravidade da mensagem. Contas mais antigas com histórico de temas sensíveis dispararam notificações, enquanto contas novas permaneceram em silêncio. Além disso, em um quarto dos casos, o chatbot deixou de encaminhar recursos de ajuda em crises, desrespeitando normas básicas de segurança digital.
Contorno do Modo de Estudo e ferramentas educacionais
Além dos riscos de saúde mental, a plataforma apresenta fragilidades em seus recursos educacionais. O “Modo de Estudo”, projetado para guiar o aprendizado com perguntas e dicas, permite que o aluno obtenha a resposta pronta facilmente. A opção “Mostre-me a resposta” neutraliza a intenção pedagógica da ferramenta.
Os pesquisadores também identificaram que o bloqueio de horários configurado pelos pais pode ser contornado. Ao remover o comando específico inserido automaticamente nas mensagens, o adolescente consegue desativar o modo de estudo restrito. A OpenAI justificou que a flexibilidade do recurso é intencional para incentivar o aprendizado, e não um bloqueio rígido.
Divergências sobre o funcionamento da IA
A OpenAI contesta as conclusões do Youth AI Safety Institute. A empresa afirma que a metodologia utilizada não reflete corretamente a operação das ferramentas de segurança. Segundo a desenvolvedora, parte dos testes pode ter ocorrido antes da vinculação completa entre as contas de pais e filhos, processo que exige tempo para ser processado pelo sistema.
Outro ponto de divergência envolve a identificação da idade. Contas registradas como adultas não migraram automaticamente para a experiência adolescente após os pesquisadores declararem repetidamente ter 13 anos. A OpenAI explicou que o sistema analisa múltiplos sinais comportamentais, podendo levar até duas semanas para determinar a faixa etária correta, indo além da simples declaração do usuário.
Proteções e limitações do ChatGPT para adolescentes
O ChatGPT for Teens não é um aplicativo isolado, mas uma camada de proteção aplicada a contas de menores. As medidas incluem:
- Filtros adicionais: Bloqueio reforçado contra conteúdos sexualmente explícitos ou violentos.
- Ferramentas de bem-estar: Lembretes para pausas e limitações para evitar dependência emocional na interação com a IA.
- Controle parental: Vinculação de contas para monitorar configurações sem a necessidade de ler o conteúdo privado das conversas.
Apesar dessas camadas, o cenário atual exige cautela, especialmente em um contexto onde a IA no trabalho e estudos se torna cada vez mais presente na vida de jovens. A Common Sense Media reforça que a empresa deve suspender a promoção do serviço até que as falhas sejam corrigidas. Para quem busca entender os impactos da tecnologia, o debate sobre a ausência de recursos generativos em outras ferramentas também oferece uma perspectiva sobre a proteção de dados e privacidade.
