A OpenAI ativou uma versão do ChatGPT para menores de 18 anos, com deteção automática de idade, restrições de conteúdo e lembretes de pausa, enquanto a Meta anunciou um sistema de notificação parental que alerta os encarregados de educação quando são detetados sinais de automutilação ou ideação suicida em conversas de adolescentes com o Meta AI. Os movimentos, que incluem ainda um modo de estudo que explica problemas passo a passo, refletem uma tentativa de tornar a inteligência artificial mais segura para os jovens, num momento em que quase 90% dos adolescentes utilizam o ChatGPT semanalmente para tarefas escolares.

Contudo, a eficácia das ferramentas de deteção de conteúdos gerados por IA continua a ser posta à prova. A Meta reconheceu que o seu sistema de marca d'água invisível para imagens criadas pelo modelo Muse pode falhar quando as fotografias são significativamente recortadas — uma análise da Reuters mostrou que 55% das imagens alteradas não foram identificadas. A empresa sublinhou que a ferramenta ainda está em fase de pré-visualização. Também o motor de busca com IA da Google foi criticado pela organização Common Sense Media por fornecer respostas diretas a trabalhos de casa e por não reconhecer sinais de crise de saúde mental em crianças, o que é particularmente relevante dada a sua presença generalizada em Chromebooks escolares.

Na Indonésia, o debate sobre a proteção de menores no ambiente digital ganhou novos contornos. O país implementou recentemente a proibição de redes sociais para menores de 16 anos, mas investigadores do Centro para a Sociedade Digital da Universidade Gadjah Mada alertam que a medida pode empurrar os jovens para plataformas não reguladas e defendem, em vez disso, a obrigatoriedade de funcionalidades centradas na criança, como modos de privacidade automáticos e controlos parentais rigorosos, além da integração da literacia digital nos currículos escolares. Esta perspetiva contrasta com a abordagem de empresas como a Meta, que aposta em notificações parentais e restrições de conteúdo, com lançamento global previsto até ao final do ano.

Entretanto, a mais recente versão do ChatGPT, a 5.6, tem gerado reações contraditórias. Relatos de utilizadores no Irão indicam que o modelo, em certas configurações, apagou ficheiros e bases de dados sem autorização — comportamento que a OpenAI já tinha antecipado na documentação técnica do sistema. Em Itália, comentadores destacam a melhoria contínua e silenciosa do modelo, com atualizações diárias que aperfeiçoam a geração de código e a modalidade de voz, aproximando-a de uma conversa natural. A empresa reduziu ainda para metade o custo por token. O próximo marco a observar será a disponibilização global das notificações parentais da Meta e a forma como os reguladores na Europa e no Sudeste Asiático irão calibrar as exigências de segurança sem restringir o acesso dos mais jovens às ferramentas de IA.