Meta ha introdotto un meccanismo che modifica il rapporto tra adolescenti, piattaforme e famiglie: quando un minore affronta con Meta AI temi che indicano un possibile rischio di suicidio o autolesionismo, il sistema può ora inviare una notifica diretta ai genitori che utilizzano gli strumenti di supervisione di Instagram. La funzione è già operativa negli Stati Uniti, nel Regno Unito, in Canada e in Australia, e il gruppo di Menlo Park prevede di estenderla a livello globale entro la fine dell’anno. L’intervento segna un passaggio da un modello di semplice suggerimento – l’assistente virtuale si limitava a indicare linee di aiuto o adulti di fiducia – a un’azione proattiva che porta la crisi fuori dallo schermo.

Il funzionamento combina intelligenza artificiale e controllo umano. L’algoritmo è addestrato a riconoscere non solo dichiarazioni esplicite, ma anche riferimenti indiretti e ambigui. Ogni conversazione segnalata viene però esaminata da un team di moderatori prima che l’allerta raggiunga il genitore, per ridurre i falsi positivi. Meta ha dichiarato che, nei casi dubbi, prevarrà un approccio prudenziale: la notifica potrà scattare anche quando l’intenzione dell’adolescente non è del tutto chiara, ritenendo preferibile un allarme ingiustificato al silenzio di fronte a una richiesta d’aiuto autentica. Insieme all’avviso, i genitori ricevono materiali elaborati con specialisti della salute mentale per affrontare il dialogo senza reazioni punitive. Parallelamente, l’azienda sta sviluppando la capacità di contattare i servizi di emergenza quando la conversazione indica un pericolo imminente, sia per i minori sia per gli adulti.

L’efficacia dello strumento è oggetto di letture divergenti. Studiose canadesi come Kaitlynn Mendes (Western University) e Shauna Pomerantz (Brock University) riconoscono il passo avanti, ma segnalano limiti strutturali: le notifiche raggiungono solo i nuclei che hanno attivato la supervisione parentale, una minoranza secondo le prime evidenze, e gli adolescenti hanno già mostrato di saper aggirare i filtri con linguaggi cifrati o fingendo di parlare di personaggi immaginari. Mendes parla di «care washing», un’operazione di facciata che rischia di non tradursi in protezione reale se le tutele non sono attive per impostazione predefinita. Nell’ottica di Bruxelles, dove il Digital Services Act ha già messo sotto accusa il design potenzialmente additivo di Instagram e Facebook, l’iniziativa si inserisce in un quadro di pressione regolatoria crescente, che spinge le piattaforme a dimostrare misure concrete di sicurezza per i minori.

La prossima tappa da osservare è il completamento del lancio globale entro la fine del 2025, insieme all’attivazione del contatto diretto con i soccorsi. Sul fronte normativo, l’entrata in vigore della legislazione canadese sulla sicurezza online e l’eventuale estensione degli obblighi europei in materia di protezione dei minori negli ambienti digitali potranno definire se strumenti come questo diventeranno uno standard minimo o resteranno iniziative volontarie soggette a scetticismo.