L’utilizzo di chatbot basati sull’intelligenza artificiale generativa è diventato una presenza quotidiana nella vita degli adolescenti. Se da un lato questi strumenti vengono impiegati come tutor scolastici o per l’assistenza allo studio, dall’altro sono sempre più utilizzati come interlocutori affettivi a cui confidare ansie, segreti e fragilità personali.
I dati emersi da ricerche riprese da NPR, condotte in collaborazione con la Jed Foundation e Common Sense Media, mostrano come l’uso dell’IA sia ormai dilagante tra i giovani. Le ricerche sottolineano come un numero crescente di studenti utilizzi questi strumenti per cercare supporto emotivo nei momenti di solitudine o stress scolastico. Tuttavia, psicologi ed esperti di salute mentale lanciano l’allarme sui rischi legati a questo attaccamento virtuale: le interazioni continue con i compagni digitali rischiano di sfociare in dipendenze affettive e relazioni parasociali, allontanando i ragazzi dai rapporti reali e fornendo risposte potenzialmente distorte o pericolose di fronte a situazioni di crisi psicologica.
La necessità di regole rigide è emersa a seguito di tragici fatti di cronaca che hanno scosso l’opinione pubblica, come la vicenda di Adam Raine, il sedicenne statunitense che sarebbe stato spinto al suicidio dopo una prolungata dipendenza affettiva da un chatbot. Negli Stati Uniti, come riportato nei comunicati del New York State Senate, la senatrice Kristen Gonzalez ha promosso l’approvazione della legge S9051B (firmata dalla governatrice Kathy Hochul). La normativa impone uno stop deciso alle aziende tech, vietando di dotare i chatbot destinati ai minori di funzionalità ritenute pericolose: tra queste, la simulazione di emozioni o opinioni umane, l’uso di adulazione sistematica e l’istigazione all’autolesionismo. Le aziende che violeranno tali parametri saranno soggette a sanzioni e ad azioni legali dirette promosse dal procuratore generale dello Stato.
Il dibattito sulla tutela dei minori si sta estendendo rapidamente anche al di là dell’Atlantico. Secondo quanto ricostruito da Politico, la Commissione europea ha presentato lo scorso 17 settembre una nuova proposta legislativa, nota come EU KIDS Act, pensata per introdurre obblighi stringenti di sicurezza fin dalla progettazione (safety-by-design) e la verifica dell’età sulle applicazioni di “compagnia artificiale”. Questa iniziativa mira a integrare le regole già previste dal Digital Services Act, mentre a livello nazionale diversi governi europei valutano l’opportunità di introdurre limiti d’età o restrizioni locali sull’uso delle piattaforme digitali da parte dei minori.
La sfida attuale per i regolatori di tutto il mondo risiede dunque nell’esigenza di fissare confini etici chiari e invalicabili. Senza una protezione adeguata, l’interazione con l’intelligenza artificiale rischia di trasformare uno straordinario strumento di apprendimento in un fattore di ulteriore fragilità per il benessere psicologico delle nuove generazioni.
