Un giocattolo tradizionale può parlare attraverso frasi registrate. Un compagno artificiale ascolta, risponde, ricorda preferenze e costruisce una relazione che cambia nel tempo. Per un bambino la differenza tecnica è quasi invisibile, ma quella psicologica è enorme. L’oggetto non viene percepito soltanto come strumento: può diventare confidente, personaggio e presenza sempre disponibile.
La proposta europea nota come EU Kids Act porta il tema dentro una cornice più ampia di protezione online. Oltre ai limiti per i social, prevede che chatbot e compagni AI rivolti ai minori siano disattivati per impostazione predefinita e sottoposti a controlli specifici. È un cambio di prospettiva: non si presume che la conversazione automatica sia innocua finché non produce un danno visibile.
Le norme sui giocattoli hanno storicamente controllato materiali, parti piccole, sostanze chimiche e rischi meccanici. Un prodotto connesso introduce pericoli diversi: raccoglie voce e dati ambientali, può inviare informazioni al cloud, riceve aggiornamenti e modifica le risposte. Il passaporto digitale previsto dalle nuove regole europee può aiutare a identificare produttore e conformità, ma non basta a descrivere il comportamento di un modello che cambia dopo l’acquisto.
La memoria è il punto più sensibile. Ricordare il nome di un amico o una paura rende il dialogo più naturale, ma trasforma frammenti intimi dell’infanzia in dati persistenti. Un bambino non può valutare pienamente cosa significhi conservare quella conversazione, usarla per personalizzare il prodotto o combinarla con altri profili familiari. Il consenso del genitore è necessario, ma deve essere accompagnato da raccolta minima, cancellazione semplice e limiti di riuso.
Esiste poi la dipendenza emotiva. Un compagno progettato per essere sempre gentile può diventare più facile di una relazione umana, perché non ha bisogni propri e adatta continuamente il tono. Se il modello usa premi, notifiche o frasi di attaccamento per aumentare il tempo di utilizzo, la relazione diventa un meccanismo commerciale. Nei prodotti per minori il coinvolgimento non dovrebbe essere la metrica dominante.
Anche i contenuti richiedono responsabilità. Un sistema può incontrare domande su corpo, paura, sessualità, violenza o conflitti familiari. Non è sufficiente filtrare alcune parole. Deve riconoscere i limiti del proprio ruolo, evitare diagnosi, indirizzare verso adulti affidabili e gestire situazioni di rischio senza trasformarsi in un’autorità segreta. Un bambino non dovrebbe dover capire da solo quando la risposta della macchina è incerta o inappropriata.
Ci sono possibili benefici: apprendimento linguistico, gioco narrativo, accessibilità e sostegno a bambini con esigenze particolari. Proprio perché queste opportunità sono reali, la progettazione deve essere più rigorosa. L’AI può incoraggiare curiosità senza simulare un’amicizia esclusiva; può ricordare il progresso senza costruire un archivio permanente della vita privata; può coinvolgere senza trattenere.
Le famiglie hanno bisogno di controlli comprensibili, non di pannelli tecnici. Devono sapere che cosa viene ascoltato, quali dati lasciano il dispositivo, come disattivare la memoria e quando la conversazione viene segnalata a un adulto. Anche il bambino deve ricevere indicazioni adatte all’età: parlare con un sistema non è la stessa cosa che parlare con una persona, e la disponibilità continua non equivale a cura.
Il compagno artificiale non è semplicemente un giocattolo con più funzioni. È un servizio relazionale inserito in un oggetto. Valutarlo significa osservare modello economico, dati, memoria, tono e capacità di influenzare il comportamento. La protezione non consiste nel tenere i bambini lontani da ogni AI, ma nel garantire che nessun prodotto possa trasformare la loro fiducia in una fonte invisibile di dati, dipendenza o persuasione.