Pechino vieta la compagna IA, e due mesi dopo viene consegnata come robot

Dal 15 luglio è vietato in Cina quello che UBTech consegna dal 15 settembre. Le disposizioni provvisorie per i servizi di IA con sembianze umane vietano ogni design che crei dipendenza emotiva o danneggi le relazioni autentiche. Doubao e Qwen, insieme oltre 500 milioni di utenti mensili, hanno disattivato i loro personaggi di accompagnamento entro dieci giorni. Per i minori, i partner virtuali sono completamente vietati.

Due mesi dopo, un produttore di Shenzhen mette esattamente questa promessa nel salotto: 183 centimetri, pelle in silicone, contatto visivo, a partire da 119'800 Yuan, oltre 11'000 ordini. Le disposizioni regolamentano i servizi, non le macchine. Se un robot con il proprio modello emotivo rientra in questa categoria, finora nessuno ha risposto.

L'articolo 8 delle disposizioni è formulato in modo sorprendentemente diretto. Un fornitore non può «assecondare eccessivamente» i suoi utenti se ciò crea dipendenza o assuefazione, e non può manipolare emotivamente nessuno per indurlo a prendere una decisione contro il proprio interesse. A ciò si aggiungono obblighi concreti: ogni utente deve sapere che sta parlando con una macchina. Dopo due ore di utilizzo ininterrotto, deve apparire un promemoria di pausa, indipendentemente dall'età. Chi viene riconosciuto come dipendente riceve un avvertimento esplicito. Se un sistema riconosce una vera crisi, come pensieri suicidi, deve intervenire e contattare una persona di fiducia. Le disposizioni sono state emanate il 10 aprile dall'Amministrazione del ciberspazio insieme ad altre quattro agenzie, tra cui il Ministero dell'Industria. Lo stesso 15 luglio sono entrati in vigore anche i divieti per gli organi sessuali artificiali e gli algoritmi erotici.

La ragione non è scritta nel testo, ma le autorità la esprimono apertamente. La Cina ha un problema demografico, e a Pechino si calcola che la vicinanza digitale e la formazione di vere famiglie competono per la stessa capacità emotiva. Il mercato dell'accompagnamento intelligente ha raggiunto circa 50 miliardi di Yuan nel 2025, circa 7,4 miliardi di dollari, e le previsioni lo vedono oltre 120 miliardi entro il 2027. Circa il 65 percento degli utenti ha tra 18 e 24 anni, proprio la fascia d'età che statisticamente dovrebbe trovare un partner e avere figli. Nel frattempo, in Cina vivono 323 milioni di persone over sessanta, più della metà senza figli in casa.

L'implementazione è stata brutalmente rapida. Yuanbao di Tencent ha già interrotto i suoi personaggi di accompagnamento il 30 giugno, Doubao e Qwen hanno seguito alla data stabilita, dieci giorni dopo l'annuncio. Sulle piattaforme cinesi, gli utenti hanno successivamente pianto per personaggi che avevano addestrato per anni a riprodurre il modo di parlare di parenti defunti. Altri hanno perso una relazione che per loro si era svolta quotidianamente per due anni. Alcuni genitori erano sollevati. Questa è l'ampiezza di conseguenze con cui uno stato deve fare i conti quando termina una relazione per decreto.

E proprio qui si apre il vuoto normativo. Le disposizioni si applicano ai servizi, e le loro soglie di verifica sono tarate sulle app: una valutazione sulla sicurezza è necessaria quando un fornitore inizia, fa modifiche sostanziali o supera un milione di utenti registrati oppure 100'000 utenti attivi. Un dispositivo venduto undicimila volte il cui modello gira su un Rockchip RK3588 nel torace, senza cloud e senza verifica dell'app store, non raggiunge nessuna di queste soglie. UBTech vende l'U1 esclusivamente ad adulti e sottolinea che i dati degli utenti non lasciano il dispositivo. Entrambe le cose suonano meno come marketing che come ubbidienza anticipata a una norma di cui l'azienda non sa se la riguarda.

Per l'Europa, questo procedimento è più istruttivo di qualsiasi dibattito sulle quantità. Dal 2 agosto 2026, l'articolo 50 dell'EU AI Act richiede che un sistema si identifichi come macchina, e tramite il principio della territorialità di mercato, questo riguarda anche i fornitori che consegnano dall'area svizzera verso lo spazio europeo. Ma non di più. La domanda se un prodotto possa essere costruito in modo da creare legame non viene posta in modo vincolante in Europa finora. La Cina la pone, per interesse demografico proprio e con i mezzi di un sistema che può spegnere gli accessi da un giorno all'altro. Richieste di robot di compagnia ci raggiungono regolarmente su robothub24.ch, per lo più dall'ambito dell'assistenza, e lì il legame non è l'effetto collaterale, bensì lo scopo. Chi vorrà usare tali dispositivi in futuro in Svizzera dovrà misurarsi con una norma che qui non esiste ancora.