In Cina usare volti e voci clonati con l’IA senza consenso può violare i diritti della persona

Creare con l'intelligenza artificiale una replica riconoscibile del volto o della voce di una persona senza il suo consenso può costituire una violazione dei suoi diritti. E utilizzare quelle immagini o voci sintetiche per attribuirle comportamenti o dichiarazioni false può comportare anche una responsabilità per il danno alla reputazione.

È uno dei principi contenuti nelle nuove linee guida pubblicate oggi, 7 settembre, dalla Corte suprema del popolo cinese, che ha definito una serie di criteri destinati ai tribunali chiamati ad affrontare controversie legate all'utilizzo dell'intelligenza artificiale.

Il documento interviene su alcuni dei problemi emersi con la diffusione dei sistemi generativi: dai deepfake alla clonazione delle voci, fino alle informazioni false prodotte dall'IA e all'utilizzo degli algoritmi per applicare condizioni economiche differenti ai consumatori.

Volti e voci non possono essere replicati liberamente

Una delle questioni centrali riguarda la possibilità di ricostruire digitalmente una persona.

Secondo le indicazioni della Corte, salvo i casi previsti dalla legge, utilizzare senza consenso il nome o l'immagine di una persona per creare attraverso l'intelligenza artificiale un avatar digitale che consenta di riconoscerla, e poi utilizzarlo o renderlo pubblico, può violare i diritti sul nome e sull'immagine.

Lo stesso principio viene applicato alla voce. Utilizzare la registrazione di una persona come materiale di addestramento per riprodurne timbro, intonazione e modo di parlare, generando una voce sintetica riconoscibile, può costituire una violazione dei suoi diritti se avviene senza consenso.

La diffusione di questi strumenti ha reso tecnicamente possibile ottenere imitazioni convincenti anche partendo da poche fotografie o da registrazioni audio relativamente brevi.

Se il deepfake attribuisce dichiarazioni false può essere lesa anche la reputazione

Le linee guida distinguono inoltre la semplice riproduzione digitale dall'utilizzo che viene fatto del contenuto generato.

Se un volto o una voce sintetica riconducibili a una persona vengono utilizzati per mostrarla mentre compie azioni inappropriate o pronuncia affermazioni non vere, e questo ne riduce la considerazione sociale, i tribunali potranno riconoscere una violazione del diritto alla reputazione.

Il problema riguarda quindi non soltanto chi produce materialmente il deepfake, ma anche l'impiego e la diffusione del contenuto sintetico.

Le regole riguardano anche prezzi personalizzati e informazioni false

Il documento non si limita alla riproduzione di volti e voci.

Tra le controversie indicate dalla Corte rientra anche la cosiddetta discriminazione algoritmica dei prezzi, cioè l'utilizzo dei dati e degli algoritmi per applicare senza una ragione adeguata condizioni differenti a consumatori che acquistano lo stesso prodotto o servizio.

La Corte indica tra gli elementi da valutare l'eventuale utilizzo di informazioni come preferenze di consumo, disponibilità a pagare, capacità di spesa e cronologia di navigazione per costruire condizioni commerciali personalizzate che limitino concretamente i diritti dei consumatori.

Le linee guida affrontano inoltre le controversie derivanti da contenuti falsi o inesatti prodotti dai sistemi di intelligenza artificiale.

Non è una nuova legge sull’intelligenza artificiale

Il documento pubblicato dalla Corte suprema non introduce una nuova legge generale sull'IA.

La stessa Corte ricorda che in Cina non esiste ancora una legge specifica e unitaria sull'intelligenza artificiale. Le nuove indicazioni servono invece a orientare l'applicazione delle norme già esistenti, tra cui il Codice civile e le leggi sulla protezione dei dati personali, sui consumatori, sul copyright e sulla sicurezza informatica.

Il testo comprende 24 disposizioni suddivise in cinque parti e riguarda, più in generale, i criteri con cui i tribunali dovranno affrontare le controversie connesse allo sviluppo e all'utilizzo dei sistemi di IA.

Per i deepfake, il principio indicato dalla Corte è quindi soprattutto quello del consenso: la possibilità tecnica di riprodurre digitalmente una persona non equivale alla possibilità di utilizzarne liberamente volto e voce.

Fonte: agenzia Xinhua