Posar en risc la identitat sonora: El cas de Carles Porta
La intel·ligència artificial ja és capaç de reproduir el timbre i la manera de parlar d’una persona amb només uns segons d’àudio. El progrés obre noves possibilitats en l’accessibilitat, el doblatge o la creació de continguts, però també planteja un problema cada vegada més evident: qui controla la nostra veu?
La veu ha deixat de ser només un element de comunicació per convertir-se també en una dada que pot ser analitzada, reproduïda i sintetitzada mitjançant intel·ligència artificial.
Els nous sistemes de clonació de veu amb IA poden generar locucions molt realistes a partir d’una mostra mínima d’àudio, imitant el timbre, la cadència i l’entonació d’una persona.
Aquesta capacitat tecnològica està transformant sectors com el doblatge, la producció audiovisual, la comunicació o l’accessibilitat. Però el mateix avenç obre una qüestió cada vegada més difícil d’ignorar: què passa quan una veu es copia sense el consentiment del seu propietari?
El cas de Carles Porta posa el problema sobre la taula
Un dels exemples més pròxims és el del periodista i comunicador Carles Porta, conegut especialment pel programa Crims i per la seva particular manera de narrar.
Segons el cas recollit en la documentació analitzada, la seva veu en català hauria estat incorporada sense el seu coneixement a una plataforma asiàtica de síntesi de veu. Els usuaris que seleccionaven una determinada opció en català podien acabar utilitzant una veu que reproduïa la característica narració del periodista.
El mateix relat apunta que la mostra podria haver estat obtinguda a partir d’enregistraments de Crims.
L’equip de Porta hauria estudiat la possibilitat de reclamar per aquesta utilització, però les dificultats jurídiques derivades d’actuar contra una plataforma situada fora de l’àmbit europeu van complicar qualsevol possible acció.
El cas exemplifica un dels principals riscos de la nova generació d’intel·ligència artificial: la possibilitat de separar la veu de la persona que la genera i convertir-la en un recurs digital reutilitzable.
Tres segons d’àudio poden ser suficients
La tecnologia ha evolucionat de manera molt ràpida.
Els primers sistemes de síntesi de veu funcionaven combinant fragments prèviament enregistrats. Els models actuals d’aprenentatge profund, en canvi, poden analitzar les característiques d’una veu i reconstruir-les digitalment.
Arquitectures experimentals com VALL-E han demostrat fins a quin punt s’ha reduït la quantitat d’àudio necessària. Alguns sistemes poden reproduir característiques com el timbre, l’entonació o fins i tot part de l’ambient acústic utilitzant mostres de només uns segons.
La tecnologia, però, no sap si la persona que parla ha autoritzat aquesta utilització.
I aquí apareix el conflicte.
Un algoritme pot reconèixer patrons acústics, però no pot determinar per si mateix si aquella veu pertany a un periodista, un actor, un particular o una persona que mai no ha consentit que la seva identitat sonora sigui reproduïda.
Europa obliga a identificar els continguts creats amb IA
La Unió Europea intenta establir mecanismes que permetin diferenciar els continguts reals dels generats artificialment.
L’article 50 del Reglament europeu d’intel·ligència artificial, conegut com a AI Act, estableix obligacions de transparència per a determinats continguts generats o manipulats mitjançant intel·ligència artificial.
L’objectiu és que els continguts sintètics puguin ser identificats i que els ciutadans puguin saber quan estan interactuant amb sistemes automatitzats o davant material creat artificialment.
En aquest context guanyen importància tecnologies com les marques d’aigua digitals, les signatures criptogràfiques o altres sistemes de traçabilitat que permeten identificar l’origen d’un arxiu.
Però la tecnologia de detecció només resol una part del problema.
L’altra és el consentiment.
Clonar una veu amb consentiment o apropiar-se’n
La mateixa tecnologia pot tenir resultats molt diferents segons com s’utilitzi.
Algunes plataformes professionals han començat a introduir mecanismes específics per impedir que qualsevol usuari pugui clonar lliurement la veu d’una altra persona.
És el cas de Descript, que vincula la generació de determinades veus sintètiques a un procés previ de verificació i consentiment del titular.
La diferència és essencial: la tecnologia és pràcticament la mateixa, però el procediment estableix qui té dret a autoritzar-ne l’ús.
Aquest model apunta cap a un dels principis que probablement marcaran el futur de la veu artificial: cap clonació d’una identitat vocal hauria de poder desvincular-se del consentiment de la persona a qui pertany.
La IA també pot ajudar a conservar una veu
La clonació de veu no implica únicament riscos.
En l’àmbit de l’accessibilitat existeixen aplicacions que permeten conservar digitalment la veu d’una persona abans que una malaltia afecti la seva capacitat de parlar.
Una de les eines que treballa en aquesta direcció és Personal Voice d’Apple, concebuda perquè una persona pugui crear una veu sintetitzada similar a la seva i utilitzar-la posteriorment com a suport comunicatiu.
La tecnologia també pot facilitar el doblatge multilingüe, permetre que un comunicador ofereixi continguts en diferents idiomes o simplificar determinats processos de producció audiovisual.
Per això, el debat no se centra tant en prohibir la síntesi de veu com en determinar qui pot autoritzar-la, com s’identifica i quina traçabilitat ha de deixar.
La veu entra en l’era de la identitat digital
Durant anys, la protecció de la identitat digital s’ha concentrat en contrasenyes, fotografies, documents personals o dades biomètriques.
La intel·ligència artificial obliga ara a incorporar un element més: la veu.
Una gravació publicada en un vídeo, un programa de televisió, un pòdcast o una xarxa social pot proporcionar material suficient perquè determinats sistemes aprenguin les característiques vocals d’una persona.
El repte dels pròxims anys serà aconseguir que la innovació continuï avançant sense convertir la veu humana en una dada que qualsevol plataforma pugui copiar i reutilitzar sense control.
La tecnologia ja permet reproduir-la.
La qüestió que queda per resoldre és qui tindrà dret a fer-ho.
