0
0
Meta ha annunciato un potente modello di intelligenza artificiale in grado di replicare le voci. Che cosa potrebbe andare storto?
Meta presenta Voicebox
La scorsa settimana, Meta ha annunciato la sua ultima innovazione AI, Voicebox, un potente strumento che può imparare a parlare e suonare come chiunque tu voglia. Secondo il comunicato stampa di Meta , gli usi di Voicebox includeranno:
- Produzione di clip audio di alta qualità e modifica di audio preregistrato, come la rimozione dei clacson o l’abbaiare di un cane
- Produzione di discorsi in sei lingue
- Dare voci dal suono naturale agli assistenti virtuali e ai personaggi non giocanti nel metaverso
- Consentire alle persone ipovedenti di ascoltare i messaggi scritti degli amici letti dall’intelligenza artificiale nelle loro voci
Se ti sembra bello e anche terrificante, non sei solo. Anche gli sviluppatori di Meta dicevano, Whoa, mettiamoci i freni qui . La società ha deciso di non rilasciare Voicebox al pubblico, fondamentalmente perché il mondo è pieno di persone terribili che sicuramente faranno cose terribili con esso.
“Come con altre potenti nuove innovazioni di intelligenza artificiale, riconosciamo che questa tecnologia comporta il potenziale per un uso improprio e danni non intenzionali”, hanno pubblicato i ricercatori di Meta . “Mentre crediamo sia importante essere aperti con la comunità dell’IA e condividere la nostra ricerca per far progredire lo stato dell’arte nell’IA, è anche necessario trovare il giusto equilibrio tra apertura e responsabilità”.
Come potrebbe essere utilizzato
Gli sviluppatori di Meta affermano che, armato di un campione audio della durata di soli due secondi, “Voicebox può abbinare lo stile audio del campione e utilizzarlo per la generazione di sintesi vocale”.
Significa che qualcuno che ha una registrazione di te che parli per alcuni secondi sarà in grado di digitare qualsiasi parola che vuole che tu dica, e sembrerà che tu lo stia dicendo. Il potenziale di danno criminale, politico e personale è follemente alto. Se i truffatori riescono a convincere le persone che provengono dall’IRS e a convincerle ad acquistare buoni regalo per loro, immagina che tipo di danno potrebbero fare se suonassero proprio come una persona cara o il tuo capo.
Meta ha pubblicato un documento su Voicebox che descrive in dettaglio come funziona, le sue potenziali applicazioni e i modi per mitigarne i rischi. E la società afferma che “non vede l’ora di continuare la nostra esplorazione nel dominio dell’audio e di vedere come altri ricercatori si basano sul nostro lavoro”.
Guardare avanti o temere? Se hai mai visto l’ episodio di Black Mirror “Be Right Back” in cui una moglie in lutto usa la tecnologia AI per alimentare un androide molto realistico del marito morto, sai che diventerà molto strano molto velocemente.
