Google Veo 3 e deepfake


Google ha presentato Veo 3, una nuova IA per generare video realistici con audio sincronizzato, utilizzabile dagli abbonati Ultra negli Stati Uniti e alle imprese tramite Vertex AI. Sebbene le demo mostrino clip impressionanti, restano aperti diversi dubbi, soprattutto sulla diffusione di fake news, sui costi elevati, sulle limitazioni tecniche e sulle implicazioni etiche.

Ormai circolano in rete una moltitudine di clip video nei quali i personaggi negano di essere stati creati con l'intelligenza artificiale. Ovviamente è l'esatto contrario. Ciò che impressiona è il realismo e la perfetta sincronizzazione tra voce e movimenti labiali. Il tutto partendo da un prompt scritto, per quanto articolato.

Guarda questo video di esempio:


Se vuoi inquietarti ancora di più leggi anche questo articolo su Wired con una decina di altri video d'esempio.

Cos’è Veo 3

Generazione di video con audio: Veo 3 crea clip con musica, effetti sonori e perfino dialoghi sincronizzati alle labbra dei personaggi 
Accesso limitato: per usarlo occorre l’abbonamento Ultra della app Gemini negli USA (249 $ al mese) 
Durata dei clip: circa 8 secondi


Criticità principali

Veo 3 può generare video talmente realistici da ingannare facilmente chi guarda. Ad esempio, è circolato un fake che annunciava la morte di un personaggio pubblico, creato senza alcun controllo sull’attendibilità (leggi qui l'articolo su ANSA.it). Questo amplifica il timore che i video deepfake diventino strumenti di disinformazione di massa.

Inoltre il prezzo elevato per l’accesso Ultra e la disponibilità solo negli USA pongono un ostacolo forte a chi non è un’azienda o un professionista con budget elevati. 

Nonostante i video siano di alta qualità, la durata massima di pochi secondi riduce fortemente le possibilità creative per un privato o un piccolo team. In diverse demo poi si notano ancora artefatti o imperfezioni nelle scene complesse.

L'effetto wow c'è indubbiamente, così come ci sono i rischi di diffusioni incontrollate di deepfake. Tutto questo a che pro?

full-width