Non fidatevi di tutto ciò che vedete: L’ascesa delle “deepfake”

Tradizione Famiglia Proprietà newsletter 2 Novembre 2024

di Edwin Benson

Nell’aprile del 2022 circolò un video che mostrava l’ex First Lady e Segretario di Stato Hilary Roddam Clinton appoggiare il governatore della Florida Ron DeSantis per la presidenza. L’idea che la democratica di sinistra promuovesse la candidatura di un repubblicano conservatore fece sollevare più di qualche sopracciglio. Tuttavia, dati i profili pubblici della signora Clinton e del signor DeSantis, la notizia fu rapidamente smentita.

Quel filmato era una “deepfake”. La mia esposizione alle deepfakes è stata leggera, in quanto le ho relegate a qualcosa legato a Hollywood o alla politica, come il videoclip citato sopra. Poiché non trascorro molto tempo in nessuno di quei due mondi, non ho mai prestato molta attenzione.

Entriamo nelle scuole

Poi ho ricevuto la mia copia di Education Week, un giornale che riporta principalmente notizie di interesse per gli amministratori scolastici. Un articolo sulle  deepfakes ha attirato la mia attenzione. L’articolo faceva riferimento a uno studio del Center for Democracy and Technology.

“Il 40% degli studenti e il 29% degli insegnanti dicono di essere a conoscenza di una ‘deepfake’ riguardante persone associate alla loro scuola che ha girato durante l’anno scolastico 2023-24, secondo il sondaggio fatto a livello nazionale rappresentando studenti delle scuole superiori, insegnanti di scuole medie e superiori e genitori.

“I principali responsabili e vittime sono gli studenti”.

Mentre leggevo, due pensieri si sono affacciati con più evidenza.

Primo, le scuole americane (pubbliche e private) hanno un totale approssimativo di cinquantotto milioni di studenti e quattro milioni d’insegnanti. Quindi, le cifre precedenti del quaranta e del ventinove per cento si traducono in numeri enormi. Attenzione, non si tratta di celebrità ma di persone comuni. Potrebbero essere i miei figli e nipoti o quelli dei nostri lettori. Un argomento che prima non aveva alcun rapporto con la vita quotidiana è diventato improvvisamente reale.

Il secondo pensiero ha poco a che fare con la scuola o la università. All’inizio, le deepfake erano appannaggio di professionisti esperti in computer e film. Se ora uno studente di seconda media è in grado di creare una deepfake convincente, il software disponibile ha reso questo gioco alla portata di tutti i tastieristi.

Così ho deciso di saperne di più sulle deepfake.

Un nuovo mondo sconosciuto

Iniziamo quindi con la domanda più elementare. Che cos’è una deepfake?

È l’uso della intelligenza artificiale (IA) per creare una foto, una registrazione audio o un videoclip di un evento mai accaduto. Il molto seguito sito web Business Insider ha ideato una descrizione particolarmente impattante in cinque parole: “contenuti falsi di persone reali”.

L’intelligenza artificiale è molto diversa dai programmi informatici comunemente utilizzati. Le vecchie tecnologie potevano manipolare le immagini. Operatori esperti potevano attenuare o migliorare le rughe del viso, rimuovere gli elementi di distrazione dallo sfondo di una foto e schiarire o attenuare i colori. Questi elementi potevano far apparire una foto più o meno attraente, ma si trattava di foto reali di eventi reali. Lo stesso vale per la maggior parte dei software di editing audio e video.

Una deepfake è qualcosa di molto diverso. Può collocare le persone in luoghi che non hanno mai visitato, facendo cose che non hanno mai fatto, dicendo cose che non hanno mai detto, in compagnia di persone che non hanno mai incontrato. Le possibilità sono infinite, così come gli scopi illegittimi delle deepfake.

Un dilemma in rapida crescita

Il problema sta aumentando in proporzione geometrica. Una società internazionale di consulenza aziendale, Spiralytics ha elaborato alcune statistiche sorprendenti.

  • “Il numero di video deepfake online raddoppia all’incirca ogni sei mesi”.
  • “Gli utenti dei social media hanno condiviso circa 500.000 deepfakes vocali e video nel 2023”.
  • “L’intero processo di creazione di una foto o di un video deepfake può durare anche solo 8 minuti”.
  • ‘Face swap’(ndt, una risorsa di IA per fare video sostituendo la fisonomia di una persona con quella di un’altra, specialmente per divertimento), è tra le categorie di deepfake più comuni, con un aumento del 704% dalla prima alla seconda metà del 2023″.
  • “Il 71% delle persone non sa cosa siano le deepfake; solo un terzo ne conosce l’esistenza”.

Inoltre, la legislazione su questo argomento è un mosaico disordinato di misure. L’azienda di sicurezza informatica Norton ha riassunto lo stato attuale delle cose.

“Attualmente non esiste una legge federale che disciplini le deepfake, anche se la loro creazione è illegale in alcuni Stati americani, mentre la loro distribuzione è illegale in altri Stati. Il Minnesota ha vietato la creazione e la distribuzione di deepfake che potrebbero essere utilizzati per influenzare le elezioni o come forma di pornografia non consensuale. Altri Stati stanno prendendo in considerazione leggi simili e il Regno Unito ha incluso nel suo prossimo disegno di legge sulla sicurezza online un linguaggio su come le deepfake possono o non possono essere creati”. (enfasi nell’originale).

Riconoscere i deepfakes

Silicon Valley centro del nuovo potere tecnologicoPer concludere questa breve panoramica, ci restano due argomenti: come riconoscere le deepfake e come evitare che voi o i vostri cari siate vittime di questa crescente minaccia.

La prima regola è considerare bene la fonte. Se, ad esempio, mia zia Maria m’invia una foto di un evento familiare che mi sono perso, posso riporre una fiducia quasi infinita nell’accuratezza della foto. Innanzitutto, non ho dubbi sulla sua onestà personale. In secondo luogo, anche se non fosse onesta, non avrebbe motivo di mentire su una riunione di famiglia. In terzo luogo, so che la grafica computerizzata non è tra le sue competenze. D’altra parte, se ricevo qualcosa su Internet da qualcuno che usa un evidente pseudonimo, è il momento di ignorarlo o di esaminarlo più da vicino.

Le deepfake, essendo artificiali, nella maggioranza dei casi condividono alcuni difetti. La “materia prima” può essere solo una piccola fotografia o un breve clip audio. Ciò significa che spesso i dettagli specifici non sono chiari.

Osservate attentamente i capelli e gli occhi. In questo caso, il vecchio detto “l’occhio è la finestra dell’anima” è esatto. Nelle deepfake, il movimento degli occhi, quasi costante nella vita reale, è lento o addirittura inesistente. Nella vita reale, i capelli tendono a muoversi in relazione ad altri movimenti corporei o anche per un rapido soffio di vento. I capelli che sembrano troppo impomatati sono un segno comune di una deepfake.

Indizi da utilizzare

La stessa idea si applica alle registrazioni audio. È possibile costruire un’imitazione profonda della mia voce anche se la persona che la produce ha a disposizione solo pochi secondi del mio parlato. Tuttavia, tutti noi abbiamo dei manierismi vocali, parole che pronunciamo abitualmente o usi specifici di particolari luoghi in cui abbiamo vissuto.

Per esempio, un altro difetto frequente è l’illuminazione. In un’immagine autentica tutto l’insieme ha fonti di luce comuni. Tuttavia, una deepfake spesso non ci riesce. Se il deepfaker utilizza un’immagine scattata all’aperto a mezzogiorno, la trasposizione di quell’immagine a un evento che si svolge al chiuso o di notte la rende fuori luogo.

Molti video deepfake amatoriali contengono suoni non sincronizzati con l’azione. Un problema simile è la coordinazione tra il movimento delle labbra e le parole pronunciate. Anche in questo caso, questi dettagli sono difficili da risolvere nelle deepfake.

Siete da soli

Forse la regola empirica più applicabile è “se sembra falso, probabilmente è falso”.

Concludiamo con un paio di idee su come proteggere se stessi – o chi vogliamo bene – dall’essere vittima delle deepfake.

Innanzitutto, non riempite Internet di foto o video di voi stessi. Più informazioni hanno i deepfaker, migliori saranno i loro prodotti. Se volete raccontare al mondo i vostri viaggi, condividere foto, mostrare i veicoli che usate e persino il cibo che mangiate, questo vi renderà un bersaglio più facile per i deepfaker. Lasciate a casa il vostro bastoncino per i selfie.

Naturalmente, si può essere vittima di una deepfake senza esservi realmente coinvolti. Imparate la sgradevole esperienza da chi ha condiviso su Facebook un’immagine che poi si è rivelata falsa. Un po’ di scetticismo innato è utile. Mettete il dubbio su “max” quando il possibile deepfake trasmette un messaggio con cui siete d’accordo. Un aspetto della nostra natura umana è la tendenza a credere alle bugie che vorremmo fossero vere.

Un ultimo consiglio è quello di non prendere mai una decisione importante basandosi solo su una prova, per quanto convincente possa essere. Le Sacre Scritture (Giovanni 8:17 e 1 Timoteo 5:19) ci ammoniscono a dubitare di qualsiasi accusa che non sia suffragata da almeno due testimoni. Questo è un ottimo test anche nel mondo delle deepfake.

FonteReturn to Order, 9 Ottobre 2024. Traduzione a cura di Tradizione Famiglia Proprietà – Italia.

________________________________________

Leggi anche:

Intelligenza artificiale, quale rischio?