L’articolo analizza la diffusione di video e audio deepfake su papa Leone XIV generati con intelligenza artificiale su YouTube e TikTok, evidenziando i rischi di disinformazione e le misure adottate dalle piattaforme per contrastarli. - Unita.tv
Da circa un mese, dopo l’elezione del nuovo papa Leone XIV, YouTube e TikTok sono invasi da video e audio generati con l’intelligenza artificiale che mostrano discorsi e sermoni mai pronunciati dal pontefice. Questi contenuti, diffusi principalmente in inglese e spagnolo, evidenziano la difficoltà nel controllare la diffusione di notizie false sulle piattaforme social.
La diffusione dei contenuti generati dall’intelligenza artificiale su papa Leone XIV
Dall’inizio del pontificato di papa Leone XIV, centinaia di video e clip audio sono apparsi su YouTube e TikTok, utilizzando tecniche di intelligenza artificiale per simulare i discorsi del pontefice. In molti casi si tratta di sermoni che non sono mai stati pronunciati, creati con lo scopo di attrarre visualizzazioni o veicolare messaggi distorti. Questi contenuti riguardano temi religiosi o sociali, ma spesso presentano informazioni non verificate o falsificate.
La facilità con cui è possibile generare video deepfake e audio sintetici ha reso particolarmente critica la situazione. Gli utenti, mossi dalla curiosità di ascoltare cosa dice il nuovo papa, guardano questi filmati senza sempre riuscire a distinguere la realtà dalla finzione. L’effetto è un aumento della disinformazione su un personaggio pubblico di rilievo mondiale e un rischio concreto di confusione nell’opinione pubblica.
Le implicazioni per la società e i media
“L’effetto è un aumento della disinformazione su un personaggio pubblico di rilievo mondiale e un rischio concreto di confusione nell’opinione pubblica.”
Le reazioni degli esperti e il problema della disinformazione
Oren Etzioni, professore emerito all’università di Washington e fondatore di TrueMedia.org, ha sottolineato come sia naturale l’interesse verso il papa appena eletto, ma molto delicata la gestione delle informazioni generate artificialmente. Secondo Etzioni, la situazione offre terreno fertile per seminare disordini e diffondere notizie ingannevoli proprio perché gli utenti non conoscono ancora bene il nuovo pontefice e la sua linea di pensiero.
L’esperto evidenzia il ruolo delle piattaforme nell’affrontare questo fenomeno. Le tecniche di intelligenza artificiale permettono di creare contenuti credibili ma totalmente inventati, creando difficoltà nell’effettuare controlli efficaci. Questo problema coinvolge non solo i social network ma anche l’intera società, che si ritrova a dover fare i conti con la necessità di verificare le fonti e imparare a riconoscere la disinformazione.
Opinione di oren etzioni
“La situazione offre terreno fertile per seminare disordini e diffondere notizie ingannevoli proprio perché gli utenti non conoscono ancora bene il nuovo pontefice e la sua linea di pensiero.”
L’intervento di youtube e tiktok contro i contenuti falsi
Di fronte alla diffusione incontrollata dei contenuti falsificati su papa Leone XIV, YouTube ha preso misure significative. In seguito alla segnalazione di 26 canali sospetti da parte dell’Agence France-Presse , la piattaforma ha chiuso 16 canali per violazioni legate a spam, pratiche ingannevoli e truffe. Un altro canale è stato sospeso per violazione dei termini di servizio.
TikTok ha rimosso 11 account con oltre 1,3 milioni di follower complessivi, sostenendo la sua decisione nelle politiche contro l’impersonificazione e la diffusione di disinformazione dannosa tramite contenuti generati con l’AI. Prima dell’eliminazione, questi profili avevano raggiunto milioni di visualizzazioni e un pubblico ampio e diversificato.
Le azioni di entrambe le piattaforme evidenziano le sfide che ostacolano la lotta ai contenuti falsificati, soprattutto quando riguardano personaggi pubblici molto seguiti. Il controllo rimane comunque complesso, vista la rapidità con cui si possono creare e diffondere questi materiali.
Il contesto più ampio della disinformazione generata dall’intelligenza artificiale
Il caso legato a papa Leone XIV rappresenta un esempio concreto di un problema più vasto che riguarda l’uso dell’intelligenza artificiale per creare contenuti falsi su personaggi famosi. Negli ultimi anni, la tecnologia AI ha raggiunto livelli tali da produrre video e audio realistici impossibili da distinguere dai veri.
Questa situazione ha generato un dibattito e ha portato a sviluppare nuove regole e strumenti per contrastare la disinformazione. Nazioni, piattaforme e organizzazioni cercano soluzioni per individuare rapidamente i deepfake e bloccarne la diffusione.
I contenuti falsi su figure religiose particolarmente influenti rischiano di creare tensioni e malintesi a livello globale. Per questo, molti esperti suggeriscono un esercizio di media education tra gli utenti e uno sforzo maggiore per migliorare i sistemi di monitoraggio, evitando così che la manipolazione digitale influenzi l’opinione pubblica e l’informazione genuina.