La partecipazione di un docente del dipartimento di ingegneria e scienza dell’informazione dell’università di trento a un progetto europeo sull’intelligenza artificiale, che coinvolge anche la società ibm israel, ha suscitato una forte reazione all’interno della comunità accademica. Un gruppo di professori ha promosso una petizione per chiedere al rettore dell’ateneo di valutare con attenzione questa collaborazione, sollevando interrogativi legati a implicazioni etiche e a possibili legami con politiche controverse.
Petizione accademica contro la collaborazione con ibm israel
Il 9 giugno un gruppo di docenti ha avviato una raccolta firme online indirizzata al rettore dell’università di trento, chiedendo che venga fatta chiarezza sull’impegno di un docente nel progetto “truman”, finanziato da horizon europe, che li vedrà collaborare con ibm israel. In pochi giorni sono state raccolte oltre 420 sottoscrizioni, tra cui 260 di studenti e circa 160 tra docenti e personale tecnico-amministrativo. La lettera è stata inviata ufficialmente al rettore il 16 giugno.
La petizione esprime preoccupazioni soprattutto rispetto ai legami che ibm israel avrebbe con l’apparato militare e le politiche che diversi attori internazionali e della società civile definiscono come illegali e di apartheid nei confronti dei palestinesi. In particolare, si fa riferimento al fatto che ibm israel gestisce dati personali sensibili come quelli dell’anagrafe israeliana e dei permessi di lavoro e di attraversamento dei cittadini palestinesi nei territori occupati.
Caratteristiche e obiettivi del progetto “truman”
Il progetto “truman” partirà il primo luglio e fa parte del programma europeo horizon europe. Vi partecipano sette centri di ricerca internazionali e cinque aziende private, con un budget totale superiore a 6,5 milioni di euro. Di questo, circa 723mila euro saranno destinati a ibm israel e 709mila all’università di trento.
L’obiettivo di “truman” è sviluppare tecnologie per migliorare la resilienza dei sistemi di intelligenza artificiale contro attacchi che minano sicurezza e privacy. I ricercatori lavoreranno su più fasi, come la raccolta dati e l’addestramento dei modelli. Il progetto prevede di elaborare sia soluzioni difensive a minacce già conosciute sia nuovi tipi di attacchi sviluppati all’interno dello stesso progetto.
Il progetto mira quindi a studiare come rendere più robusti i sistemi AI, ma al tempo stesso svilupperà strategie offensive, destinate a testare le difese dei sistemi di intelligenza artificiale, una scelta che solleva dubbi sulle possibili conseguenze di un uso improprio dei risultati ottenuti.
Implicazioni etiche e legami con il sistema israeliano di controllo
Il primo firmatario della petizione, il professore fabio massacci, spiega che “il nodo è rappresentato dalla collaborazione con ibm israel, società che controlla dati sensibili fondamentali per la gestione del controllo sui palestinesi, utilizzati per politiche che limitano la libertà di movimento e i diritti civili.”
La multinazionale ibm ha in israele un ruolo centrale nella gestione del registro della popolazione, un database che contiene informazioni sui cittadini palestinesi nei territori occupati e che viene utilizzato per regolare permessi lavorativi e di attraversamento della linea verde. Nel 2017 ibm israel ha sviluppato il sistema chiamato eitan, adottato dall’autorità per l’immigrazione israeliana per gestire i permessi di accesso alla cisgiordania.
Secondo il centro indipendente who profits, i dati gestiti da ibm israel sono alla base di pratiche discriminatorie definite come apartheid da varie organizzazioni e violano diritti fondamentali dei palestinesi. Si tratta di un sistema che mantiene una distinzione netta tra gruppi sulla base di criteri etnici e politici, impattando pesantemente sulla vita quotidiana delle persone coinvolte.
Rischi legati agli attacchi alla privacy nei sistemi di intelligenza artificiale
Il progetto “truman” include anche lo studio degli attacchi alla privacy dei sistemi AI. Questi attacchi mirano a estrarre dati personali sensibili, come informazioni sanitarie o permessi di movimento, utilizzando tecniche che aggirano le barriere di protezione previste nei modelli di intelligenza artificiale.
Il docente coinvolto nel progetto deve sviluppare metodi in grado sia di proteggere i dati personali, impedendo risposte a requisti che rivelerebbero informazioni confidenziali, sia di simulare nuovi tipi di attacchi al sistema. Una scelta che genera dubbi su un possibile misuse, cioè l’uso improprio degli strumenti studiati per accedere ai dati sensibili.
Nel contesto delle ricerche finanziate dall’Unione europea è prevista una procedura di autodichiarazione in cui i ricercatori segnalano se prevedono rischi di misuse. Solo i proponenti del progetto e gli uffici di ricerca dell’ateneo possono conoscere i dettagli di questa autodichiarazione nel caso specifico di “truman”.
Posizione dell’università di trento e reazioni interne
L’università di trento, sollecitata da almeno 400 firmatari, ha risposto organizzando un incontro tra i promotori dell’appello, il professore coinvolto e i rappresentanti dell’ateneo. In questa sede vengono prese in considerazione le criticità legate alla collaborazione con ibm israel, soprattutto sulle questioni etiche e sui rischi di abuso.
L’ateneo ha inoltre coinvolto il comitato etico per la ricerca per valutare i potenziali rischi collegati al progetto e l’eventuale misuse. L’attenzione dell’università si concentra anche sulla coerenza con le dichiarazioni ufficiali e l’adesione a campagne pubbliche, come “un sudario per gaza”, che condannano la situazione in palestina.
Non mancano precedenti collaborazioni tra l’università e ibm israel: una di queste, nell’ambito dello stesso dipartimento, è in corso e durerà fino al 2026. Un altro progetto, attivato a gennaio nella facoltà di giurisprudenza, riguarda l’intelligenza artificiale in sanità. La richiesta diffusa dai firmatari della petizione è che gli organi accademici rivedano con attenzione l’opportunità di questa nuova partecipazione.
