Prospettiva AI giugno 2024

1. La legge UE sull'IA approvata dal Consiglio dell'UE

2. Risultati del vertice di Seul sull'IA

3. Entra ufficialmente in vigore la legge sulle auto a guida autonoma nel Regno Unito

4. La Commissione europea adotta il primo trattato internazionale sull'IA

5. Il Senato della California approva il California AI Transparency Act e il Frontier AI Model Safety Innovation Act

6. Il partito al governo in Giappone pubblica il secondo libro bianco sull'IA

La legge UE sull'IA approvata dal Consiglio dell'UE

Il 21 maggio, il Consiglio dell'UE ha approvato il disegno di legge principale, la legge UE sull'IA.

Dopo essere stata firmata dal Presidente del Parlamento europeo e del Consiglio, la legge UE sull'IA sarà pubblicata nella Gazzetta Ufficiale dell'UE nei prossimi giorni ed entrerà in vigore venti giorni dopo la pubblicazione.

È opportuno ricordare che alcune disposizioni della legge UE sull'IA entreranno in vigore sei mesi dopo la pubblicazione. In particolare, i fornitori e gli operatori di sistemi di IA devono garantire che i propri dipendenti e le altre persone coinvolte nel funzionamento e nell'utilizzo dei sistemi di IA abbiano una sufficiente alfabetizzazione in materia di IA. Anche le disposizioni che vietano l'IA entreranno in vigore sei mesi dopo.

Clicca qui per maggiori informazioni e contattaci se desideri discutere il disegno di legge. Stiamo partecipando attivamente alle consultazioni sul disegno di legge.

Risultati del Summit di Seul sull'IA del 21-22 maggio 2024

Il 21 e 22 maggio, Corea del Sud e Regno Unito hanno ospitato congiuntamente il Summit di Seul sull'IA, in seguito al primo Summit sulla Sicurezza dell'IA che si terrà a Bletchley Park alla fine del 2023. Al summit, i paesi leader nel campo dell'IA hanno discusso una serie di argomenti, tra cui la regolamentazione e l'innovazione nell'IA "di frontiera". L'IA "di frontiera" è definita come modelli o sistemi di IA generali ad alte prestazioni in grado di svolgere una varietà di compiti e dotati di capacità che eguagliano o superano i modelli all'avanguardia. Si ritiene che offrano sia grandi opportunità che rischi sistemici.

I risultati del summit includono:

Dichiarazione di Seul sull'IA: promuovere lo sviluppo sicuro dell'IA per affrontare le sfide globali e proteggere i diritti umani, e i paesi si impegnano a condividere le informazioni sulla sicurezza dell'IA.

Dichiarazione d'intenti di Seul: i leader mondiali si impegnano a far progredire la scienza della sicurezza dell'IA attraverso la cooperazione internazionale.

Dichiarazione ministeriale di Seul: i paesi partecipanti si impegnano a promuovere la sicurezza, l'innovazione e l'inclusività dell'IA e a concordare soglie di rischio comuni e cooperazione internazionale nella scienza della sicurezza dell'IA.

Impegno di Frontier per la sicurezza dell'IA: firmato da 16 aziende tecnologiche di IA, si impegna a uno sviluppo responsabile dell'IA, inclusi framework di sicurezza, test di minacce red team, investimenti in sicurezza informatica e rendicontazione pubblica delle capacità dei modelli. I firmatari eviteranno di implementare modelli se i rischi non possono essere adeguatamente mitigati.

Leggi la dichiarazione qui e l'impegno qui.

Entra ufficialmente in vigore l'Autonomous Vehicles Act (AV Act) del Regno Unito

Il 20 maggio è entrato ufficialmente in vigore l'Autonomous Vehicles Act (AV Act) del Regno Unito, gettando le basi per la diffusione dei veicoli autonomi sulle strade del Regno Unito nel 2026. La legge fornisce un quadro giuridico chiaro per conducenti e sviluppatori, rimuovendo un ostacolo fondamentale alla diffusione dei veicoli autonomi nel Regno Unito. Si prevede che entro il 2035 la legge attirerà maggiori investimenti, promuoverà lo sviluppo del settore dei veicoli autonomi e creerà 38.000 posti di lavoro.

È importante notare che la legge istituisce un nuovo sistema di autorizzazioni e licenze per i veicoli autonomi. I veicoli autonomi possono essere autorizzati solo se superano il "test di guida autonoma". Ad esempio, i veicoli autonomi che forniscono assistenza alla guida "mani libere, occhi puntati" non saranno autorizzati. I produttori autorizzati devono garantire la conformità continua e segnalare aggiornamenti o modifiche importanti alle autorità competenti.

La questione della responsabilità per gli incidenti causati da auto a guida autonoma è stata al centro dell'attenzione pubblica. Il disegno di legge chiarisce che quando un'auto a guida autonoma è in modalità autonoma, il conducente non è responsabile del modo in cui guida. Come chiarito per la prima volta nella legge sui veicoli autonomi ed elettrici del 2018, questa responsabilità spetterà alle compagnie assicurative, agli sviluppatori di software e ai produttori di automobili.

Clicca qui per leggere il disegno di legge.

La Commissione Europea adotta il primo trattato internazionale sull'intelligenza artificiale

Il 17 maggio, la Commissione Europea ha adottato il primo trattato internazionale sull'intelligenza artificiale (la "Convenzione"). La Convenzione stabilisce un quadro giuridico che copre l'intero ciclo di vita dei sistemi di intelligenza artificiale e mira a garantire il rispetto dei diritti umani, dello Stato di diritto e della democrazia durante l'utilizzo di tali sistemi.

La Convenzione:

Adotta un approccio basato sul rischio per la gestione del ciclo di vita dei sistemi di intelligenza artificiale e si applica sia al settore pubblico che a quello privato, concentrandosi sull'innovazione responsabile e affrontando i potenziali impatti negativi;

Sviluppa requisiti di trasparenza e vigilanza specifici per ogni contesto, comprese misure per identificare i contenuti generati dall'IA e garantire la responsabilità per gli impatti negativi;

Impone alle parti di adottare misure per garantire che le istituzioni e i processi democratici non siano compromessi dall'uso di sistemi di intelligenza artificiale, tra cui il principio di separazione dei poteri, il rispetto dell'indipendenza della magistratura e l'accesso alla giustizia.

La Convenzione riguarda l'uso dei sistemi di intelligenza artificiale sia nel settore pubblico che in quello privato. Le parti della convenzione possono scegliere di essere direttamente vincolate dalle disposizioni della convenzione pertinente o adottare altre misure per conformarsi alle disposizioni del trattato, nel pieno rispetto dei propri obblighi internazionali in materia di diritti umani, democrazia e stato di diritto.

La convenzione sarà aperta alla firma a Vilnius, in Lituania, il 5 settembre 2024.

Leggi il testo completo qui.

Il Senato della California approva il California AI Transparency Act e il Frontier AI Model Safety Innovation Act

Il 21 maggio, il Senato della California ha approvato due importanti atti legislativi relativi all'IA:

Il California AI Transparency Act mira a proteggere i consumatori consentendo loro di determinare se determinati contenuti siano generati dall'IA. Il disegno di legge impone ai grandi fornitori di sistemi di IA generativa di etichettare i contenuti generati dall'IA e di incorporare informazioni di divulgazione impercettibili (ma rilevabili dalle macchine) nei contenuti, e di fornire strumenti di rilevamento dell'IA che consentano agli utenti di verificare se i contenuti siano stati creati da un sistema di IA generativa.

Il Frontier AI Model Safety Innovation Act mira a regolamentare lo sviluppo e l'utilizzo di modelli di IA avanzati. Il disegno di legge impone agli sviluppatori di formulare determinate valutazioni di sicurezza prima di addestrare modelli di intelligenza artificiale, di rispettare diversi requisiti di sicurezza e di segnalare eventuali incidenti relativi all'intelligenza artificiale. Il disegno di legge istituisce inoltre la Divisione Modelli di Frontiera presso il Ministero della Scienza e della Tecnologia per supervisionare questi modelli di intelligenza artificiale.

I due disegni di legge sono attualmente al vaglio del Parlamento. Se approvati, saranno sottoposti al Governatore Generale per la firma.

Si prega di leggere il testo completo dei disegni di legge qui e qui.

Il partito al governo in Giappone pubblica il "Libro Bianco sull'intelligenza artificiale" per "diventare il Paese più favorevole all'intelligenza artificiale al mondo"

Il 21 maggio, il Partito Liberal Democratico giapponese ha pubblicato il suo secondo "Libro Bianco sull'intelligenza artificiale", proponendo la strategia del Giappone per "diventare il Paese più favorevole all'intelligenza artificiale al mondo".

Il documento è stato redatto dall'Artificial Intelligence Project Team del Partito Liberal Democratico, istituito nel gennaio 2023 per studiare la strategia giapponese in materia di intelligenza artificiale e fornire raccomandazioni politiche.

Le raccomandazioni contenute nel documento mirano a migliorare la competitività del Giappone attraverso l'uso dell'intelligenza artificiale, garantendo al contempo l'applicazione sicura di queste tecnologie.

Le principali raccomandazioni delineate nel documento includono:

Partenariato pubblico-privato: incoraggiare la cooperazione nella raccolta, manutenzione e aggiornamento dei dati, nonché nello sviluppo e nell'utilizzo dell'IA in settori di forza del Giappone, come l'industria automobilistica, la robotica e lo sviluppo dei materiali. Questo dovrebbe applicarsi anche a settori chiave come la medicina, la finanza e l'agricoltura.

Costruzione di infrastrutture: il governo dovrebbe fornire supporto finanziario e politico per garantire la costruzione di data center e altre infrastrutture necessarie a supportare la tecnologia dell'IA. Il rapporto sottolinea la necessità di sviluppare infrastrutture informatiche per l'elaborazione e l'archiviazione dei dati a livello nazionale, al fine di garantire una gestione sicura dei dati critici e ridurre i tempi di elaborazione. Il governo dovrebbe inoltre dare priorità alle infrastrutture ad alta efficienza energetica e considerare il futuro fabbisogno energetico.

Coordinamento internazionale per la sicurezza dell'IA: istituire una rete di Istituti per la Sicurezza dell'IA (AISI) di alto livello supportati dal governo in Giappone. Gli AISI dovrebbero valutare valutazioni e standard di sicurezza e produrre materiale didattico sull'uso appropriato dell'IA. Inoltre, è necessario un coordinamento internazionale con altri paesi per garantire la sicurezza dell'IA, e si dovrebbe prestare la dovuta attenzione al coordinamento degli standard internazionali negli audit della tecnologia dell'IA e nella certificazione di terze parti.