Perspectives de l'IA juin 2024

1. La loi européenne sur l'IA approuvée par le Conseil de l'UE

2. Résultats du Sommet de Séoul sur l'IA

3. Entrée en vigueur officielle de la loi britannique sur les voitures autonomes

4. La Commission européenne adopte le premier traité international sur l'IA

5. Le Sénat californien adopte la loi californienne sur la transparence de l'IA et la loi Frontier AI Model Safety Innovation Act

6. Le parti au pouvoir au Japon publie son deuxième livre blanc sur l'IA

La loi européenne sur l'IA approuvée par le Conseil de l'UE

Le 21 mai, le Conseil de l'UE a approuvé le projet de loi phare, la loi européenne sur l'IA.

Après sa signature par le Président du Parlement européen et le Conseil, la loi européenne sur l'IA sera publiée au Journal officiel de l'UE dans les prochains jours et entrera en vigueur vingt jours après sa publication.

Il convient de rappeler que certaines dispositions de la loi européenne sur l'IA entreront en vigueur six mois après sa publication. En particulier, les fournisseurs et les déployeurs de systèmes d'IA doivent s'assurer que leurs employés et les autres personnes impliquées dans l'exploitation et l'utilisation des systèmes d'IA possèdent des connaissances suffisantes en IA. Les dispositions interdisant l'IA entreront également en vigueur six mois plus tard.

Cliquez ici pour plus d'informations et contactez-nous si vous souhaitez discuter du projet de loi. Nous participons activement aux consultations sur ce projet de loi.

Résultats du Sommet de Séoul sur l'IA, les 21 et 22 mai 2024

Les 21 et 22 mai, la Corée du Sud et le Royaume-Uni ont co-organisé le Sommet de Séoul sur l'IA, faisant suite au premier Sommet sur la sécurité de l'IA qui s'est tenu à Bletchley Park fin 2023. Lors de ce sommet, les principaux pays du domaine de l'IA ont abordé divers sujets, notamment la réglementation et l'innovation en matière d'IA « frontière ». L'IA « frontière » se définit comme des modèles ou systèmes d'IA généraux hautes performances, capables d'effectuer diverses tâches et dont les capacités égalent ou dépassent celles des modèles de pointe. Ils sont considérés comme offrant à la fois de grandes opportunités et des risques systémiques.

Résultats du sommet :

Déclaration de Séoul sur l'IA : Promouvoir le développement sûr de l'IA pour relever les défis mondiaux et protéger les droits humains, et les pays s'engager à partager les informations sur la sécurité de l'IA.

Déclaration d'intention de Séoul : Les dirigeants mondiaux s'engagent à faire progresser la science de la sécurité de l'IA grâce à la coopération internationale.

Déclaration ministérielle de Séoul : Les pays participants s'engagent à promouvoir la sécurité, l'innovation et l'inclusion de l'IA, et à convenir de seuils de risque communs et d'une coopération internationale en matière de science de la sécurité de l'IA.

Engagement de sécurité de l'IA de pointe : Signé par 16 entreprises de technologie de l'IA, cet engagement s'engage à un développement responsable de l'IA, notamment en matière de cadres de sécurité, de tests par des équipes rouges de lutte contre les menaces, d'investissements en cybersécurité et de publication des capacités des modèles. Les signataires s'engagent à éviter de déployer des modèles si les risques ne peuvent être atténués de manière adéquate.

Veuillez consulter la déclaration ici et l'engagement ici.

Entrée en vigueur officielle de la loi britannique sur les véhicules autonomes

Le 20 mai, la loi britannique sur les véhicules autonomes (AV Act) est officiellement entrée en vigueur, posant les bases de la popularisation des véhicules autonomes sur les routes britanniques en 2026. Cette loi fournit un cadre juridique clair pour les conducteurs et les développeurs, supprimant ainsi un obstacle majeur à la popularisation des véhicules autonomes au Royaume-Uni. D'ici 2035, la loi devrait attirer davantage d'investissements, favoriser le développement du secteur des véhicules autonomes et créer 38 000 emplois.

Il convient de noter que la loi établit un nouveau système d'autorisation et de licence pour les véhicules autonomes. Les véhicules autonomes ne peuvent être autorisés que s'ils réussissent l'examen de conduite autonome. Par exemple, les véhicules autonomes offrant une assistance à la conduite « mains libres, yeux sur » ne seront pas autorisés. Les constructeurs agréés doivent garantir une conformité continue et signaler toute mise à jour ou modification majeure aux autorités compétentes.

La question de la responsabilité en cas d'accident causé par des voitures autonomes a suscité l'intérêt du public. Le projet de loi précise que lorsqu'une voiture autonome est en mode autonome, le conducteur n'est pas responsable de sa conduite. Comme précisé initialement dans la loi de 2018 sur les véhicules autonomes et électriques, cette responsabilité incombera aux compagnies d'assurance, aux développeurs de logiciels et aux constructeurs automobiles.

Cliquez ici pour lire le projet de loi.

La Commission européenne adopte le premier traité international sur l'intelligence artificielle

Le 17 mai, la Commission européenne a adopté le premier traité international sur l'intelligence artificielle (la « Convention »). La Convention établit un cadre juridique couvrant l'ensemble du cycle de vie des systèmes d'intelligence artificielle et vise à garantir le respect des droits de l'homme, de l'État de droit et de la démocratie lors de leur utilisation.

La Convention :

Adopte une approche fondée sur les risques pour la gestion du cycle de vie des systèmes d'intelligence artificielle et s'applique aux secteurs public et privé, en mettant l'accent sur l'innovation responsable et en s'attaquant aux impacts négatifs potentiels ;

Développe des exigences de transparence et de surveillance spécifiques au contexte, notamment des mesures visant à identifier les contenus générés par l'IA et à garantir la responsabilité des impacts négatifs ;

Impose aux parties de prendre des mesures pour garantir que les institutions et les processus démocratiques ne soient pas compromis par l'utilisation des systèmes d'intelligence artificielle, notamment le principe de séparation des pouvoirs, le respect de l'indépendance de la justice et l'accès à la justice.

La Convention couvre l'utilisation des systèmes d'intelligence artificielle dans les secteurs public et privé. Les parties à la convention peuvent choisir d'être directement liées par les dispositions pertinentes de la convention ou de prendre d'autres mesures pour se conformer aux dispositions du traité, tout en respectant pleinement leurs obligations internationales en matière de droits de l'homme, de démocratie et d'État de droit.

La convention sera ouverte à la signature à Vilnius, en Lituanie, le 5 septembre 2024.

Lire le texte intégral ici.

Le Sénat californien adopte la loi californienne sur la transparence de l'IA et la loi Frontier AI Model Safety Innovation Act

Le 21 mai, le Sénat californien a adopté deux textes législatifs importants relatifs à l'IA :

La loi californienne sur la transparence de l'IA vise à protéger les consommateurs en leur permettant de déterminer si certains contenus sont générés par l'IA. Ce projet de loi exige des grands fournisseurs de systèmes d'IA générative qu'ils étiquettent les contenus générés par l'IA et y intègrent des informations de divulgation imperceptibles (mais détectables par machine), et qu'ils fournissent des outils de détection de l'IA permettant aux utilisateurs de vérifier si le contenu a été créé par un système d'IA générative.

La loi Frontier AI Model Safety Innovation Act vise à réglementer le développement et l'utilisation de modèles d'IA avancés. Le projet de loi exige des développeurs qu'ils prennent des décisions de sécurité avant d'entraîner des modèles d'IA, qu'ils se conforment à diverses exigences de sécurité et qu'ils signalent les incidents de sécurité liés à l'IA. Il crée également la Division des modèles de frontière au sein du ministère des Sciences et des Technologies, chargée de superviser ces modèles d'IA.

Les deux projets de loi sont actuellement examinés au Parlement. S'ils sont approuvés, ils seront soumis à la signature du gouverneur général.

Veuillez consulter le texte intégral des projets de loi ici et ici.

Le parti au pouvoir au Japon publie un « Livre blanc sur l'IA » pour « devenir le pays le plus favorable à l'IA au monde »

Le 21 mai, le Parti libéral-démocrate japonais a publié son deuxième « Livre blanc sur l'IA », proposant la stratégie du Japon pour « devenir le pays le plus favorable à l'IA au monde ».

Ce document a été élaboré par l'équipe de projet sur l'intelligence artificielle du Parti libéral-démocrate, créée en janvier 2023 pour étudier la stratégie japonaise en matière d'IA et formuler des recommandations politiques.

Les recommandations formulées dans ce document visent à renforcer la compétitivité du Japon grâce à l'utilisation de l'IA tout en garantissant l'application sûre de ces technologies.

Les principales recommandations formulées dans le document sont les suivantes :

Partenariat public-privé : Encourager la coopération pour la collecte, la maintenance et la mise à jour des données, ainsi que pour le développement et l’utilisation de l’IA dans les domaines où le Japon excelle, tels que l’automobile, la robotique et le développement de matériaux. Cela devrait également s’appliquer à des secteurs clés comme la médecine, la finance et l’agriculture.

Construction d’infrastructures : Le gouvernement devrait apporter un soutien financier et politique pour garantir la construction de centres de données et autres infrastructures nécessaires au développement de l’IA. Le rapport souligne la nécessité de développer une infrastructure informatique pour le traitement et le stockage des données au niveau national afin de garantir une gestion sécurisée des données critiques et de réduire les délais de traitement. Le gouvernement devrait également privilégier les infrastructures économes en énergie et prendre en compte les besoins énergétiques futurs.

Coordination internationale de la sécurité de l’IA : Mettre en place un réseau d’instituts de sécurité de l’IA (AISI) de haut niveau, soutenus par le gouvernement japonais. Les AISI devraient envisager des évaluations et des normes de sécurité et produire des supports pédagogiques sur l’utilisation appropriée de l’IA. Par ailleurs, une coordination internationale devrait être mise en place avec d’autres pays pour garantir la sécurité de l’IA, et une attention particulière devrait être accordée à la coordination des normes internationales en matière d’audits et de certifications par des tiers des technologies de l’IA.