AI-perspectief juni 2024

1. EU AI-wet goedgekeurd door EU-Raad

2. Resultaten AI-top Seoul

3. Britse wet op zelfrijdende auto's treedt officieel in werking

4. Europese Commissie neemt eerste internationale verdrag over AI aan

5. Senaat Californië keurt California AI Transparency Act en Frontier AI Model Safety Innovation Act goed

6. Japanse regeringspartij publiceert tweede AI-witboek

EU AI-wet goedgekeurd door EU-Raad

Op 21 mei keurde de EU-Raad het belangrijkste wetsvoorstel, de EU AI-wet, goed.

Na ondertekening door de voorzitter van het Europees Parlement en de Raad, zal de EU AI-wet de komende dagen in het Publicatieblad van de EU worden gepubliceerd en twintig dagen na publicatie in werking treden.

Er dient aan te worden herinnerd dat sommige bepalingen van de EU AI-wet zes maanden na publicatie in werking treden. Met name aanbieders en exploitanten van AI-systemen moeten ervoor zorgen dat hun werknemers en andere personen die betrokken zijn bij de werking en het gebruik van AI-systemen voldoende AI-kennis hebben. Bepalingen die AI verbieden, treden ook zes maanden later in werking.

Klik hier voor meer informatie en neem contact met ons op als u het wetsvoorstel wilt bespreken. We zijn actief betrokken bij de consultaties over het wetsvoorstel.

Resultaten van de Seoul AI-top op 21 en 22 mei 2024

Op 21 en 22 mei organiseerden Zuid-Korea en het Verenigd Koninkrijk samen de Seoul AI-top, als vervolg op de eerste AI Safety Summit die eind 2023 in Bletchley Park zou plaatsvinden. Tijdens de top bespraken toonaangevende landen op het gebied van AI diverse onderwerpen, waaronder regelgeving en innovatie in 'grensverleggende' AI. 'Grensverleggende' AI wordt gedefinieerd als hoogwaardige algemene AI-modellen of -systemen die diverse taken kunnen uitvoeren en die de mogelijkheden van state-of-the-art modellen evenaren of overtreffen. Ze worden beschouwd als modellen die zowel grote kansen als systeemrisico's bieden.

Resultaten van de top zijn onder andere:

Seoul AI-verklaring: Bevorder de veilige ontwikkeling van AI om wereldwijde uitdagingen aan te pakken en mensenrechten te beschermen, en landen verbinden zich ertoe AI-veiligheidsinformatie te delen.

Intentieverklaring Seoul: Wereldleiders verbinden zich ertoe de AI-veiligheidswetenschap te bevorderen door middel van internationale samenwerking.

Ministeriële verklaring Seoul: Deelnemende landen verbinden zich ertoe de veiligheid, innovatie en inclusiviteit van AI te bevorderen en komen gemeenschappelijke risicodrempels en internationale samenwerking op het gebied van AI-veiligheidswetenschap overeen.

Frontier AI Safety Commitment: Ondertekend door 16 AI-technologiebedrijven, verbindt deze zich tot een verantwoorde ontwikkeling van AI, inclusief beveiligingskaders, 'threat red team'-tests, investeringen in cybersecurity en openbare rapportage over de mogelijkheden van modellen. Ondertekenaars zullen modellen niet implementeren als risico's niet adequaat kunnen worden beperkt.

Lees de verklaring hier en de toezegging hier.

UK Autonomous Vehicles Act officieel van kracht

Op 20 mei trad de UK Autonomous Vehicles Act (AV Act) officieel in werking, waarmee de basis werd gelegd voor de popularisering van zelfrijdende voertuigen op de Britse wegen in 2026. De wet biedt een duidelijk juridisch kader voor bestuurders en ontwikkelaars en neemt een belangrijke barrière weg voor de popularisering van zelfrijdende voertuigen in het Verenigd Koninkrijk. Verwacht wordt dat de wet tegen 2035 meer investeringen zal aantrekken, de ontwikkeling van de autonome-auto-industrie zal bevorderen en 38.000 banen zal creëren.

Het is belangrijk om te vermelden dat de wet een nieuw autorisatie- en licentiesysteem voor autonome voertuigen instelt. Autonome voertuigen kunnen alleen worden goedgekeurd als ze slagen voor het "autonoom rijexamen". Zo zullen autonome voertuigen die "hands-off, eyes-on" rijassistentie bieden, niet worden goedgekeurd. Geautoriseerde fabrikanten moeten ervoor zorgen dat ze continu aan de regels voldoen en belangrijke updates of wijzigingen melden aan de bevoegde autoriteiten.

De kwestie van aansprakelijkheid voor ongevallen veroorzaakt door zelfrijdende auto's heeft de publieke aandacht getrokken. Het wetsvoorstel verduidelijkt dat wanneer een zelfrijdende auto zich in de autonome modus bevindt, de bestuurder niet verantwoordelijk is voor de manier waarop deze rijdt. Zoals voor het eerst werd verduidelijkt in de Wet op Autonome en Elektrische Voertuigen van 2018, zal deze verantwoordelijkheid liggen bij verzekeringsmaatschappijen, softwareontwikkelaars en autofabrikanten.

Klik hier om het wetsvoorstel te lezen.

Europese Commissie neemt eerste internationale verdrag inzake kunstmatige intelligentie aan

Op 17 mei heeft de Europese Commissie het eerste internationale verdrag inzake kunstmatige intelligentie (het "Verdrag") aangenomen. Het Verdrag stelt een juridisch kader vast dat de gehele levenscyclus van kunstmatige-intelligentiesystemen bestrijkt en beoogt ervoor te zorgen dat de mensenrechten, de rechtsstaat en de democratie worden gerespecteerd tijdens het gebruik van kunstmatige-intelligentiesystemen.

Het Verdrag:

hanteert een risicogebaseerde benadering voor het levenscyclusbeheer van kunstmatige-intelligentiesystemen en is van toepassing op zowel de publieke als de private sector, met de nadruk op verantwoorde innovatie en het aanpakken van mogelijke negatieve gevolgen;

Ontwikkelt contextspecifieke transparantie- en toezichtvereisten, waaronder maatregelen om door AI gegenereerde content te identificeren en verantwoording af te leggen voor negatieve gevolgen;

Vereist dat partijen maatregelen nemen om ervoor te zorgen dat democratische instellingen en processen niet worden ondermijnd door het gebruik van kunstmatige-intelligentiesystemen, waaronder het beginsel van de scheiding der machten, eerbiediging van de onafhankelijkheid van de rechterlijke macht en toegang tot de rechter.

Het Verdrag heeft betrekking op het gebruik van kunstmatige-intelligentiesystemen in zowel de publieke als de private sector. Partijen bij het verdrag kunnen ervoor kiezen om rechtstreeks gebonden te zijn aan de relevante verdragsbepalingen of andere maatregelen te nemen om aan de verdragsbepalingen te voldoen, met volledige inachtneming van hun internationale verplichtingen op het gebied van mensenrechten, democratie en de rechtsstaat.

Het verdrag zal op 5 september 2024 ter ondertekening openstaan in Vilnius, Litouwen.

Lees de volledige tekst hier.

De Senaat van Californië neemt de California AI Transparency Act en de Frontier AI Model Safety Innovation Act aan

Op 21 mei heeft de Senaat van Californië twee belangrijke wetgeving op het gebied van AI aangenomen:

De California AI Transparency Act is bedoeld om consumenten te beschermen door hen in staat te stellen te bepalen of bepaalde content door AI is gegenereerd. De wet vereist dat grote aanbieders van generatieve AI-systemen AI-gegenereerde content labelen en onwaarneembare (maar machinaal detecteerbare) openbaarmakingsinformatie in de content opnemen, en AI-detectietools aanbieden waarmee gebruikers kunnen nagaan of de content is gegenereerd door een generatief AI-systeem.

De Frontier AI Model Safety Innovation Act is bedoeld om de ontwikkeling en het gebruik van geavanceerde AI-modellen te reguleren. Het wetsvoorstel vereist dat ontwikkelaars bepaalde veiligheidsbeoordelingen maken voordat ze AI-modellen trainen, voldoen aan diverse veiligheidseisen en AI-veiligheidsincidenten melden. Het wetsvoorstel richt ook de Frontier Model Division op binnen het Ministerie van Wetenschap en Technologie om toezicht te houden op deze AI-modellen.

De twee wetsvoorstellen zijn momenteel in behandeling in het parlement. Indien goedgekeurd, worden ze ter ondertekening voorgelegd aan de gouverneur-generaal.

Lees de volledige tekst van de wetsvoorstellen hier en hier.

Japanse regeringspartij publiceert "AI White Paper" om "het meest AI-vriendelijke land ter wereld te worden"

Op 21 mei publiceerde de Japanse Liberaal-Democratische Partij haar tweede "AI White Paper", waarin de strategie van Japan wordt voorgesteld om "het meest AI-vriendelijke land ter wereld te worden".

Het document is opgesteld door het Artificial Intelligence Project Team van de Liberaal-Democratische Partij, dat in januari 2023 werd opgericht om de Japanse AI-strategie te bestuderen en beleidsaanbevelingen te doen.

De aanbevelingen in het document zijn bedoeld om het concurrentievermogen van Japan te verbeteren door middel van AI en tegelijkertijd de veilige toepassing van deze technologieën te garanderen.

De belangrijkste aanbevelingen in het document zijn:

Publiek-private samenwerking: Stimuleer samenwerking bij het verzamelen, onderhouden en bijwerken van data, en bij de ontwikkeling en toepassing van AI op gebieden waar Japan sterk in is, zoals auto's, robots en materiaalontwikkeling. Dit zou ook moeten gelden voor belangrijke sectoren zoals geneeskunde, financiën en landbouw.

Infrastructuuraanleg: De overheid zou financiële en beleidsmatige ondersteuning moeten bieden om de bouw van datacenters en andere infrastructuur die nodig is ter ondersteuning van AI-technologie te waarborgen. Het rapport benadrukt de noodzaak om computerinfrastructuur te ontwikkelen voor de verwerking en opslag van data in eigen land om veilig beheer van kritieke data te garanderen en de verwerkingstijd te verkorten. De overheid zou ook prioriteit moeten geven aan energie-efficiënte infrastructuur en rekening moeten houden met toekomstige energiebehoeften.

Internationale coördinatie van AI-veiligheid: Richt een netwerk op van hoogwaardige, door de overheid ondersteunde AI-veiligheidsinstituten (AISI's) in Japan. AISI's zouden veiligheidsbeoordelingen en -normen moeten overwegen en educatief materiaal moeten ontwikkelen over het juiste gebruik van AI. Daarnaast zou internationale coördinatie met andere landen moeten plaatsvinden om de AI-veiligheid te waarborgen, en moet er de nodige aandacht worden besteed aan de coördinatie van internationale normen voor AI-technologieaudits en certificering door derden.