KI-Perspektive Juni 2024

1. EU-KI-Gesetz vom EU-Rat verabschiedet

2. Ergebnisse des KI-Gipfels in Seoul

3. Britisches Gesetz über selbstfahrende Autos tritt offiziell in Kraft

4. Europäische Kommission verabschiedet ersten internationalen KI-Vertrag

5. Kalifornischer Senat verabschiedet den California AI Transparency Act und den Frontier AI Model Safety Innovation Act

6. Japans Regierungspartei veröffentlicht zweites KI-Weißbuch

EU-KI-Gesetz vom EU-Rat verabschiedet

Am 21. Mai verabschiedete der EU-Rat das wichtigste Gesetz, das EU-KI-Gesetz.

Nach der Unterzeichnung durch den Präsidenten des Europäischen Parlaments und des Rates wird das EU-KI-Gesetz in den nächsten Tagen im EU-Amtsblatt veröffentlicht und tritt zwanzig Tage nach Veröffentlichung in Kraft.

Es sei darauf hingewiesen, dass einige Bestimmungen des EU-KI-Gesetzes sechs Monate nach Veröffentlichung in Kraft treten. Insbesondere müssen Anbieter und Betreiber von KI-Systemen sicherstellen, dass ihre Mitarbeiter und andere am Betrieb und der Nutzung von KI-Systemen beteiligte Personen über ausreichende KI-Kenntnisse verfügen. Bestimmungen, die KI verbieten, treten ebenfalls sechs Monate später in Kraft.

Klicken Sie hier für weitere Informationen und kontaktieren Sie uns, wenn Sie den Gesetzentwurf besprechen möchten. Wir beteiligen uns aktiv an den Konsultationen zum Gesetzentwurf.

Ergebnisse des Seoul AI Summit vom 21. bis 22. Mai 2024

Am 21. und 22. Mai veranstalteten Südkorea und Großbritannien gemeinsam den Seoul AI Summit als Folgeveranstaltung zum ersten AI Safety Summit, der Ende 2023 in Bletchley Park stattfinden sollte. Auf dem Gipfel diskutierten führende Länder im Bereich KI verschiedene Themen, darunter Regulierung und Innovation im Bereich der Pionier-KI. Pionier-KI wird definiert als leistungsstarke allgemeine KI-Modelle oder -Systeme, die eine Vielzahl von Aufgaben erfüllen können und über Fähigkeiten verfügen, die den neuesten Modellen entsprechen oder diese übertreffen. Sie bieten sowohl große Chancen als auch systemische Risiken.

Ergebnisse des Gipfels:

Seoul AI Declaration: Förderung der sicheren Entwicklung von KI zur Bewältigung globaler Herausforderungen und zum Schutz der Menschenrechte. Die Länder verpflichten sich zum Austausch von Informationen zur KI-Sicherheit.

Absichtserklärung von Seoul: Weltweit verpflichten sich führende Politiker, die KI-Sicherheitsforschung durch internationale Zusammenarbeit voranzutreiben.

Ministererklärung von Seoul: Die teilnehmenden Länder verpflichten sich, die Sicherheit, Innovation und Inklusivität von KI zu fördern und sich auf gemeinsame Risikoschwellenwerte sowie internationale Zusammenarbeit in der KI-Sicherheitsforschung zu einigen.

Verpflichtung zur KI-Sicherheit: Die von 16 KI-Technologieunternehmen unterzeichnete Verpflichtung verpflichtet sich zu einer verantwortungsvollen Entwicklung von KI, einschließlich Sicherheitsrahmen, Threat-Red-Team-Tests, Investitionen in Cybersicherheit und öffentlicher Berichterstattung über die Modellfähigkeiten. Die Unterzeichner werden auf den Einsatz von Modellen verzichten, wenn die Risiken nicht ausreichend gemindert werden können.

Die Erklärung finden Sie hier, die Verpflichtung hier.

UK Autonomous Vehicles Act tritt offiziell in Kraft

Am 20. Mai trat der UK Autonomous Vehicles Act (AV Act) offiziell in Kraft und legte damit den Grundstein für die Verbreitung autonomer Fahrzeuge auf britischen Straßen im Jahr 2026. Das Gesetz bietet einen klaren Rechtsrahmen für Fahrer und Entwickler und beseitigt damit ein wesentliches Hindernis für die Verbreitung autonomer Fahrzeuge in Großbritannien. Es wird erwartet, dass das Gesetz bis 2035 weitere Investitionen anziehen, die Entwicklung der autonomen Fahrzeugindustrie fördern und 38.000 Arbeitsplätze schaffen wird.

Bemerkenswert ist, dass das Gesetz ein neues Zulassungs- und Lizenzierungssystem für autonome Fahrzeuge einführt. Autonome Fahrzeuge können nur zugelassen werden, wenn sie den „autonomen Fahrtest“ bestehen. Beispielsweise werden autonome Fahrzeuge, die eine Fahrassistenz ohne Hände, mit Augen auf den Fahrer bieten, nicht zugelassen. Autorisierte Hersteller müssen die kontinuierliche Einhaltung der Vorschriften sicherstellen und wichtige Aktualisierungen oder Änderungen den zuständigen Behörden melden.

Die Frage der Haftung für Unfälle, die durch selbstfahrende Autos verursacht werden, steht im Mittelpunkt der öffentlichen Aufmerksamkeit. Der Gesetzentwurf stellt klar, dass der Fahrer im autonomen Modus eines selbstfahrenden Autos nicht für dessen Fahrweise verantwortlich ist. Wie bereits im Gesetz über autonome und elektrische Fahrzeuge von 2018 klargestellt, liegt diese Verantwortung bei Versicherungen, Softwareentwicklern und Automobilherstellern.

Klicken Sie hier, um den Gesetzentwurf zu lesen.

Europäische Kommission verabschiedet ersten internationalen Vertrag über Künstliche Intelligenz

Am 17. Mai verabschiedete die Europäische Kommission den ersten internationalen Vertrag über Künstliche Intelligenz (die „Konvention“). Die Konvention schafft einen Rechtsrahmen für den gesamten Lebenszyklus von Systemen der Künstlichen Intelligenz und soll sicherstellen, dass Menschenrechte, Rechtsstaatlichkeit und Demokratie bei deren Nutzung geachtet werden.

Die Konvention:

Verfolgt einen risikobasierten Ansatz für das Lebenszyklusmanagement von Systemen der Künstlichen Intelligenz und gilt sowohl für den öffentlichen als auch für den privaten Sektor. Der Schwerpunkt liegt auf verantwortungsvoller Innovation und der Bewältigung potenzieller negativer Auswirkungen.

Entwickelt kontextspezifische Transparenz- und Aufsichtsanforderungen, darunter Maßnahmen zur Identifizierung KI-generierter Inhalte und zur Gewährleistung der Rechenschaftspflicht für negative Auswirkungen.

Verpflichtet die Vertragsparteien, Maßnahmen zu ergreifen, um sicherzustellen, dass demokratische Institutionen und Prozesse durch den Einsatz von Systemen der Künstlichen Intelligenz nicht untergraben werden. Dazu gehören das Prinzip der Gewaltenteilung, die Achtung der richterlichen Unabhängigkeit und der Zugang zur Justiz.

Die Konvention deckt den Einsatz von Systemen der Künstlichen Intelligenz sowohl im öffentlichen als auch im privaten Sektor ab. Die Vertragsparteien des Übereinkommens können sich entweder direkt an die einschlägigen Bestimmungen des Übereinkommens binden oder andere Maßnahmen ergreifen, um die Vertragsbestimmungen einzuhalten, wobei sie ihre internationalen Verpflichtungen in Bezug auf Menschenrechte, Demokratie und Rechtsstaatlichkeit uneingeschränkt wahren müssen.

Das Übereinkommen wird am 5. September 2024 in Vilnius, Litauen, zur Unterzeichnung aufgelegt.

Lesen Sie den vollständigen Text hier.

Der kalifornische Senat verabschiedet den California AI Transparency Act und den Frontier AI Model Safety Innovation Act

Am 21. Mai verabschiedete der kalifornische Senat zwei wichtige KI-bezogene Gesetze:

Der California AI Transparency Act soll Verbraucher schützen, indem er ihnen ermöglicht, festzustellen, ob bestimmte Inhalte von KI generiert werden. Der Gesetzentwurf verpflichtet große Anbieter generativer KI-Systeme, KI-generierte Inhalte zu kennzeichnen und nicht wahrnehmbare (aber maschinenlesbare) Offenlegungsinformationen in die Inhalte einzubetten. Außerdem müssen sie KI-Erkennungstools bereitstellen, mit denen Nutzer abfragen können, ob Inhalte von einem generativen KI-System erstellt wurden.

Der Frontier AI Model Safety Innovation Act zielt darauf ab, die Entwicklung und Nutzung fortschrittlicher KI-Modelle zu regulieren. Der Gesetzentwurf verpflichtet Entwickler, vor dem Training von KI-Modellen bestimmte Sicherheitsentscheidungen zu treffen, verschiedene Sicherheitsanforderungen einzuhalten und KI-Sicherheitsvorfälle zu melden. Der Gesetzentwurf sieht außerdem die Einrichtung einer Abteilung für Grenzmodelle im Ministerium für Wissenschaft und Technologie vor, die diese KI-Modelle beaufsichtigt.

Die beiden Gesetzentwürfe werden derzeit im Parlament beraten. Nach Annahme werden sie dem Generalgouverneur zur Unterschrift vorgelegt.

Den vollständigen Text der Gesetzentwürfe finden Sie hier und hier.

Japans Regierungspartei veröffentlicht „KI-Weißbuch“: „Das KI-freundlichste Land der Welt werden“

Am 21. Mai veröffentlichte Japans Liberaldemokratische Partei ihr zweites „KI-Weißbuch“ und schlägt darin Japans Strategie vor, „das KI-freundlichste Land der Welt zu werden“.

Das Dokument wurde vom Projektteam für Künstliche Intelligenz der Liberaldemokratischen Partei erstellt, das im Januar 2023 gegründet wurde, um Japans KI-Strategie zu untersuchen und politische Empfehlungen abzugeben.

Die Empfehlungen des Papiers zielen darauf ab, Japans Wettbewerbsfähigkeit durch den Einsatz von KI zu stärken und gleichzeitig die sichere Anwendung dieser Technologien zu gewährleisten.

Die wichtigsten Empfehlungen des Dokuments lauten:

Öffentlich-private Partnerschaften: Förderung der Zusammenarbeit bei der Erhebung, Pflege und Aktualisierung von Daten sowie der Entwicklung und Nutzung von KI in Japans Stärken wie Automobilen, Robotern und Materialentwicklung. Dies sollte auch für Schlüsselbereiche wie Medizin, Finanzen und Landwirtschaft gelten.

Infrastrukturausbau: Die Regierung sollte den Bau von Rechenzentren und anderer Infrastruktur, die für die Unterstützung der KI-Technologie erforderlich ist, finanziell und politisch unterstützen. Der Bericht betont die Notwendigkeit, die Recheninfrastruktur für die Verarbeitung und Speicherung von Daten im Inland auszubauen, um die sichere Verwaltung kritischer Daten zu gewährleisten und die Verarbeitungszeit zu verkürzen. Die Regierung sollte zudem energieeffizienter Infrastruktur Priorität einräumen und den zukünftigen Energiebedarf berücksichtigen.

Internationale Koordination der KI-Sicherheit: Aufbau eines Netzwerks hochrangiger, staatlich geförderter KI-Sicherheitsinstitute (AISIs) in Japan. Die AISIs sollten Sicherheitsbewertungen und -standards berücksichtigen und Schulungsmaterialien zum angemessenen Einsatz von KI erstellen. Darüber hinaus sollte eine internationale Abstimmung mit anderen Ländern erfolgen, um die KI-Sicherheit zu gewährleisten. Der Koordinierung internationaler Standards bei KI-Technologieprüfungen und Zertifizierungen durch Dritte sollte besondere Aufmerksamkeit gewidmet werden.