Perspectiva de IA, junio de 2024

1. El Consejo de la UE aprueba la Ley de IA de la UE

2. Resultados de la Cumbre de IA de Seúl

3. La Ley de Vehículos Autónomos del Reino Unido entra en vigor oficialmente

4. La Comisión Europea adopta el primer tratado internacional sobre IA

5. El Senado de California aprueba la Ley de Transparencia de la IA de California y la Ley de Innovación en Seguridad del Modelo Fronterizo de IA

6. El partido gobernante de Japón publica el segundo libro blanco sobre IA

El Consejo de la UE aprueba la Ley de IA de la UE

El 21 de mayo, el Consejo de la UE aprobó el proyecto de ley insignia, la Ley de IA de la UE.

Tras su firma por el presidente del Parlamento Europeo y el Consejo, la Ley de IA de la UE se publicará en el Boletín Oficial de la UE en los próximos días y entrará en vigor veinte días después de su publicación.

Cabe recordar que algunas disposiciones de la Ley de IA de la UE entrarán en vigor seis meses después de su publicación. En particular, los proveedores e implementadores de sistemas de IA deben garantizar que sus empleados y otras personas involucradas en la operación y el uso de sistemas de IA tengan suficientes conocimientos de IA. Las disposiciones que prohíben la IA también entrarán en vigor seis meses después.

Haga clic aquí para obtener más información y contáctenos si desea hablar sobre el proyecto de ley. Participamos activamente en las consultas sobre el proyecto de ley.

Resultados de la Cumbre de IA de Seúl, 21 y 22 de mayo de 2024

Los días 21 y 22 de mayo, Corea del Sur y el Reino Unido organizaron conjuntamente la Cumbre de IA de Seúl como seguimiento de la primera Cumbre de Seguridad de la IA, que se celebrará en Bletchley Park a finales de 2023. En la cumbre, los países líderes en el campo de la IA debatieron diversos temas, como la regulación y la innovación en IA de vanguardia. La IA de vanguardia se define como modelos o sistemas de IA general de alto rendimiento que pueden realizar diversas tareas y tienen capacidades que igualan o superan a los modelos de vanguardia. Se considera que ofrecen grandes oportunidades y riesgos sistémicos.

Los resultados de la cumbre incluyen:

Declaración de Seúl sobre la IA: Promover el desarrollo seguro de la IA para abordar los desafíos globales y proteger los derechos humanos, y los países se comprometen a compartir información sobre seguridad de la IA.

Declaración de Intenciones de Seúl: Los líderes mundiales se comprometen a impulsar la ciencia de la seguridad de la IA mediante la cooperación internacional.

Declaración Ministerial de Seúl: Los países participantes se comprometen a promover la seguridad, la innovación y la inclusión de la IA, y a acordar umbrales de riesgo comunes y la cooperación internacional en materia de ciencia de la seguridad de la IA.

Compromiso de Seguridad Fronteriza de la IA: Firmado por 16 empresas de tecnología de IA, se compromete con el desarrollo responsable de la IA, incluyendo marcos de seguridad, pruebas de equipos rojos de amenazas, inversiones en ciberseguridad e informes públicos sobre las capacidades de los modelos. Los firmantes evitarán implementar modelos si los riesgos no pueden mitigarse adecuadamente.

Lea la declaración aquí y el compromiso aquí.

Entrada en vigor oficialmente la Ley de Vehículos Autónomos del Reino Unido

El 20 de mayo entró en vigor oficialmente la Ley de Vehículos Autónomos del Reino Unido (AV Act), sentando las bases para la popularización de los vehículos autónomos en las carreteras del Reino Unido en 2026. La ley proporciona un marco legal claro para conductores y desarrolladores, eliminando un obstáculo clave para la popularización de los vehículos autónomos en el Reino Unido. Se espera que para 2035, la Ley atraiga más inversión, promueva el desarrollo de la industria de vehículos autónomos y cree 38.000 empleos.

Cabe destacar que la Ley establece un nuevo sistema de autorización y licencias para vehículos autónomos. Los vehículos autónomos solo pueden ser autorizados si superan el examen de conducción autónoma. Por ejemplo, no se autorizarán los vehículos autónomos que ofrecen asistencia a la conducción "manos libres, ojos activos". Los fabricantes autorizados deben garantizar el cumplimiento continuo e informar de las actualizaciones o modificaciones importantes a las autoridades competentes.

La cuestión de la responsabilidad por accidentes causados por vehículos autónomos ha sido objeto de atención pública. El proyecto de ley aclara que, cuando un vehículo autónomo está en modo autónomo, el conductor no es responsable de su forma de conducir. Como se aclaró por primera vez en la Ley de Vehículos Autónomos y Eléctricos de 2018, esta responsabilidad recaerá en las compañías de seguros, los desarrolladores de software y los fabricantes de automóviles.

Haga clic aquí para leer el proyecto de ley.

La Comisión Europea adopta el primer tratado internacional sobre inteligencia artificial

El 17 de mayo, la Comisión Europea adoptó el primer tratado internacional sobre inteligencia artificial (el «Convenio»). El Convenio establece un marco jurídico que abarca todo el ciclo de vida de los sistemas de inteligencia artificial y tiene como objetivo garantizar el respeto de los derechos humanos, el Estado de derecho y la democracia durante su uso.

El Convenio:

Adopta un enfoque basado en el riesgo para la gestión del ciclo de vida de los sistemas de inteligencia artificial y se aplica tanto al sector público como al privado, centrándose en la innovación responsable y abordando los posibles impactos negativos.

Desarrolla requisitos de transparencia y supervisión específicos para cada contexto, incluyendo medidas para identificar el contenido generado por IA y garantizar la rendición de cuentas por los impactos adversos.

Exige a las partes que adopten medidas para garantizar que las instituciones y los procesos democráticos no se vean socavados por el uso de sistemas de inteligencia artificial, incluyendo el principio de separación de poderes, el respeto a la independencia judicial y el acceso a la justicia.

El Convenio abarca el uso de sistemas de inteligencia artificial tanto en el sector público como en el privado. Las partes de la convención pueden optar por someterse directamente a las disposiciones pertinentes de la convención o adoptar otras medidas para cumplir con las disposiciones del tratado, respetando plenamente sus obligaciones internacionales en materia de derechos humanos, democracia y Estado de derecho.

La convención estará abierta a la firma en Vilna (Lituania) el 5 de septiembre de 2024.

Lea el texto completo aquí.

El Senado de California aprueba la Ley de Transparencia de la IA de California y la Ley de Innovación en Seguridad de Modelos de IA Fronteriza.

El 21 de mayo, el Senado de California aprobó dos importantes leyes relacionadas con la IA:

La Ley de Transparencia de la IA de California busca proteger a los consumidores permitiéndoles determinar si cierto contenido es generado por IA. El proyecto de ley exige a los grandes proveedores de sistemas de IA generativa que etiqueten el contenido generado por IA e incorporen información de divulgación imperceptible (pero detectable por máquinas) en el contenido, y que proporcionen herramientas de detección de IA que permitan a los usuarios consultar si el contenido fue creado por un sistema de IA generativa.

La Ley de Innovación en Seguridad de Modelos de IA Fronteriza busca regular el desarrollo y el uso de modelos avanzados de IA. El proyecto de ley exige a los desarrolladores que tomen ciertas decisiones de seguridad antes de entrenar modelos de IA, cumplan con diversos requisitos de seguridad y reporten incidentes relacionados con la IA. El proyecto de ley también establece la División de Modelos Fronterizos en el Ministerio de Ciencia y Tecnología para supervisar estos modelos de IA.

Ambos proyectos de ley se encuentran actualmente en trámite en el Parlamento. De ser aprobados, se presentarán al Gobernador General para su firma.

Lea el texto completo de los proyectos de ley aquí y aquí.

El partido gobernante de Japón publica el "Libro Blanco de la IA" para "convertirse en el país más favorable a la IA del mundo".

El 21 de mayo, el Partido Liberal Democrático de Japón publicó su segundo "Libro Blanco de la IA", en el que propone la estrategia de Japón para "convertirse en el país más favorable a la IA del mundo".

El documento fue elaborado por el Equipo del Proyecto de Inteligencia Artificial del Partido Liberal Democrático, creado en enero de 2023 para estudiar la estrategia de IA de Japón y brindar recomendaciones políticas.

Las recomendaciones del documento buscan mejorar la competitividad de Japón mediante el uso de la IA, garantizando al mismo tiempo la aplicación segura de estas tecnologías.

Las principales recomendaciones del documento incluyen:

Colaboración público-privada: Fomentar la cooperación en la recopilación, el mantenimiento y la actualización de datos, así como en el desarrollo y la utilización de la IA en áreas de especialización de Japón, como la automoción, la robótica y el desarrollo de materiales. Esto también debería aplicarse a áreas clave como la medicina, las finanzas y la agricultura.

Construcción de infraestructura: El gobierno debería proporcionar apoyo financiero y político para garantizar la construcción de centros de datos y otras infraestructuras necesarias para respaldar la tecnología de IA. El informe enfatiza la necesidad de desarrollar infraestructura informática para el procesamiento y almacenamiento de datos a nivel nacional, con el fin de garantizar la gestión segura de datos críticos y reducir el tiempo de procesamiento. El gobierno también debería priorizar la infraestructura energéticamente eficiente y considerar las futuras necesidades energéticas.

Coordinación internacional de la seguridad de la IA: Establecer una red de Institutos de Seguridad de la IA (IASI) de alto nivel con apoyo gubernamental en Japón. Los AISI deberían considerar las evaluaciones y estándares de seguridad y producir materiales educativos sobre el uso adecuado de la IA. Además, se debería llevar a cabo una coordinación internacional con otros países para garantizar la seguridad de la IA, y se debería prestar la debida atención a la coordinación de estándares internacionales en las auditorías de tecnología de IA y la certificación de terceros.