Perspetiva da IA, junho de 2024

1. Lei da IA da UE aprovada pelo Conselho da UE

2. Resultados da Cimeira de IA de Seul

3. Lei dos Carros Autónomos do Reino Unido entra oficialmente em vigor

4. Comissão Europeia adota o primeiro tratado internacional sobre IA

5.º Senado da Califórnia aprova a Lei de Transparência da IA da Califórnia e a Lei de Inovação em Segurança do Modelo de IA de Fronteira

6. Partido governamental do Japão divulga segundo livro branco sobre IA

Lei da IA da UE aprovada pelo Conselho da UE

A 21 de maio, o Conselho da UE aprovou o projeto de lei emblemático, a Lei da IA da UE.

Depois de assinada pelo Presidente do Parlamento Europeu e do Conselho, a Lei da IA da UE será publicada no Jornal Oficial da UE nos próximos dias e entrará em vigor vinte dias após a publicação.

Recorde-se que algumas disposições da Lei da IA da UE entrarão em vigor seis meses após a publicação. Em particular, os fornecedores e os implementadores de sistemas de IA devem garantir que os seus colaboradores e outras pessoas envolvidas na operação e utilização de sistemas de IA têm conhecimentos suficientes em IA. As disposições que proíbem a IA também entrarão em vigor seis meses depois.

Clique aqui para obter mais informações e contacte-nos se desejar discutir o projeto de lei. Estamos ativamente envolvidos nas consultas sobre o projeto.

Resultados da Cimeira de IA de Seul, de 21 a 22 de maio de 2024

Nos dias 21 e 22 de maio, a Coreia do Sul e o Reino Unido coorganizaram a Cimeira de IA de Seul, dando continuidade à primeira Cimeira de Segurança de IA, realizada em Bletchley Park no final de 2023. Na cimeira, os principais países da área de IA discutiram uma série de temas, incluindo a regulamentação e a inovação em IA de "fronteira". A IA de "fronteira" é definida como modelos ou sistemas gerais de IA de alto desempenho que podem executar uma variedade de tarefas e possuem capacidades que correspondem ou excedem os modelos de última geração. Considera-se que oferecem tanto grandes oportunidades como riscos sistémicos.

Os resultados da cimeira incluem:

Declaração de IA de Seul: Promover o desenvolvimento seguro da IA para enfrentar os desafios globais e proteger os direitos humanos, e os países comprometem-se a partilhar informações sobre a segurança da IA.

Declaração de Intenções de Seul: Líderes mundiais comprometem-se a promover a ciência da segurança da IA através da cooperação internacional.

Declaração Ministerial de Seul: Os países participantes comprometem-se a promover a segurança, a inovação e a inclusão da IA e concordam com limites de risco comuns e cooperação internacional na ciência da segurança da IA.

Compromisso de Segurança da Frontier AI: Assinado por 16 empresas de tecnologia de IA, este compromisso compromete-se com o desenvolvimento responsável da IA, incluindo estruturas de segurança, testes de equipa vermelha de ameaças, investimentos em cibersegurança e relatórios públicos sobre as capacidades dos modelos. Os signatários evitarão a implementação de modelos se os riscos não puderem ser adequadamente mitigados.

Leia aqui a declaração e o compromisso aqui.

A Lei dos Veículos Autónomos do Reino Unido entra oficialmente em vigor

A 20 de maio, a Lei dos Veículos Autónomos do Reino Unido (AV Act) entrou oficialmente em vigor, lançando as bases para a popularização dos veículos autónomos nas estradas do Reino Unido em 2026. A lei fornece uma estrutura legal clara para condutores e programadores, removendo uma barreira fundamental à popularização de veículos autónomos no Reino Unido. Prevê-se que, até 2035, a Lei atraia mais investimento, promova o desenvolvimento da indústria de veículos autónomos e crie 38.000 postos de trabalho.

De referir que a Lei estabelece um novo sistema de autorização e licenciamento para os veículos autónomos. Os veículos autónomos só podem ser autorizados se forem aprovados no "teste de condução autónoma". Por exemplo, os veículos autónomos que oferecem assistência ao condutor "mãos livres, olhos abertos" não serão autorizados. Os fabricantes autorizados devem garantir a conformidade contínua e comunicar atualizações ou modificações importantes às autoridades competentes.

A questão da responsabilidade por acidentes causados pelos carros autónomos tem sido foco de atenção pública. O projeto de lei esclarece que, quando um carro autónomo está em modo autónomo, o condutor não é responsável pela forma como conduz. Conforme esclarecido pela primeira vez na Lei dos Veículos Autónomos e Elétricos de 2018, esta responsabilidade será assumida pelas seguradoras, programadores de software e fabricantes de automóveis.

Clique aqui para ler o projeto de lei.

Comissão Europeia adota primeiro tratado internacional sobre inteligência artificial

A 17 de maio, a Comissão Europeia adotou o primeiro tratado internacional sobre inteligência artificial (a "Convenção"). A Convenção estabelece um quadro jurídico que abrange todo o ciclo de vida dos sistemas de inteligência artificial e visa garantir o respeito pelos direitos humanos, pelo Estado de direito e pela democracia durante a utilização dos sistemas de inteligência artificial.

A Convenção:

Adota uma abordagem baseada no risco para a gestão do ciclo de vida dos sistemas de inteligência artificial e aplica-se aos setores público e privado, com foco na inovação responsável e na abordagem de potenciais impactos negativos;

Desenvolve requisitos de transparência e supervisão específicos para cada contexto, incluindo medidas para identificar o conteúdo gerado pela IA e garantir a responsabilização por impactos adversos;

Exige que as partes tomem medidas para garantir que as instituições e os processos democráticos não são prejudicados pela utilização de sistemas de inteligência artificial, incluindo o princípio da separação de poderes, o respeito pela independência judicial e o acesso à justiça.

A Convenção abrange a utilização de sistemas de inteligência artificial nos setores público e privado. As partes da convenção podem optar por se ligar diretamente às disposições relevantes da convenção ou tomar outras medidas para cumprir as disposições do tratado, respeitando integralmente as suas obrigações internacionais em matéria de direitos humanos, democracia e Estado de direito.

A convenção estará aberta a assinaturas em Vilnius, na Lituânia, no dia 5 de setembro de 2024.

Leia aqui o texto completo.

Senado da Califórnia aprova a Lei de Transparência da IA da Califórnia e a Lei de Inovação em Segurança de Modelos de IA de Fronteira

A 21 de maio, o Senado da Califórnia aprovou duas importantes leis relacionadas com a IA:

A Lei de Transparência da IA da Califórnia visa proteger os consumidores, permitindo-lhes determinar se determinado conteúdo é gerado por IA. O projeto de lei exige que os grandes fornecedores de sistemas de IA generativa rotulem o conteúdo gerado pela IA e incorporem informações de divulgação impercetíveis (mas detetáveis por máquina) no conteúdo, além de fornecerem ferramentas de deteção de IA que permitam aos utilizadores consultar se o conteúdo foi criado por um sistema de IA generativa.

A Lei de Inovação em Segurança de Modelos de IA de Fronteira visa regulamentar o desenvolvimento e a utilização de modelos avançados de IA. O projeto de lei exige que os programadores tomem certos juízos de segurança antes de treinar modelos de IA, cumpram diversos requisitos de segurança e comuniquem incidentes de segurança de IA. O projeto cria também a Divisão de Modelos de Fronteiras no Ministério da Ciência e Tecnologia para supervisionar estes modelos de IA.

Os dois projetos de lei estão atualmente em análise no Parlamento. Se forem aprovados, serão submetidos à assinatura do Governador-Geral.

Leia o texto completo dos projetos aqui e aqui.

Partido no poder no Japão lança "Livro Branco da IA" para "se tornar o país mais favorável à IA no mundo"

A 21 de maio, o Partido Liberal Democrata do Japão lançou o seu segundo "Livro Branco da IA", propondo a estratégia do Japão para "se tornar o país mais favorável à IA no mundo".

O documento foi produzido pela Equipa do Projeto de Inteligência Artificial do Partido Liberal Democrata, criada em janeiro de 2023 para estudar a estratégia de IA do Japão e fornecer recomendações políticas.

As recomendações feitas no documento visam aumentar a competitividade do Japão através da utilização de IA, garantindo, ao mesmo tempo, a aplicação segura destas tecnologias.

As principais recomendações descritas no documento incluem:

Parceria público-privada: Incentivar a cooperação na recolha, manutenção e atualização de dados, bem como no desenvolvimento e utilização da IA em áreas de destaque do Japão, como o automóvel, a robótica e o desenvolvimento de materiais. Isto também se deve aplicar a áreas-chave como a medicina, as finanças e a agricultura.

Construção de infraestruturas: O governo deve fornecer apoio financeiro e político para garantir a construção de centros de dados e outras infraestruturas necessárias para suportar a tecnologia de IA. O relatório enfatiza a necessidade de desenvolver infraestruturas computacionais para o processamento e armazenamento de dados no país, de forma a garantir a gestão segura de dados críticos e reduzir o tempo de processamento. O governo deve também priorizar as infraestruturas energeticamente eficientes e considerar as necessidades energéticas futuras.

Coordenação internacional da segurança da IA: Estabelecer uma rede de Institutos de Segurança da IA (AISIs) de alto nível com apoio governamental no Japão. Os AISI devem considerar avaliações e normas de segurança e produzir materiais educativos sobre a utilização adequada da IA. Além disso, deve ser realizada uma coordenação internacional com outros países para garantir a segurança da IA, e deve ser dada a devida atenção à coordenação das normas internacionais em auditorias de tecnologia de IA e certificação de terceiros.