Desafios de Cibersegurança nas Aplicações de IA para Condução Autónoma

Um relatório publicado pela Agência da União Europeia para a Cibersegurança (ENISA) e pelo Centro Comum de Investigação (JRC) analisa os riscos de cibersegurança associados à inteligência artificial (IA) em veículos autónomos e propõe recomendações para mitigá-los.

Ao eliminar o principal fator de acidentes — o erro humano — os veículos autónomos prometem reduzir significativamente os acidentes rodoviários e as mortes. No entanto, também introduzem riscos diferentes para condutores, passageiros e peões.

Os veículos autónomos utilizam sistemas de IA que recorrem ao machine learning para recolher, analisar e transmitir dados, tomando decisões que antes competiam a humanos. Como todos os sistemas de TI, também estão vulneráveis a ciberataques que podem comprometer o seu funcionamento seguro.

“O facto de um veículo autónomo inseguro atravessar as fronteiras da UE multiplica as suas vulnerabilidades. A segurança não deve ser pensada depois, mas sim ser uma condição prévia”, afirmou Juhan Lepassaar, diretor executivo da ENISA.

Stephen Quest, diretor-geral do JRC, acrescentou: “A legislação europeia deve assegurar que os benefícios da condução autónoma não sejam anulados pelos riscos de segurança. O nosso relatório visa apoiar a tomada de decisões na UE com base num melhor conhecimento dos riscos cibernéticos ligados à IA.”

Vulnerabilidades da IA em veículos autónomos

Os sistemas de IA funcionam continuamente, reconhecendo sinais de trânsito, marcações, veículos, velocidades e traçando rotas. Além de falhas acidentais, também estão sujeitos a ataques deliberados que visam perturbar as funções críticas de segurança.

Exemplos incluem pintar linhas falsas na estrada ou colar autocolantes em sinais de paragem, levando a classificações erradas por parte da IA e a comportamentos perigosos.

Recomendações para aumentar a segurança da IA

– Avaliações regulares de segurança durante todo o ciclo de vida dos componentes de IA.
– Processos contínuos de avaliação de riscos com base em inteligência de ameaças.
– Política de segurança de IA e cultura de segurança implementadas em toda a cadeia de fornecimento automóvel.
– Adoção do princípio “security by design” e melhor capacidade de resposta a incidentes de cibersegurança.