A Comissão Europeia propôs este mês novas regras e acções destinadas a transformar a Europa no polo mundial da inteligência artificial fiável. A conjunção do primeiro quadro jurídico em matéria de inteligência artificial e de um novo Plano Coordenado com os Estados-Membros garantirá a segurança e defesa dos direitos fundamentais das pessoas e empresas, reforçando o investimento, inovação e utilização da inteligência artificial, em toda a UE. As novas regras aplicáveis às máquinas complementarão esta abordagem, adaptando as regras de segurança, a fim de aumentar a confiança dos utilizadores na nova e versátil geração de produtos.
Segundo a CE, o novo regulamento relativo à inteligência artificial permitirá aos europeus confiar no que a inteligência artificial tem para oferecer. Estas regras, abordarão os riscos específicos colocados pelos sistemas de inteligência artificial e estabelecerão os mais elevados padrões a nível mundial.
O Plano Coordenado descreve as mudanças políticas e o investimento necessários a nível dos Estados-Membros para reforçar a posição de liderança da Europa no desenvolvimento de uma inteligência artificial centrada no ser humano, sustentável, segura, inclusiva e fiável.
A abordagem europeia para uma inteligência artificial fiável
As novas regras serão aplicadas directamente e da mesma forma em todos os Estados-Membros, com base numa definição de inteligência artificial orientada para o futuro. As regras seguem uma abordagem baseada no risco:
Risco inaceitável: os sistemas de inteligência artificial considerados uma clara ameaça à segurança, aos meios de subsistência e aos direitos das pessoas serão proibidos. Tal inclui sistemas ou aplicações de inteligência artificial que manipulam o comportamento humano para iludir o livre arbítrio dos utilizadores (por exemplo, brinquedos para menores com assistência de voz que encorajam comportamentos perigosos) e sistemas que permitem uma «classificação social» por parte dos governos.
Risco elevado: os sistemas de inteligência artificial identificados como de risco elevado incluem a tecnologia de inteligência artificial utilizada em:
- Infra-estruturas críticas (por exemplo, transportes) que possa pôr em risco a vida e a saúde dos cidadãos;
- Educação ou formação profissional que possa determinar o acesso à educação e a evolução profissional de uma pessoa (por exemplo, classificação de exames);
- Componentes de segurança de produtos (por exemplo, utilização de inteligência artificial em cirurgia assistida por robôs);
- Emprego, gestão de trabalhadores e acesso ao trabalho por conta própria (por exemplo, utilização de software de análise de CV em procedimentos de recrutamento);
- Serviços públicos e privados essenciais (por exemplo, pontuação de crédito que impeça a obtenção de empréstimos);
- Aplicação coerciva da lei que possa interferir com os direitos fundamentais das pessoas (por exemplo, avaliação da fiabilidade de provas);
- Gestão da migração, do asilo e do controlo das fronteiras (por exemplo, verificação da autenticidade de documentos de viagem);
- Administração da justiça e processos democráticos (por exemplo, aplicação da lei a um conjunto específico de factos).
Os sistemas de inteligência artificial de risco elevado terão de cumprir obrigações rigorosas antes de poderem ser colocados no mercado:
- Sistemas adequados de avaliação e atenuação dos riscos;
- Elevada qualidade dos conjuntos de dados que alimentam o sistema, a fim de minimizar os riscos e os resultados discriminatórios;
- Registo da actividade para assegurar a rastreabilidade dos resultados;
- Documentação pormenorizada que forneça todas as informações necessárias sobre o sistema e o seu objectivo, para que as autoridades possam avaliar a sua conformidade;
- Informações claras e adequadas para o utilizador;
- Medidas de supervisão humana adequada, para minimizar os riscos;
- Elevado nível de solidez, segurança e exatidão.
Em especial, “todos os sistemas de identificação biométrica à distância são considerados de risco elevado e sujeitos a requisitos rigorosos“. A sua “utilização em tempo real em espaços acessíveis ao público para fins policiais é, em princípio, proibida“. As poucas exceções são estritamente definidas e regulamentadas (tais como quando estritamente necessário para procurar uma criança desaparecida, para prevenir uma ameaça terrorista específica e iminente ou para detectar, localizar, identificar ou julgar um autor ou suspeito de uma infração penal grave). Essa utilização está sujeita à autorização de um órgão judicial ou de outro organismo independente e a limites adequados em termos de prazos, alcance geográfico e bases de dados pesquisadas.
Risco limitado, ou seja, sistemas de inteligência artificial com obrigações de transparência específicas: Ao utilizarem sistemas de inteligência artificial como robôs de conversação, os utilizadores devem estar cientes de que estão a interagir com uma máquina, para poderem tomar a decisão informada de prosseguir ou não.
Risco mínimo: a proposta legislativa permite a livre utilização de aplicações como jogos de vídeo ou filtros de spam baseados em inteligência artificial. A grande maioria dos sistemas de inteligência artificial insere-se nesta categoria. O projecto de regulamento não intervém nestes casos, uma vez que estes sistemas de inteligência artificial representam apenas um risco mínimo ou nulo para os direitos ou para a segurança dos cidadãos.
Em termos de governação, a Comissão propõe que as autoridades nacionais competentes de fiscalização do mercado supervisionem o cumprimento das novas regras, cuja aplicação será facilitada pela criação de um Comité Europeu para a Inteligência Artificial, que também impulsionará o desenvolvimento de normas para a inteligência artificial.
Além disso, são propostos códigos de conduta voluntários para a inteligência artificial de risco não elevado, bem como ambientes de testagem da regulamentação, para promover a inovação responsável.
A abordagem europeia para a excelência no domínio da inteligência artificial
A coordenação reforçará a posição de liderança da Europa em termos de inteligência artificial centrada no ser humano, sustentável, segura, inclusiva e fiável. Para se manter competitiva a nível mundial, a Comissão está empenhada em promover a inovação no desenvolvimento e utilização de tecnologias de inteligência artificial em todos os sectores, em todos os Estados-Membros.
Publicado pela primeira vez em 2018 para definir acções e instrumentos de financiamento para o desenvolvimento e a adopção da inteligência artificial, o Plano Coordenado para a inteligência artificial tornou possível um panorama dinâmico de estratégias nacionais e de financiamento da UE para parcerias público-privadas e redes de investigação e inovação.
A actualização abrangente do Plano Coordenado propõe acções conjuntas específicas de colaboração, para assegurar que todos os esforços estão em consonância com a Estratégia Europeia para a inteligência artificial e o Pacto Ecológico Europeu, tendo simultaneamente em conta os novos desafios decorrentes da pandemia de COVID-19.
Apresenta uma visão para acelerar os investimentos na inteligência artificial, o que pode beneficiar a recuperação. Visa igualmente incentivar a execução de estratégias nacionais para a inteligência artificial, eliminar a fragmentação e enfrentar os desafios globais.
O Plano Coordenado atualizado utilizará o financiamento atribuído através dos programas Europa Digital e Horizonte Europa, bem como do Mecanismo de Recuperação e Resiliência, que prevê uma meta de 20 % de despesas digitais, e de programas da política de coesão para:
- Criar condições propícias ao desenvolvimento e à adopção da inteligência artificial através do intercâmbio de pontos de vista políticos, da partilha de dados e do investimento em capacidades de computação críticas;
- Promover a excelência da inteligência artificial «do laboratório ao mercado», criando uma parceria público-privada, desenvolvendo e mobilizando capacidades de investigação, desenvolvimento e inovação e disponibilizando instalações de teste e experimentação, bem como polos de inovação digital, às PME e às administrações públicas;
- Assegurar que a inteligência artificial está ao serviço das pessoas e é uma fonte de bem-estar na sociedade, estando na vanguarda do desenvolvimento e da implantação de uma inteligência artificial fiável, cultivando talentos e competências através do apoio a formações, redes de doutoramento e bolsas de pós-doutoramento no domínio digital, integrando a confiança nas políticas de inteligência artificial e promovendo a visão europeia de uma inteligência artificial sustentável e fiável a nível mundial;
- Desenvolver uma liderança estratégica em sectores e tecnologias de elevado impacto (incluindo o ambiente, a saúde, o sector público, a mobilidade, a administração interna, a agricultura e a robótica), centrando-se no contributo da inteligência artificial para a produção sustentável e incrementando o intercâmbio transfronteiras de informações.
A abordagem europeia à nova geração de máquinas
A definição de «máquina» abrange uma vasta gama de produtos de uso pessoal e profissional, desde robôs a máquinas de cortar relva, impressoras 3D, equipamentos de construção e linhas de produção industrial. A Directiva Máquinas, substituída pelo novo Regulamento Máquinas, definiu requisitos de saúde e segurança para estes produtos.
Este novo Regulamento Máquinas assegurará que a nova geração de máquinas garante a segurança dos utilizadores e consumidores e incentiva a inovação. Enquanto o Regulamento Inteligência Artificial abordará os riscos de segurança dos sistemas de inteligência artificial, o novo Regulamento Máquinas assegurará a integração segura de um sistema de inteligência artificial em toda a máquina. As empresas apenas terão de realizar uma única avaliação da conformidade.
Além disso, o novo Regulamento Máquinas dará resposta às necessidades do mercado, proporcionando maior clareza jurídica relativamente às disposições actuais, simplificando os encargos administrativos e os custos para as empresas, possibilitando a disponibilização da documentação em formatos digitais e adaptando as taxas de avaliação da conformidade para as PME, assegurando simultaneamente a coerência com o quadro normativo da UE para os produtos.
Próximas etapas
O Parlamento Europeu e os Estados-Membros terão de adoptar, no âmbito do processo legislativo ordinário, as propostas da Comissão relativas a uma abordagem europeia à inteligência artificial e às máquinas. Uma vez adoptados, os regulamentos serão diretamente aplicáveis em toda a UE. Paralelamente, a Comissão continuará a colaborar com os Estados-Membros na execução das ações anunciadas no Plano Coordenado.
Se gosta desta notícia, subscreva gratuitamente a newsletter da Security Magazine.
pub
