Dando um passo significativo na abordagem da intersecção da inteligência artificial (IA) e da cibersegurança, a Agência de Cibersegurança e Segurança de Infra-estruturas (CISA) do Departamento de Segurança Interna dos EUA (DHS) e o Centro Nacional de Cibersegurança (NCSC) do Reino Unido publicaram conjuntamente Directrizes para o Desenvolvimento Seguro de Sistemas de IA para ajudar os criadores de quaisquer sistemas que utilizem IA a tomar decisões informadas sobre cibersegurança em todas as fases do processo de desenvolvimento.
As directrizes foram formuladas em cooperação com 21 outras agências e ministérios de todo o mundo – incluindo todos os membros do Grupo das 7 principais economias industriais – e são as primeiras do seu género a serem acordadas a nível mundial.
“Estamos num ponto de inflexão no desenvolvimento da inteligência artificial, que pode muito bem ser a tecnologia mais consequente do nosso tempo. A cibersegurança é fundamental para a criação de sistemas de IA que sejam seguros e fiáveis”, afirmou o Secretário de Segurança Interna, Alejandro N. Mayorkas.
“As diretrizes emitidas em conjunto pela CISA, NCSC e nossos outros parceiros internacionais fornecem um caminho sensato para projetar, desenvolver, implantar e operar IA com segurança cibernética em seu núcleo. Ao integrar princípios de “segurança desde a conceção”, estas directrizes representam um acordo histórico em que os criadores devem investir, protegendo os clientes em cada etapa da conceção e desenvolvimento de um sistema. Através de acções globais como estas directrizes, podemos liderar o mundo no aproveitamento dos benefícios e na abordagem dos potenciais danos desta tecnologia pioneira.”
As diretrizes fornecem recomendações essenciais para o desenvolvimento de sistemas de IA e enfatizam a importância de aderir aos princípios Secure by Design que a CISA há muito defende.
“O lançamento das Diretrizes para o desenvolvimento seguro de sistemas de IA é um marco importante em nosso compromisso colectivo – por governos de todo o mundo – para garantir o desenvolvimento e a implantação de recursos de inteligência artificial que são seguros por design “, disse Jen Easterly, diretora da CISA.
“À medida que as nações e organizações abraçam o poder transformador da IA, essa colaboração internacional, liderada pela CISA e pelo NCSC, ressalta a dedicação global para promover a transparência, a responsabilidade e as práticas seguras. A unidade nacional e internacional no avanço dos princípios de segurança por design e no cultivo de uma base resiliente para o desenvolvimento seguro de sistemas de IA em todo o mundo não poderia vir em um momento mais importante em nossa revolução tecnológica compartilhada. Este esforço conjunto reafirma a nossa missão de proteger as infraestruturas críticas e reforça a importância da parceria internacional para garantir o nosso futuro digital.”
As directrizes estão divididas em quatro áreas-chave dentro do ciclo de vida de desenvolvimento do sistema de IA: concepção segura, desenvolvimento seguro, implementação segura e operação e manutenção seguras. Cada seção destaca considerações e mitigações que ajudarão a reduzir o risco de segurança cibernética para um processo de desenvolvimento de sistema de IA organizacional.
“Sabemos que a IA está a desenvolver-se a um ritmo fenomenal e é necessária uma ação internacional concertada, entre governos e indústria, para a acompanhar”, afirmou Lindy Cameron, CEO do NCSC.
“Estas Directrizes marcam um passo significativo na formação de um entendimento verdadeiramente global e comum dos riscos cibernéticos e das estratégias de mitigação em torno da IA para garantir que a segurança não seja um pós-escrito do desenvolvimento, mas um requisito fundamental em todo o processo. Estou orgulhoso por o NCSC estar a liderar esforços cruciais para elevar a fasquia da cibersegurança da IA: um ciberespaço global mais seguro ajudar-nos-á a todos a concretizar com segurança e confiança as maravilhosas oportunidades desta tecnologia.”
“Acredito que o Reino Unido é um porta-estandarte internacional no uso seguro da IA”, disse a Secretária de Estado da Ciência, Inovação e Tecnologia do Reino Unido, Michelle Donelan. “A publicação destas novas directrizes pelo NCSC colocará a cibersegurança no centro do desenvolvimento da IA em todas as fases, de modo a que a proteção contra os riscos seja tida em conta em todo o processo.”
Essas directrizes são o mais recente esforço em todo o corpo de trabalho dos EUA para apoiar o desenvolvimento e a implantação de tecnologia de IA segura e protegida.
Em outubro, o presidente Biden emitiu uma ordem executiva que instruiu o DHS a promover a adopção de padrões de segurança de IA globalmente, proteger as redes e infraestrutura crítica dos EUA, reduzir os riscos de que a IA possa ser usada para criar armas de destruição em massa, combater o roubo de propriedade intelectual relacionado à IA e ajudar os Estados Unidos a atrair e reter talentos qualificados, entre outras missões.
No início deste mês, a CISA divulgou o seu Roteiro para a Inteligência Artificial, um plano de toda a agência alinhado com a estratégia nacional para abordar os nossos esforços no sentido de promover as utilizações benéficas da IA para melhorar as capacidades de cibersegurança, garantir que os sistemas de IA estão protegidos contra ameaças cibernéticas e impedir a utilização maliciosa das capacidades de IA para ameaçar as infra-estruturas críticas em que os americanos confiam todos os dias. Saiba mais sobre o trabalho de IA da CISA.
