SEGURANÇA DA IA — ANTECIPAR E DOMINAR OS RISCOS EMERGENTES

Objetivos da formação

• Identificar e categorizar os riscos emergentes da Inteligência Artificial (IA) de propósito geral e definir o conceito de “dilema da prova”
• Avaliar a eficácia e as limitações dos métodos atuais de gestão de riscos
• Estabelecer uma estrutura robusta para IA segura
• Implementar uma estratégia de IA resiliente

Duração da formação

Programa da formação

COMPREENSÃO DO PANORAMA DE RISCOS DA INTELIGÊNCIA ARTIFICIAL DE PROPÓSITO GERAL (GPAI)

Introdução à segurança em IA

• Definição e distinção face à segurança (cibersegurança) e à ética

• Introdução ao conceito de “IA de propósito geral”

O dilema da prova

• Explicação do principal desafio para os decisores: a rápida evolução das capacidades versus o lento surgimento de evidência científica

• Como navegar entre o risco de regulação prematura e o de vulnerabilidade social?

Taxonomia dos riscos emergentes

• Risco de intenção maliciosa: utilização deliberada para causar danos

• Conteúdos gerados por IA e criminalidade: burlas, deepfakes, pornografia infantil
• Influência e manipulação: alteração de opiniões, campanhas de propaganda, dependência psicológica
• Ciberataques: descoberta de vulnerabilidades, geração de código malicioso, automatização de ataques
• Riscos biológicos e químicos: apoio na criação de armas e acesso a conhecimento tácito

• Riscos de falha: funcionamento inesperado e não intencional

• Desafios de fiabilidade: alucinações, falhas de raciocínio, vulnerabilidade de agentes de IA
• Perda de controlo: cenários em que os sistemas operam fora de qualquer controlo (engano, evasão de salvaguardas, “conspiração”)

• Riscos sistémicos: impactos em larga escala na sociedade e na economia

• Impactos no mercado de trabalho: automação de tarefas cognitivas, efeitos no emprego e nos salários, aumento de desigualdades

AVALIAÇÃO DOS MÉTODOS DE GESTÃO DE RISCO E SUAS LIMITAÇÕES

Desafios técnicos e institucionais

• Lacunas científicas: falta de previsibilidade, natureza de “caixa negra”, discrepância entre avaliação pré-implementação e desempenho real (“gap de avaliação”)

• Assimetrias de informação: falta de transparência por parte dos desenvolvedores quanto aos dados de treino e processos internos

• Desafios institucionais: ritmo de desenvolvimento versus ritmo de governação, competição entre empresas, fragmentação geopolítica

Práticas atuais de gestão de risco

• Identificação de riscos: taxonomias, modelação de ameaças, previsão

• Análise e avaliação: benchmarks, red teaming, avaliações de capacidades de risco

• Mitigação de riscos: defesa em profundidade, estratégias de implementação (acesso via API, implementação faseada)

• Governação de risco: estruturas de segurança de IA avançada, compromissos “se-então”, notificação de incidentes, transparência

Limitações das abordagens atuais

• Falta de normalização

• Eficácia incerta das medidas de salvaguarda

• Dificuldade na avaliação de modelos de código aberto

• Incapacidade de antecipar “desconhecidos, desconhecidos”

FORMULAÇÃO E IMPLEMENTAÇÃO DE UMA ESTRATÉGIA DE IA RESILIENTE

Definição de uma estratégia de segurança

• Passagem da análise à ação: elementos-chave

• Monitorização e avaliação: criação de uma unidade de monitorização para acompanhar capacidades do modelo (benchmarks) e incidentes reportados
• Governação interna: definição de limites de tolerância ao risco, atribuição de responsabilidades, criação de um comité de segurança
• Controlos técnicos: implementação de defesa em profundidade (curadoria de dados, filtragem de conteúdos, monitorização da cadeia de raciocínio)
• Gestão de dependências: mapeamento de riscos associados ao uso de modelos proprietários (API) ou de código aberto
• Plano de resiliência: desenvolvimento de um plano de resposta a incidentes

Desafios futuros

• Gestão da incerteza

• Adaptação a novas capacidades (agentes de IA)

• Manutenção do equilíbrio entre inovação e segurança

Formador

Facilitador que combina know-how com experiência empresarial e competências pedagógicas, para dar resposta a necessidades operacionais e potenciar a aprendizagem.