ENGENHARIA DE INTELIGÊNCIA ARTIFICIAL (IA) – CRIAR A SUA PRÓPRIA IA DE PONTA A PONTA

Objetivos da formação

• Dominar os conceitos avançados da IA moderna (LLM, modelos fundacionais, agentes, RAG).
• Construir aplicações baseadas em IA com modelos fundacionais.
• Avaliar os modelos produzidos com diferentes metodologias comprovadas (perplexidade, modelos juízes, avaliação comparativa).
• Utilizar abordagens alternativas como RAG e agentes inteligentes.
• Implementar melhorias (latência, contexto, monitorização e observabilidade, orquestração de pipelines).

Duração da formação

Programa da formação

Dia 1 – Manhã

Introdução

• Definir a IA.
• Fundamentos e história da IA.
• Os mercados da IA.
• Avanços recentes na produção de modelos de IA.
• Novos casos práticos de utilização da IA.
• Novas profissões da IA.
• Engenheiro de IA: novo papel e novas competências.
• Engenharia de Inteligência Artificial: dos LLM aos modelos fundacionais e ecossistemas de IA.
• Engenharia de datasets.
• As três camadas da stack de IA.
• Planeamento de aplicações de IA: principais etapas.
• IA closed source vs IA open source: comparação de vantagens e desvantagens.

Exemplos de exercícios práticos

• Demonstração da construção de uma aplicação de IA baseada em LLM a partir de um caso prático.

Dia 1 – Tarde

Modelos fundacionais

• O que é um modelo fundacional: exemplos.
• Processo de criação de um modelo fundacional.
• Dados de aprendizagem.
• Modelização.
• Alternativas de treino: tratamento, enriquecimento, aumento e síntese de dados.
• Arquitetura do modelo.
• Tamanho do modelo.
• Treino from scratch.
• Transfer learning.
• Mixture of experts.
• Fine-tuning.
• Otimização de LLM.

Exemplos de exercícios práticos 

• Aplicação prática do processo de criação de um modelo fundacional através de um exemplo.

Dia 2 – Manhã

Avaliação de modelos fundacionais

• Desafios da avaliação de modelos.
• Métricas de avaliação de modelos.
• Avaliação exata.
• Modelos juízes.
• Critérios de avaliação (capacidade específica do domínio, custo, latência, etc.).
• Conceção do pipeline de avaliação de modelos.
• Classificação de modelos com avaliação comparativa.
• Estratégias: Test time compute.
• Saídas estruturadas.
• Fully sharded data parallel – quantized LoRA.
• Entropy, Cross entropy.
• Bits por carácter, bits por byte.
• Functional correctness.
• Medições de similaridade.
• Codificação vetorial.
• Definição.
• Vantagens e limitações.

Exemplos de exercícios práticos 

• Implementação de um pipeline de avaliação de modelos e seleção do melhor modelo.

Dia 2 – Tarde

Engenharia de prompts

• Introdução ao prompting.
• Aprendizagem em contexto.
• System prompt vs user prompt.
• Comprimento e eficácia do contexto.
• Boas práticas de prompting.
• Engenharia de prompts defensiva.

Exemplos de exercícios práticos 

• Exercício de prompting.
• Exercício de engenharia de prompts defensiva.

Dia 3 – Manhã

RAG e agentes

• Exploração de conhecimento externo com RAG.
• Frameworks RAG.
• RAG vs fine-tuning vs prompting.
• Engenharia inversa.
• Injeção de prompt.
• Ataques de prompt.
• Bases de dados vetoriais para RAG.
• Agentes inteligentes.
• Padronizar ecossistemas de IA com o protocolo MCP (Model Context Protocol).
• Importância da memória.

Exemplos de exercícios práticos 

• Implementação de uma arquitetura de IA composável com o protocolo MCP.

Dia 3 – Tarde

Ajuste e otimização de modelos

• Fine-tuning de modelos: vantagens e desvantagens.
• Evitar estrangulamentos de memória.
• Otimização da inferência e do serving.
• Otimização e planeamento de ferramentas.
• Gestão de modos de falha.
• Avaliação.
• Retropropagação e parâmetros treináveis.
• Representações numéricas.
• Métricas de desempenho da inferência.
• Otimização do modelo vs otimização da inferência.
• Otimização da arquitetura.
• Monitorização e observabilidade.
• Orquestração de pipelines de IA.
• Recolha de feedback dos utilizadores.
• Aumentar o contexto.
• Adicionar um router / gateway.
• Adicionar cache.
• Adicionar padrões de agentes.

Exemplos de exercícios práticos 

• Otimização da inferência e do serving a partir de exemplos.

Nota: O conteúdo deste programa pode ser adaptado em função dos níveis, pré-requisitos e necessidades dos participantes.

Formador

Facilitador que combina know-how com experiência empresarial e competências pedagógicas, para dar resposta a necessidades operacionais e potenciar a aprendizagem.