Trilha Engenheiro de IA/ML: tudo o que estudar, tópico por tópico

Projetar pipelines de coleta de dados, tratar valores ausentes, detectar outliers, normalizar, codificar variáveis categóricas e construir fluxos de pré-processamento reproduzíveis

Criar features informativas a partir de dados brutos, features polinomiais, termos de interação, discretização, target encoding, extração de features de séries temporais e engenharia de features automatizada

Gerenciamento centralizado de features com Feast, Tecton ou SageMaker Feature Store, stores online vs offline, consistência de features e correção temporal (point-in-time)

Versionamento de datasets e artefatos de ML com DVC, LakeFS ou Delta Lake, experimentos reproduzíveis, rastreamento de linhagem de dados e backends de armazenamento

Aumento de imagens, aumento de textos, SMOTE para dados desbalanceados, GANs para dados sintéticos, geração baseada em difusão e avaliação da qualidade de dados sintéticos

Classificação, regressão, agrupamento, redução de dimensionalidade, seleção de modelos, validação cruzada, trade-off viés-variância e métodos de ensemble

Redes neurais convolucionais, arquiteturas recorrentes, mecanismos de atenção, arquitetura transformer e seleção de arquitetura para diferentes modalidades

Adaptação de modelos pré-treinados, extração de features vs estratégias de fine-tuning, adaptação de domínio, agendamento de taxa de aprendizado e prevenção de esquecimento catastrófico

Grid search, random search, otimização bayesiana, Optuna, early stopping, buscadores de taxa de aprendizado e estratégias de otimização multi-fidelidade

Registro de experimentos com MLflow e Weights & Biases, rastreamento de métricas, gerenciamento de artefatos, registro de modelos, comparação de experimentos e fluxos de trabalho colaborativos de ML

Integrar APIs de LLM da OpenAI, Anthropic e de código aberto, tratar limites de taxa, respostas em streaming, tratamento de erros, gerenciamento de tokens e abstração de provedores

Projeto de prompts para produção, modelos de prompts, controle de versão para prompts, testes sistemáticos de prompts, otimização de prompts e testes A/B de prompts em escala

Padrões de geração aumentada por recuperação, seleção de bancos de dados vetoriais, estratégias de chunking, busca híbrida, pipelines de reranking e avaliação de qualidade de RAG

Fine-tuning completo vs métodos eficientes em parâmetros (LoRA, QLoRA, prefix tuning), preparação de datasets para fine-tuning, avaliação e implantação de modelos ajustados

Modelos de visão-linguagem, sistemas de áudio-texto, embeddings cross-modal, RAG multimodal e construção de sistemas que raciocinam entre modalidades

Implantar modelos com TorchServe, Triton Inference Server e vLLM, estratégias de agrupamento em lote, otimização de modelos e projeto de infraestrutura de disponibilização

Detectar drift de dados, drift de conceito e degradação de desempenho de modelos, testes estatísticos para drift, painéis de monitoramento e gatilhos automáticos de retreinamento

Projetar experimentos com modelos, implantações canário, testes em modo shadow, significância estatística para comparação de modelos e bandidos multi-braço

Integração contínua para código e dados de ML, testes automatizados de modelos, automação de implantação, estratégias de rollback e padrões de CI/CD específicos para ML

Quantização de modelos, poda, destilação, estratégias de cache, seleção de instâncias GPU, instâncias spot e otimização de custos de inferência

Conteinerizar cargas de trabalho de treinamento de ML com Docker, Kubernetes para ML, imagens personalizadas de treinamento, agendamento de GPU e ambientes de treinamento reproduzíveis

Otimização de memória GPU, treinamento multi-GPU, configuração de TPU, treinamento com precisão mista e utilização eficiente de hardware

Paralelismo de dados, paralelismo de modelo, paralelismo de pipeline, DeepSpeed, FSDP, backends de comunicação e escalar treinamento entre nós

Orquestrar computação de features com Airflow, Prefect ou Dagster, agendamento, gerenciamento de dependências e garantias de atualização de features

Projetar plataformas internas de ML, infraestrutura de ML de autoatendimento, APIs de plataforma, multi-tenancy, governança e equilíbrio entre flexibilidade e padronização

Identificar viés nos dados de treinamento e nas previsões de modelos, métricas de equidade, técnicas de debiasing em pré-processamento, durante o processamento e pós-processamento

Explicações locais e globais de modelos, valores SHAP, LIME, visualização de atenção, importância de features e comunicação de decisões de modelos para partes interessadas

Validação de entrada e saída, filtragem de conteúdo, classificadores de segurança, detecção de alucinações, frameworks de barreiras de proteção e padrões de projeto à prova de falhas

Categorias de risco do EU AI Act, requisitos de documentação, avaliações de conformidade, model cards, data sheets e construção de sistemas de IA prontos para conformidade

Testes adversariais sistemáticos de sistemas de IA, taxonomias de ataques, testes de jailbreak, red-teaming automatizado e construção de camadas robustas de defesa

Construir e operar plataformas de ML usando Kubeflow, Vertex AI ou SageMaker para treinamento e disponibilização escaláveis

Implementar governança de modelos: model cards, fluxos de aprovação, classificação de riscos, trilhas de auditoria e conformidade regulatória

Escalar treinamento de modelos de ML com paralelismo de dados, paralelismo de modelo, paralelismo de pipeline e salvamento de pontos de controle de gradientes

Otimizar custos de infraestrutura de ML: treinamento com instâncias spot, quantização, poda, destilação de conhecimento e eficiência de disponibilização

Ajuste fino de modelos fundacionais usando LoRA, QLoRA, ajuste por instruções e RLHF para aplicações específicas de domínio