Pular para o conteúdo

Trilha de estudo

Trilha Fine-Tuning de LLMs & RAG: tudo o que estudar, tópico por tópico

Avaliacao abrangente cobrindo fundamentos de modelos de linguagem de grande escala, tecnicas de fine-tuning (LoRA, QLoRA, PEFT), arquitetura de geracao aumentada por recuperacao, bancos de dados vetoriais, embeddings, engenharia de prompts, metricas de avaliacao, otimizacao de inferencia, implantacao, guardrails, frameworks de agentes e modelos multimodais.

Resposta curta

Para aprender Fine-Tuning de LLMs & RAG, percorra 6 módulos e 22 tópicos na ordem em que um apoia o próximo. Comece por Fundamentos de LLMs e siga para Tecnicas de Fine-Tuning e Arquitetura RAG. Use o mapa como checklist, ou meça seu nível e estude só o que falta.

6
módulos
22
tópicos
45
min para avaliar

O que você vai estudar

Os tópicos estão agrupados por módulo. Abra um para ver os objetivos e os conceitos-chave.

1 · Fundamentos de LLMs4 tópicos
  • Arquitetura Transformer

    Estrutura encoder-decoder, camadas de auto-atencao, redes feed-forward, codificacao posicional, normalizacao de camada, conexoes residuais e modelos decoder-only

    Objetivos

    • Explicar os componentes centrais da arquitetura transformer
    • Compreender a diferenca entre modelos encoder-only, decoder-only e encoder-decoder

    Conceitos-chave

    • encoder-decoder
    • auto-atencao
    • rede feed-forward
    • codificacao posicional
    • normalizacao de camada
    • conexoes residuais
    • modelos decoder-only
    • mascaramento causal
  • Tokenizacao

    BPE, SentencePiece, WordPiece, treinamento de tokenizador, trade-offs de tamanho de vocabulario, tokens especiais, segmentacao de subpalavras e tokenizacao multilingual

    Objetivos

    • Comparar diferentes algoritmos de tokenizacao e seus trade-offs
    • Compreender como o tamanho do vocabulario afeta desempenho e eficiencia do modelo

    Conceitos-chave

    • byte-pair encoding (BPE)
    • SentencePiece
    • WordPiece
    • tamanho do vocabulario
    • segmentacao de subpalavras
    • tokens especiais
    • treinamento de tokenizador
    • tokenizacao multilingual
  • Mecanismos de Atencao

    Atencao escalonada de produto escalar, atencao multi-cabeca, projecoes chave-query-valor, flash attention, atencao agrupada por query, atencao de janela deslizante e cache KV

    Objetivos

    • Explicar atencao escalonada de produto escalar e atencao multi-cabeca
    • Compreender otimizacoes modernas de atencao como flash attention e GQA

    Conceitos-chave

    • atencao escalonada de produto escalar
    • atencao multi-cabeca
    • chave-query-valor
    • flash attention
    • atencao agrupada por query (GQA)
    • atencao de janela deslizante
    • cache KV
    • mascaramento de atencao
  • Engenharia de Prompts

    Zero-shot, few-shot, cadeia de pensamento, prompts de sistema, templates de prompt, interacao com instruction tuning, prompting de saida estruturada e defesa contra injecao de prompt

    Objetivos

    • Projetar prompts eficazes para diferentes tarefas
    • Aplicar tecnicas de cadeia de pensamento e few-shot para melhorar a qualidade da saida do LLM

    Conceitos-chave

    • prompting zero-shot
    • prompting few-shot
    • cadeia de pensamento (CoT)
    • prompts de sistema
    • templates de prompt
    • saida estruturada
    • defesa contra injecao de prompt
    • temperatura e amostragem
2 · Tecnicas de Fine-Tuning4 tópicos
  • Fine-Tuning Completo

    Fine-tuning de modelo ponta a ponta, agendamento de taxa de aprendizado, acumulo de gradiente, esquecimento catastrofico, treinamento de precisao mista, DeepSpeed e FSDP

    Objetivos

    • Explicar o processo de fine-tuning completo e seus requisitos de recursos
    • Identificar quando fine-tuning completo e apropriado versus metodos eficientes em parametros

    Conceitos-chave

    • fine-tuning de parametros completos
    • agendamento de taxa de aprendizado
    • acumulo de gradiente
    • esquecimento catastrofico
    • precisao mista (fp16/bf16)
    • DeepSpeed
    • FSDP
    • curvas de perda de treinamento
  • LoRA & QLoRA

    Adaptacao de baixo rank, selecao de rank, escala alpha, modulos-alvo, LoRA quantizado, NormalFloat de 4 bits, quantizacao dupla e fusao de adaptadores

    Objetivos

    • Explicar como LoRA reduz parametros treinaveis atraves de decomposicao de baixo rank
    • Configurar QLoRA para fine-tuning eficiente em memoria em hardware de consumo

    Conceitos-chave

    • adaptacao de baixo rank (LoRA)
    • parametro de rank (r)
    • escala alpha
    • modulos-alvo
    • QLoRA
    • NormalFloat de 4 bits (NF4)
    • quantizacao dupla
    • fusao de adaptadores
  • Tecnicas PEFT

    Prefix tuning, prompt tuning, adaptadores, IA3, DoRA, uso da biblioteca PEFT, comparacao de metodos eficientes em parametros e PEFT multi-tarefa

    Objetivos

    • Comparar diferentes metodos de fine-tuning eficientes em parametros e seus trade-offs
    • Selecionar a tecnica PEFT apropriada para um caso de uso e restricao de recursos

    Conceitos-chave

    • prefix tuning
    • prompt tuning (prompts suaves)
    • camadas adaptadoras
    • IA3
    • DoRA
    • biblioteca PEFT
    • comparacao de metodos
    • PEFT multi-tarefa
  • Preparacao & Curadoria de Datasets

    Formatacao de instrucoes, filtragem de qualidade de dados, deduplicacao, geracao de dados sinteticos, aumento de dados, divisao treino/validacao, trade-offs de tamanho de dataset e melhores praticas de anotacao

    Objetivos

    • Projetar um pipeline de curadoria de dados para datasets de fine-tuning
    • Aplicar tecnicas de filtragem de qualidade e deduplicacao para melhorar dados de treinamento

    Conceitos-chave

    • formatacao instrucao-resposta
    • filtragem de qualidade de dados
    • deduplicacao
    • geracao de dados sinteticos
    • aumento de dados
    • divisao treino/validacao
    • trade-offs de tamanho de dataset
    • diretrizes de anotacao
3 · Arquitetura RAG5 tópicos
  • Fundamentos de RAG

    Pipeline de geracao aumentada por recuperacao, indexacao, recuperacao, geracao, gerenciamento de janela de contexto, ancoragem, reducao de alucinacao e RAG ingenuo

    Objetivos

    • Descrever o pipeline RAG de ponta a ponta e suas tres fases principais
    • Explicar como RAG reduz alucinacoes ao ancorar respostas em documentos recuperados

    Conceitos-chave

    • pipeline RAG
    • fase de indexacao
    • fase de recuperacao
    • fase de geracao
    • gerenciamento de janela de contexto
    • ancoragem
    • reducao de alucinacao
    • arquitetura RAG ingenua
  • Estrategias de Chunking

    Chunking de tamanho fixo, divisao recursiva por caracteres, chunking semantico, chunking ciente do documento, estrategias de sobreposicao, otimizacao de tamanho de chunk e chunking hierarquico

    Objetivos

    • Comparar diferentes estrategias de chunking e seu impacto na qualidade da recuperacao
    • Selecionar tamanhos de chunk e sobreposicao apropriados para diferentes tipos de documento

    Conceitos-chave

    • chunking de tamanho fixo
    • divisao recursiva por caracteres
    • chunking semantico
    • chunking ciente do documento
    • sobreposicao de chunks
    • otimizacao de tamanho de chunk
    • chunking hierarquico
    • chunks pai-filho
  • Embeddings

    Modelos de embedding de texto, sentence transformers, dimensoes de embedding, similaridade cosseno, fine-tuning de embeddings, benchmarks de embedding (MTEB) e busca hibrida

    Objetivos

    • Explicar como embeddings de texto representam significado semantico em espaco vetorial
    • Comparar modelos de embedding e avalia-los usando benchmarks como MTEB

    Conceitos-chave

    • modelos de embedding de texto
    • sentence transformers
    • dimensoes de embedding
    • similaridade cosseno
    • fine-tuning de embeddings
    • benchmark MTEB
    • recuperacao densa vs esparsa
    • busca hibrida
  • Bancos de Dados Vetoriais

    Pinecone, Weaviate, ChromaDB, pgvector, FAISS, Milvus, algoritmos de indexacao (HNSW, IVF), filtragem e escalabilidade

    Objetivos

    • Comparar solucoes de bancos de dados vetoriais e seus trade-offs
    • Compreender algoritmos de vizinhos mais proximos aproximados como HNSW

    Conceitos-chave

    • Pinecone
    • Weaviate
    • ChromaDB
    • pgvector
    • algoritmo HNSW
    • indexacao IVF
    • filtragem por metadados
    • padroes de escalabilidade
  • Estrategias de Recuperacao

    Busca semantica, busca por palavras-chave, recuperacao hibrida, re-ranking, recuperacao multi-query, compressao contextual, auto-consulta e recuperacao multi-hop

    Objetivos

    • Projetar pipelines de recuperacao hibrida combinando busca semantica e por palavras-chave
    • Aplicar re-ranking e compressao contextual para melhorar a precisao da recuperacao

    Conceitos-chave

    • busca semantica
    • busca por palavras-chave BM25
    • recuperacao hibrida
    • re-ranking (cross-encoder)
    • recuperacao multi-query
    • compressao contextual
    • recuperador de auto-consulta
    • recuperacao multi-hop
4 · Avaliacao & Otimizacao4 tópicos
  • Metricas de Avaliacao

    BLEU, ROUGE, BERTScore, avaliacao humana, LLM como juiz, avaliacao de RAG (relevancia de contexto, fidelidade, relevancia de resposta) e testes A/B

    Objetivos

    • Selecionar metricas de avaliacao apropriadas para diferentes tarefas de LLM
    • Projetar frameworks de avaliacao combinando metricas automatizadas e julgamento humano

    Conceitos-chave

    • pontuacao BLEU
    • pontuacao ROUGE
    • BERTScore
    • avaliacao humana
    • LLM como juiz
    • metricas da triade RAG
    • fidelidade
    • testes A/B
  • Quantizacao

    Quantizacao pos-treinamento (PTQ), treinamento ciente de quantizacao (QAT), GPTQ, AWQ, GGUF, INT8/INT4, calibracao e trade-offs de acuracia-desempenho

    Objetivos

    • Comparar metodos de quantizacao e seu impacto na qualidade do modelo
    • Aplicar tecnicas de quantizacao apropriadas para cenarios de implantacao

    Conceitos-chave

    • quantizacao pos-treinamento (PTQ)
    • treinamento ciente de quantizacao (QAT)
    • GPTQ
    • AWQ
    • formato GGUF
    • quantizacao INT8/INT4
    • datasets de calibracao
    • trade-offs de acuracia-desempenho
  • Destilacao de Conhecimento

    Treinamento professor-aluno, correspondencia de logits, destilacao de features, destilacao especifica de tarefa, destilacao de dados e funcoes de perda de destilacao

    Objetivos

    • Projetar um pipeline de destilacao de conhecimento de um professor grande para um aluno menor
    • Explicar os trade-offs entre abordagens de destilacao para diferentes restricoes de implantacao

    Conceitos-chave

    • framework professor-aluno
    • correspondencia de logits
    • destilacao de features
    • destilacao especifica de tarefa
    • destilacao de dados
    • escala de temperatura
    • perda de destilacao (divergencia KL)
    • destilacao progressiva
  • Otimizacao de Custos

    Otimizacao de uso de tokens, estrategias de cache, roteamento de modelos, processamento em lote, compressao de prompts, selecao escalonada de modelos e analise de TCO

    Objetivos

    • Projetar estrategias de implantacao de LLM eficientes em custo com cache e roteamento de modelos
    • Calcular e otimizar o custo total de propriedade para sistemas baseados em LLM

    Conceitos-chave

    • otimizacao de uso de tokens
    • cache semantico
    • roteamento de modelos
    • processamento em lote
    • compressao de prompts
    • selecao escalonada de modelos
    • custo total de propriedade (TCO)
    • trade-offs latencia-custo
5 · Implantacao & Servico2 tópicos
  • Inferencia & Servico

    vLLM, Text Generation Inference (TGI), batching continuo, PagedAttention, decodificacao especulativa, paralelismo de modelo e padroes de API gateway

    Objetivos

    • Comparar frameworks de servico de inferencia e suas tecnicas de otimizacao
    • Projetar arquiteturas escalaveis de servico de LLM com estrategias de batching apropriadas

    Conceitos-chave

    • vLLM
    • Text Generation Inference (TGI)
    • batching continuo
    • PagedAttention
    • decodificacao especulativa
    • paralelismo tensorial
    • paralelismo de pipeline
    • padroes de API gateway
  • Guardrails & Seguranca

    Filtragem de entrada/saida, moderacao de conteudo, deteccao de PII, defesa contra injecao de prompt, IA constitucional, red teaming e praticas de IA responsavel

    Objetivos

    • Projetar sistemas de guardrail multicamadas para aplicacoes LLM
    • Implementar deteccao de injecao de prompt e pipelines de moderacao de conteudo

    Conceitos-chave

    • filtragem de entrada/saida
    • moderacao de conteudo
    • deteccao e mascaramento de PII
    • defesa contra injecao de prompt
    • IA constitucional
    • red teaming
    • RLHF para seguranca
    • praticas de IA responsavel
6 · Padroes Avancados3 tópicos
  • Frameworks de Agentes

    LangChain, LlamaIndex, chamada de ferramentas, chamada de funcoes, padrao ReAct, agentes de planejamento, gerenciamento de memoria e sistemas multi-agente

    Objetivos

    • Projetar arquiteturas de agentes usando LangChain ou LlamaIndex com chamada de ferramentas
    • Implementar agentes baseados em ReAct com estrategias apropriadas de memoria e planejamento

    Conceitos-chave

    • LangChain
    • LlamaIndex
    • chamada de ferramentas / chamada de funcoes
    • padrao ReAct
    • agentes de planejamento
    • gerenciamento de memoria de agentes
    • sistemas multi-agente
    • avaliacao de agentes
  • Modelos Multimodais

    Modelos visao-linguagem, alinhamento imagem-texto, CLIP, embeddings multimodais, resposta visual a perguntas, compreensao de documentos e RAG multimodal

    Objetivos

    • Explicar como modelos visao-linguagem alinham representacoes visuais e textuais
    • Projetar pipelines de RAG multimodal para tarefas de compreensao de documentos

    Conceitos-chave

    • modelos visao-linguagem
    • arquitetura CLIP
    • alinhamento imagem-texto
    • embeddings multimodais
    • resposta visual a perguntas
    • compreensao de documentos
    • RAG multimodal
    • atencao cross-modal
  • Padroes Avancados de RAG

    Graph RAG, RAG agentico, RAPTOR, self-RAG, RAG corretivo, recuperacao adaptativa, RAG de contexto longo e orquestracao de pipeline RAG

    Objetivos

    • Comparar padroes avancados de RAG e identificar casos de uso apropriados para cada um
    • Projetar arquiteturas sofisticadas de RAG combinando multiplas estrategias de recuperacao e geracao

    Conceitos-chave

    • graph RAG
    • RAG agentico
    • RAPTOR (processamento abstrato recursivo)
    • self-RAG
    • RAG corretivo (CRAG)
    • recuperacao adaptativa
    • RAG de contexto longo
    • orquestracao de pipeline RAG

Níveis: Júnior, Pleno, Sênior e Especialista

Explique com suas palavras

Corrigido por IA · sem cadastro · 1 pergunta

Sem alternativas para chutar: você escreve, a IA corrige com a rubrica do tópico e diz em que nível sua resposta está.

0 / 600

Já estuda Fine-Tuning de LLMs & RAG?

A avaliação mede tópico por tópico, e o plano pula o que você já sabe.

Medir meu nível

Aberto para ler. A conta só é necessária para ser medido.

Perguntas frequentes

Por onde começar a estudar Fine-Tuning de LLMs & RAG?

Comece por Fundamentos de LLMs: Arquitetura Transformer, Tokenizacao e Mecanismos de Atencao. O mapa ordena os tópicos pelo que depende de quê, então cada um prepara o seguinte.

Quanto tempo leva uma avaliação completa de Fine-Tuning de LLMs & RAG?

Uma avaliação completa desta trilha leva cerca de 45 minutos. O tempo de estudo depende de onde você começa; o diagnóstico mostra quais tópicos você pode pular.

Preciso de conta para usar esta página?

Não. O mapa, os objetivos e os conceitos-chave são abertos. A conta só é necessária para ser medido, ver seu gap por tópico e receber um plano.