Semana 3 · IA Agêntica e LLMs
Build a Large Language Model (From Scratch)
por Sebastian Raschka
Nível: IntermediárioPráticoLeitura densasem edição em PT
Fontes
- Vídeo📚 Meet the Author: Sebastian Raschka — Build a Large Language Model (From Scratch) (abre em nova aba) — Manning Publications, 26 de jun. de 2025conferido em 19 de out. de 2026
- PaperVaswani et al. — Attention Is All You Need (arXiv) (abre em nova aba)conferido em 18 de out. de 2026
- PaperRadford et al. — Language Models are Unsupervised Multitask Learners (GPT-2) (abre em nova aba)conferido em 18 de out. de 2026
- BlogJay Alammar — The Illustrated Transformer (abre em nova aba)conferido em 18 de out. de 2026
- BlogAndrej Karpathy — The Unreasonable Effectiveness of Recurrent Neural Networks (abre em nova aba)conferido em 18 de out. de 2026
✔ = link aberto e conferido em . Links não são de afiliado.
Leia junto AI Engineering · Hands-On Large Language Models · Prompt Engineering for LLMs · LLM Engineer's Handbook
Aparece em Semana 3 · IA Aplicada, Agentes e Avaliação de LLMs · Livros para quem faz MBA/pós em Data Science e IA
Construir um LLM do zero para entender o modelo por dentro. Pede Python e alguma familiaridade com PyTorch.
Implementa tokenização, atenção, a arquitetura do GPT, o pré-treino e o ajuste fino, com código no GitHub. Comparado ao Hands-On LLMs, é mais profundo e mais trabalhoso.
Sebastian Raschka apresenta o livro na série "Meet the Author", da Manning.