Llama 3.1: разбор статьи. Часть 2. Architecture & Scaling laws.

Разбираем статью "The Llama 3 Herd of Models" (2024) со слушателями нашей AI-школы. Предыдущее видео: 1. Intro & Data mix: https://youtu.be/YoRsqImynUE Таймкоды: 00:00 Приветствие 03:54 3.2 Model Architecture 42:35 3.2.1 Scaling Laws Все видео плейлиста: 1. Intro & Data mix: https://youtu.be/YoRsqImynUE 2. Model Architecture & Scaling laws: https://youtu.be/fR8flHXcvLs 3. Pre-training: https://youtu.be/1Ut-3-Ost0w 4. Reward modeling & Supervised Fine-tuning: https://youtu.be/4aUYhAgW5h4 5. DPO: https://youtu.be/2_RDSMu61YQ 6. Post-training data: https://youtu.be/RLAiyZP-Fvw Плейлист с разбором Llama 3.1: https://www.youtube.com/playlist?list=PL6-BrcpR2C5QXuCaev_DJ_o9lqYkAxSmo Список моих открытых курсов по AI на YouTube: Предварительная регистрация в следующий поток AI-школы: https://razinkov.ai/school