СПбГУ -- 2025.12.11 -- Проблемы LLM и их решения

Это лекция из курса "Глубокое обучение", который читается на Факультете математики и компьютерных наук СПбГУ осенью 2025 года. Все материалы этой и других лекций курса (слайды, доска, ноутбуки с кодом) размещены по адресу: https://www.sergeynikolenko.ru/courses/mlspsu2024-3 Подписывайтесь на мой телеграм-канал "Sineкура": Разделы: 00:00 RLHF и его особенности 18:54 Дообучение LLM с учителем, LoRA 36:20 Расширение длины контекста 46:17 Линейные трансформеры 59:55 Needle in a haystack, обучение языку по книге 01:08:35 RAG, R[e]aLM и графы знаний в LLM