СПбГУ -- 2026.09.25 -- Линейная регрессия

Это лекция из курса "Основы байесовского вывода", который читается на Факультете математики и компьютерных наук СПбГУ осенью 2026 года. Все материалы этой и других лекций курса (слайды, доска, ноутбуки с кодом) размещены по адресу: https://www.sergeynikolenko.ru/courses/spsu2026-bayes Подписывайтесь на мой телеграм-канал "Sineкура": Разделы: 0:00 Линейная регрессия: метод наименьших квадратов и признаки 3:18 Переобучение на примере полиномиальной регрессии 9:32 Почему нельзя просто уменьшить степень многочлена 15:31 Большие коэффициенты как признак переобучения 20:24 Регуляризация и априорные предположения 24:48 Интерполяция и экстраполяция 27:55 L2-регуляризация: сила штрафа и гладкость модели 31:50 LASSO и разреженные коэффициенты 35:25 Геометрический смысл L1- и L2-регуляризации 43:05 Вероятностный смысл регуляризации 50:32 Как регуляризаторы соответствуют априорным распределениям 52:00 Матричная форма и регуляризация Тихонова 54:24 Сопряжённое гауссовское семейство для весов 58:57 Плотность многомерного гауссиана и апостериорные параметры 1:11:37 Предсказательное распределение: постановка следующей задачи 1:14:00 Предсказание как усреднение по апостериорному распределению 1:17:50 Байесовское обучение точка за точкой: графики и пространство весов 1:27:20 Как данные уменьшают неопределённость предсказаний