Alice AI Search: быстрые ответы Алисы на Поиске / Артур Петросян

Алиса на Поиске — один из самых массовых генеративных продуктов Яндекса, а для миллионов пользователей — и первая точка взаимодействия с Алисой. За последнее полугодие мы существенно обновили технологии генеративного ответа на Поиске: от собственной претрейн-модели с encoder-decoder MoE-архитектурой до RLHF-обучения на реальных поведенческих сигналах пользователей. В докладе мы впервые расскажем о том, что работает под капотом знакомого всем ответа на Поиске: какая LLM-архитектура используется, за счёт чего мы ускоряем наши ответы и какой алайнмент мы делаем, чтобы улучшать пользовательский опыт.