Телеметрия обучений LLM: как автоматика сама экономит нам железо / Иван Мякиньков / Яндекс

В наше время железо — очень дорогой ресурс, который преступно расходовать впустую. Из доклада вы узнаете, с какими проблемами мы столкнулись при контроле потребления ресурсов для обучения LLM и как автоматизация помогла не просто решить эти проблемы, но и получить неожиданные преимущества. Мы поговорим о вызовах, ответах на них и о той ценности, которую они для нас представили.