Хватит объяснять «черные ящики» в машинном обучении для принятия ответственных решений — использу...

💻 Аннотация: Прекратите объяснять модели машинного обучения типа «черный ящик» для принятия важных решений и используйте вместо этого интерпретируемые модели. Широкое распространение машинного обучения привело к серьезным социальным последствиям использования моделей типа «черный ящик» для принятия важных решений, включая ошибочные решения о залоге и условно-досрочном освобождении в системе уголовного правосудия. Объяснения моделей типа «черный ящик» ненадежны и могут вводить в заблуждение. Если мы будем использовать интерпретируемые модели... 🔊 Биография докладчика: Синтия Рудин — профессор компьютерных наук, электротехники и вычислительной техники, а также статистических наук, Университет Дьюка Синтия Рудин — профессор компьютерных наук, электротехники и вычислительной техники, а также статистических наук в Университете Дьюка. Ранее профессор Рудин занимала должности в Массачусетском технологическом институте, Колумбийском университете и Нью-Йоркском университете. Она получила образование в Университете Буффало и Принстонском университете. Она трижды становилась лауреатом премии INFORMS за инновационные приложения в аналитике, была включена в список «40 лучших молодых специалистов до 40 лет» по версии Poets and Quants в 2015 году, а также была названа Businessinsider.com одним из 12 самых выдающихся профессоров Массачусетского технологического института в 2015 году. Она работала в комитетах INFORMS, Национальных академий, Американской статистической ассоциации, DARPA, NIJ и AAAI. Она является членом Американской статистической ассоциации и Института математической статистики. Если вам понравилась эта лекция, посетите наш сайт https://mlopsworld.com/ и присоединяйтесь к нашей следующей встрече! 💼 Хотите получать по электронной почте краткие обзоры этих лекций? Подпишитесь на нашу бесплатную рассылку здесь: http://bit.ly/MLOps_Summaries 📧 Временные метки: 0:00 Вступление 0:11 Представляем ведущую 0:29 Представляем Синтию Рудин 1:54 Что происходит при использовании модели «черного ящика»? 2:47 Что еще может произойти с вами в результате использования модели «черного ящика»? 4:45 Пример из более экстремальной ситуации 4:55 Предотвращение повреждения головного мозга у тяжелобольных пациентов 6:16 2HELPS2B 8:08 Модели линейных целых чисел с калибровкой по риску (Risk-SLIM) 10:50 Так должны работать интерпретируемые модели. Но разве они не теряют точность? 11:20 Compas против Corels 13:55 Разрыв между интерпретируемыми моделями и экспертным объяснением «черных ящиков». 17:02 Что сделала ProPublica 18:36 Взгляд изнутри COMPAS 25:23 Интерпретируемая глубокая нейронная сеть 26:38 Основной вывод 30:40 Преимущества CW перед BatchNorm ❓ Раздел вопросов и ответов ❓ 31:58 Насколько интерпретируемость, как вы её определили, позволяет осуществлять истинное обнаружение знаний? 32:55 Если вы используете интерпретируемую модель, но включаете сотни/тысячи признаков, её становится трудно объяснить заинтересованным сторонам. Есть ли у вас какие-либо рекомендации, которые помогут это объяснить? 34:23 Есть ли у вас какие-либо соображения по поводу этих вступающих в силу правил? Основаны ли они на реальности приложений машинного обучения? И правильно ли они подходят к этому вопросу? 36:37 Можете ли вы порекомендовать какие-либо ресурсы с открытым исходным кодом для создания интерпретируемых моделей, особенно неконтролируемых интерпретируемых моделей? 37:51 Итак, какова текущая тенденция в отношении этих интерпретирующих моделей для неструктурированных данных, таких как текст? 40:03 Как вы справляетесь с ошибками модели? 41:23 Действительно ли это должно стать своего рода предвестником конца для моделей типа «черный ящик»? 43:39 Можно ли использовать одну модель для обнаружения ошибок в прогнозировании? 44:35 Каковы варианты использования объяснимости в этих системах матричной факторизации для рекомендаций в рекомендательных системах? Видели ли вы подобные работы? 45:41 Поскольку этим древовидным моделям необходимо расти для повышения точности, существует ли риск того, что по мере их роста они становятся менее интерпретируемыми? 48:05 Заключительные замечания