2026-07-08. OTUS. OWASP: Top 10 для LLM-приложений - карта угроз, которую должен знать каждый

На открытом уроке рассмотрим: - Какие угрозы входят в актуальный OWASP Top 10 for LLM Applications и почему этот стандарт важен для AI-проектов; - Как проявляются ключевые риски LLM-приложений на практике: prompt injection, утечка чувствительной информации, уязвимости в supply chain, poisoning-атаки; - Почему запуск LLM-решений без специальных защитных мер создает серьезные риски для безопасности; - Как проводить threat modeling LLM-приложения с опорой на OWASP-фреймворк и на что обращать внимание в первую очередь; - Почему RAG, fine-tuning и другие популярные подходы не устраняют корневую проблему prompt injection. После занятия вы будете знать: - Какие 10 ключевых угроз необходимо учитывать при разработке и внедрении LLM-приложений; - Как использовать OWASP Top 10 for LLM Applications для анализа рисков в AI-системах; - Как выявлять слабые места в архитектуре LLM-приложения еще до вывода решения в продакшн; - Почему стандартные архитектурные подходы не заменяют полноценные меры защиты; - Какие вопросы по безопасности нужно задавать себе при проектировании AI-продукта. Преподаватель: Сергей Терешин - руководитель направления комплексной безопасности Связаться с автором канала TG -﹥ @mglazman