LLM под атакой: учебный кейс | Innostage

Александр Лебедев, старший разработчик систем ИИ в Innostage, рассказал, как в университете учили LLM ломать. Учебный курс и хакатон по практической безопасности ИИ: — какие модели угроз применялись; — какие фреймворки использовали для редтиминга и защиты; — какие стратегии атак и защиты использовали команды.