Доступ отозвали. Почему RAG всё ещё может раскрыть документ?

Доступ к документу отозвали, но корпоративный ИИ-помощник всё ещё может раскрыть его содержание. Откуда берётся ответ, если поиск уже не должен показывать документ? Разбираем три возможных пути: устаревшие разрешения в поисковом индексе, готовый ответ в кэше и старый диалог, который приложение снова отправляет модели. Показываем, как связать повторную выдачу с актуальными правами и происхождением данных. Персональный кэш не решает задачу сам по себе: права того же пользователя меняются. Версия прав в ключе помогает только при её своевременном обновлении. А при пересборке контекста нужно учитывать не только цитаты, но и сохранённые ответы и пересказы, основанные на закрытых источниках. Это разбор возможной архитектурной ошибки и вариантов защиты, а не утверждение о поведении всех RAG-продуктов. Схема кэша и очистки истории — предлагаемый дизайн на основе принципов авторизации; источники ниже не заявлены как готовая реализация всей схемы. Обычный RAG передаёт найденный текст в контекст модели, а не переобучает её на документе. Уже прочитанные пользователем сведения и сохранённые им копии отозвать невозможно — можно прекратить дальнейшую выдачу через систему. Отдельно задают допустимый срок применения отзыва и реакцию на изменение прав во время уже начатой генерации. 00:00 Доступ закрыт, а ответ всё ещё приходит 00:22 Где остаются данные в RAG 00:43 Поисковый индекс и устаревшие права 01:05 Готовый ответ в кэше 01:25 Источники, версия прав и инвалидирование 01:47 Старый диалог и сохранённые пересказы 02:09 Серверная проверка и срок отзыва 02:32 Что можно отозвать, а что уже нельзя Это одиннадцатый выпуск серии «LLM в продакшене: неочевидные проблемы и решения». Первый выпуск — «Почему LLM замирает? Длинные запросы и Chunked Prefill»: https://www.youtube.com/watch?v=gHrF6Kj4KGc Подписывайтесь на АйтиЭкспресс — короткие разборы архитектуры и инженерных решений. Автор — Ксения Погорельских. Источники для тех, кто хочет разобраться глубже: Azure AI Search — контроль доступа к документам и синхронизация разрешений: https://learn.microsoft.com/en-us/azure/search/search-document-level-access-overview Microsoft Architecture Center — изоляция данных и проверка доступа перед передачей контекста модели: https://learn.microsoft.com/en-us/azure/architecture/ai-ml/guide/secure-multitenant-rag OWASP — проверка разрешений на каждом запросе и серверная авторизация: https://cheatsheetseries.owasp.org/cheatsheets/Authorization_Cheat_Sheet.html Голос и видео ведущей — оригинальная запись. Изображение рисующей руки создано с помощью ИИ. #RAG #Архитектура #АйтиЭкспресс