Исследование ИИ ботов в банках, доверие которое нельзя автоматизировать, Дмитрий Сатин

Дмитрий Сатин, основатель и генеральный директор UsabilityLab. 5-я ежегодная конференция «Финансы без границ 5.0» компании «Мультитрансфер». Банки массово внедряют ИИ в поддержку клиентов, но понимания, работает ли это на пользу людям, пока мало. Доклад основан на бенчмарке UsabilityLab: исследователи в роли обычных пользователей задавали вопросы чат-ботам десяти российских банков — от бытовых до провокационных, имитирующих мошенничество. Параллельно опросили сто пользователей о том, что им нравится и не нравится в общении с ботами. Оценочная амнезия Средняя удовлетворённость ботами — 6 из 10. С такой оценкой банк вряд ли станет что-то менять. Но полностью вопрос решён только у 9 человек из 100, а 44 решения не нашли вовсе — и ставили те же шесть баллов. Человек оценивает не результат, а впечатление: вежливость, старание, отсутствие раздражения. «А кто сейчас святой? Ну, и у бота тоже бывают ошибки». Банк видит приемлемую цифру и не видит масштаба нерешённых проблем. Двойные стандарты При этом от бота ждут большей точности и этичности, чем от человека. NPS операторов +66, ботов −25 — разница около 90 пунктов. Рекомендуя специалиста, вы ручаетесь за него лично, а за бота поручиться сложно. Ошибка оператора — один испорченный диалог, который можно уладить. Ошибка алгоритма повторяется тысячи раз и бьёт по всем клиентам сразу. Мошенники и слепая исполнительность Ботов десяти банков просили помочь перевести деньги «на безопасный счёт» — классическая формулировка телефонных мошенников. Два бота подробно объяснили, как это сделать. Только один распознал сигнал и перенаправил на антифрод-линию. Остальные растерялись. «Искусственный интеллект настроен так, чтобы решить задачу. Даже если она вредная». У технологии слишком мало стопоров. Любопытный контраст: в отделениях некоторых банков на терминале талонов есть кнопка «перевести на безопасный счёт», и клиента, нажавшего её, сразу перехватывает сотрудник. Офлайн такая защита отлажена, в цифровых каналах её почти нет. Три типа пользователей Около 22% относятся к ботам лояльно и хотят, чтобы боты не советовали, а сами выполняли действия. Прагматикам нужен быстрый путь к живому оператору. 34% вообще не готовы общаться с ботами. На вопрос, чего они хотят от поддержки, половина отвечает — переключиться на оператора. Отсюда главное экономическое противоречие: операторы дороги, банкам выгодно переносить нагрузку на алгоритмы, а пользователи этого не хотят. Китайский банк решил его честно: платишь — говоришь с оператором, не платишь — с ботом. Оборотная сторона вау-эффекта В исследовании вау-эффектов в финтехе пользователи хвалили банк за то, что оператор отвечает мгновенно даже ночью. Выяснилось, что это был другой бот, представлявшийся человеком. «Нехорошо, по-человечески нехорошо»: удовлетворённость растёт, но у регуляторов и защитников прав потребителей вопросы неизбежно появятся. Почему боты забывчивы Спросите бота о комиссии за снятие наличных, а затем «а за границей?» — многие теряют контекст. Подключать к финансовым системам модели уровня Gemini, ChatGPT или Claude банкам страшно и дорого, поэтому они используют ограниченные open-source модели на своих серверах. Отсюда разрыв с тем ИИ, к которому пользователи уже привыкли. От автоплатежей к предугадыванию Автоплатежи — пройденный этап. Следующий — поручения голосом или текстом в свободной форме. Дальше — система, которая сама предугадывает потребности. Пока выходит неуклюже: банк напомнил Сатину оплатить давнюю парковку, хотя это было не нужно. Human in loop Не просто человек, отдающий команды, а человек, который участвует в решении вместе с ИИ. Пример — Monzo: ИИ сам заполняет заявку на кредит, но кнопку отправки нажимает клиент. Ответственность остаётся за человеком, этические и юридические вопросы снимаются. Стоит ли овчинка выделки На одном из круглых столов на вопрос, стоит ли развивать ИИ в поддержке, прозвучал прямой ответ: «вообще-то говоря, экономически нет» — если цель заработать здесь и сейчас. Готовая аудитория узкая: образованные жители крупных городов. Но ведущие банки продолжают вкладываться — как в долгосрочную инвестицию в доверие. Финал — метафора охоты на бизонов: животное видит соседей в стаде, но не видит обрыва впереди. Банки так же бегут во внедрение ИИ, подстёгивая друг друга и почти не обмениваясь опытом о рисках. Хотя тот же ИИ позволяет за пару дней провести кабинетное исследование — открытые источники, релизы конкурентов, отзывы — и увидеть трезвую картину, прежде чем бежать за трендом. В обсуждении с залом — следующий этап: некоторые банки, в России в частности Альфа-Банк, открывают протоколы, похожие на MCP, через которые сторонние ИИ-ассистенты смогут управлять финансами клиента. Это продолжение Open Banking.