Искусственный интеллект в банковском риск-менеджменте — уже реальность. Но он же создает и новые уязвимости: качество и организация всех процессов вокруг модели, а также человеческий фактор, который определяет настройки, сценарии и интерпретацию результатов.
Ошибка модели может стать источником миллиардных убытков, поэтому ИИ используется как интеллектуальный подсказчик, а не как автономный источник окончательных решений.
Тем не менее роль риск-менеджера смещается от «отчетного» исполнителя к архитектору и навигатору для клиента, который опирается на модели, но сохраняет ответственность за комплексную оценку бизнеса.
В сегменте корпоративных клиентов данные фрагментарны и неоднородны, так как нет устойчивых паттернов поведения даже внутри отраслей, поэтому банки осторожны, а регулятор пока придерживается мягкого регулирования.
— Искусственный интеллект в риск-менеджменте — это, скорее, усиление устойчивости или новый источник непредсказуемости, где вы видите главные уязвимости?
— Искусственный интеллект в банковском секторе на сегодняшний день — это уже неизбежность. Вчера мы говорили о том, что риском является сама модель. Но сегодня мы понимаем, что все, что создается вокруг модели — все бизнес-процессы, которые есть в компании, любые факторы, которые влияют на качество данных и на то, какие данные попадают в системы, как они обрабатываются, как они обновляются — все это влияет на качество модели.
В целом это может быть катализатором любого риска. Особенно когда речь идет о каких-то очень масштабных явлениях. Например, скоринговый анализ. Любая ошибка масштабируется до очень высоких пределов, в отличие от того, когда с тобой взаимодействует человек.
Второй фактор — это человек. Он влияет, собственно, на все: и на содержание модели, и на то, какие сценарии модель обрабатывает, и на то, какие компетенции у нас есть здесь и сейчас. Ты в какой-то момент становишься наблюдателем вместо того, что ты быть пилотом.
На сегодняшний день, на мой взгляд, есть два ключевых риска, которые существуют в искусственном интеллекте — сама система вокруг модели и человек, который является тем, кто за это отвечает.
— Как меняется профессия риск-менеджера с приходом искусственного интеллекта? Какие навыки становятся дефицитными?
— Если вчера риск-менеджер в банке — это больше человек про отчетность, которому либо ставят задачи, либо есть требования регулятора, то на сегодняшний день профессия меняется в сторону, когда ты становишься архитектором, начинаешь быть проактивным.
Мы понимаем, мы полностью не можем на сегодняшний день доверить модели абсолютно все выводы. Самое главное, что мы держим в фокусе внимания — это то, что мы можем помочь клиенту экспертизой, быть навигатором, давать ему выбор в принятии решений.
Модели же, которые просто подсказывают тебе или разъясняют какие-то моменты, на мой взгляд, более безопасны. Подсказать клиенту, что меняется что-то в регуляторке, что-то в его бизнесе — это довольно простая история, и она может быть довольно безобидной, но она сильно может облегчить жизнь клиенту.
— В чем специфика применения искусственного интеллекта у банков, работающих прежде всего с бизнесом, где меньше данных и выше цена ошибки?
— Часто компании ведут бизнес на разных юридических лицах, занимаются разными направлениями, про которые ты можешь просто не знать и делать ошибочный вывод. Соответственно, модели помогают это понять.
Но это не про итоговое решение, потому что бизнес — это шире. Если мы сравниваем даже две кофейни, это не означает, что бизнес-процессы построены у всех одинаково. В отношении бизнеса есть еще второй фактор — это масштаб ошибки. Особенно когда речь идет про более крупный бизнес, где цена ошибки иногда превращается в миллиарды возможных убытков.
Здесь мы тоже на сегодняшний день не готовы целиком отдавать решение модели. Это лишь интеллектуальный подсказчик. Поэтому в бизнесе очень важно учитывать накопленный объем знаний, ведь, в отличие от розницы, он тебе никогда не дает одинаковых триггеров.
На сегодняшний день мы понимаем, как себя ведет сейлер на маркетплейсе, как себя ведет клиент в стройке, как себя ведет в HoReCa клиент. Но это всегда разное поведение. Даже внутри этого сегмента нет единого флоу организации, бизнес-процессов, поведения, выбора поставщиков. Даже то, как рассчитывается клиент, всегда выглядит очень по-разному.
Поэтому полагаться целиком на модель мы на сегодняшний день не готовы, потому что мы отвечаем за то, насколько клиент хорошо развивается с нами, насколько банк здесь помогает ему, насколько он не мешает ему. Это те выводы, которые может сделать только человек. И мы продолжаем жить в парадигме, что должен случиться какой-то отложенный эффект, проработаны все риски.
Сейчас регулятор выбрал политику мягкого регулирования. Я думаю, что через три-пять лет мы сможем какие-то другие выводы сделать. И, скорее всего, будет проще говорить о том, что нам удалось выявить какие-то паттерны, которые присущи любому типу, и основываться на них. Но на сегодняшний день мы не пришли к таким выводам.