В беседе с Агентством городских новостей«Москва»Веденеева пояснила, что опасность возникает, если банки и фонды используют модели, обученные на сходных данных, и одинаково реагируют на один сигнал. В такой ситуации рыночный шок, по её словам, может усиливаться лавинообразно. Веденеева отметила, что ИИ способен снижать риски и издержки на уровне отдельной организации, однако одновременно повышать уязвимость всей финансовой системы. К дополнительным проблемам она отнесла непрозрачность решений, концентрацию технологий у нескольких поставщиков и ответственность за ошибки алгоритмов. Для снижения этих рисков Веденеева считает необходимыми разные модели, стресс-тестирование ИИ-систем и обязательный человеческий контроль при критических решениях. Ранее бизнес-эксперт Олег Строкатыйрассказал, что сотрудникам важно критически оценивать готовые ответы искусственного интеллекта, поскольку уверенная подача модели может снижать желание дополнительно проверять её рекомендации.