Многие компании, в том числе финансовые организации, сегодня активно используют искусственный интеллект (ИИ) в своей работе. Однако в некоторых случаях это может привести к серьезным негативным последствиям, о которых предупредил доктор экономических наук Института экономики РАН Дмитрий Кочергин в статье «Основные направления использования искусственного интеллекта в финансовой сфере».
Как банки используют ИИ
Сегодня ИИ играет важную роль в работе банковского сектора. Как подчеркнул экономист, еще в 2024 году более 70% финансовых организаций применяли искусственный интеллект в различных сферах:
- платежи;
- кредитный анализ;
- страхование;
- управление активами.
Нейросети способны повысить эффективность работы благодаря минимизации расходов, в том числе на персонал, следованию законодательству, предотвращению мошенничества и повышения качества обслуживания клиентов.
Мировые банки могут получить от 200 до 340 млрд долларов (или от 2,8% до 4,7%) прибыли за счет внедрения искусственного интеллекта в свою работу, привел расчеты Глобального института McKinsey Кочергин.
Также ИИ может усовершенствовать следующие направления банковской деятельности:
- автоматизация бизнес-процессов и оптимизация ресурсов;
- решение сложных задач посредством анализа больших объемов данных;
- замещение в трудоемких процессах людей;
- стимулирование инноваций.
Угрозы использования ИИ в финансах
Однако существуют и негативные последствия применения искусственного интеллекта в банковской сфере, предупредил исследователь РАН.
- Кибератаки. Использование искусственного интеллекта повышает риски мошеннических схем с использованием рассылок с вредоносными кодами. Эти фишинговые ссылки передают злоумышленникам доступ к устройству жертвы.
- Атаки с отравлением данных. Это приводит к тому, что мошенники получают возможность вносить изменения в информационные массивы банков, на базе которых происходит обучение больших языковых моделей. Так меняется и поведение этой модели.
- Предвзятость и дискриминация. ИИ может принять несправедливое решение в отношении того или иного клиента, что подорвет репутацию самого банка. Этот прецендент сегодня часто проявляется в блокировках операций и счетов добросовестных клиентов при выявлении подозрительных признаков, а также в отказе в выдаче кредита при оценке платежеспособности потенциального заемщика.
- Потеря конфиденциальности. Приватное пользование при работе с ИИ также остается под вопросом.
- Юридические риски. Искусственный интеллект повышает вероятность таких негативных последствий из-за отсутствия объяснимости моделей и склонности к «галлюцинациям».
- Повышенная зависимость. Использование ИИ в работе предполагает высокую зависимость от компаний, которые разработали искусственные модели. Если у них случится сбой или кибератака, то проблема коснется всех пользователей.
- Риск нарушения финансовой стабильности. Так как финансовые компании используют идентичные модели ИИ, то их поведение будет схожим, что может спровоцировать массовые распродажи или покупки активов. А это уже является манипулированием рынком, что запрещено на законодательном уровне.
Как банкам использовать ИИ
Ранее председатель правления ПАО «НБД-Банк» Александр Шаронов, отвечая на вопросы главного редактора Bankiros.ru Екатерины Титовой на пресс-конференции в Нижнем Новгороде, также высказался о влиянии искусственного интеллекта на работу банков.
По словам банкира, данная технология вызывает опасения потому, что до конца не изучена. При этом использовать ИИ в общении с клиентами – «не очень уважительно».
Поэтому банкам не стоит доверять ИИ коммуникации и принятие решений.
Но можно внедрять искусственный интеллект в другие сферы, добавил Шаронов. Например, в рекламу.
Видео с конференции вы можете посмотреть тут.