Сегодня часто кажется, что ИИ уже на каждом шагу. На деле же реальный эффект, который можно было бы посчитать, пока видят далеко не все. Почему так происходит
Вложили «почти ярд», наши GPU уже в пути! А что дальше?
Сегодня часто кажется, что ИИ уже на каждом шагу: все компании рассказывают, как внедряют смарт-решения, демонстрируют чат-ботов и «ИИ-агентов» инвесторам и руководству.
На деле же реальный эффект, который можно было бы посчитать, пока видят далеко не все. Почему так происходит и как этого избежать? Разбираем типичные ошибки внедрения искусственного интеллекта.
Нет смысла бросаться покупать железо, пока вы не разобрались, где именно оно будет использоваться
Одна крупная финтех-компания с энтузиазмом ринулась внедрять ИИ и первым делом заказала новое «железо» за сотни миллионов. Казалось бы, зачем тянуть: цикл покупки специфических серверов для больших моделей — многие месяцы. Однако реальная потребность в таких мощностях у компании отсутствовала: ни масштабного обучения, ни нагрузки в сотни одновременных запросов. В итоге дорогостоящее оборудование просто простаивает, а к тому времени, когда оно действительно понадобится, уже скорее всего устареет.
Как избежать напрасных трат? Важно начинать не с покупок, а со стратегии. Сначала нужно четко понять: какие бизнес-процессы вы хотите улучшить с помощью ИИ. Составьте дорожную карту на 2 года: где на ней низко висящие фрукты, где будут длительные проекты, сколько что будет стоить, где какие пре-реквизиты. Где быстрый эффект, где долгий, и, главное, как их посчитать. Какие задачи для этого в приоритете для получения результата и по каким метрикам оценивать успех. Большие «суперподы» с десятками и сотнями GPU нужны как правило для обучения моделей, но часто в реальных проектах вам даже не нужно ничего учить: достаточно взять готовые открытые модели и смежные инструменты, возможно, с незначительной доработкой.
При этом всегда лучше планировать в комплексе и не на месяц вперед: в масштабных бизнесах ИИ применим в очень разных процессах и продуктах, одной модели «to rule them all» не хватит. Реальные проекты требуют платформенного подхода для ИИ: это разные большие и специфичные модели, системы управления данными для их тестирования и (до)обучения, инструменты для оптимизации их запуска, управления доступами, интеграционные решения и сервисы защиты от «дурака» и специфических уязвимостей LLM. Без этого локальные эксперименты не дадут системного эффекта.
ИИ не исправит беспорядок в процессах, он его только раздует
В одной производственной компании решили переложить рутинные закупки на ИИ-агента. Но очень скоро выяснилось: сотрудники работают в пяти разных системах, вручную перекладывают документы из одной в другую и носят бумажки на подпись. При всем желании ни один супермощный ИИ не поможет в таком хаосе: он не исправит бардак в сложившемся в физическом мире процессе, а ручная работа будет продолжаться в том же или даже большем объеме.
Прежде чем подключать ИИ, имеет смысл оптимизировать сами процессы. Например, сократить количество систем — это уже сильно облегчит жизнь отделу закупок. И только после этого вводить RPA (роботизацию): программные «роботы» автоматически проверяют документы в закупках, используя на каждом этапе отдельные специально настроенные ИИ-модули, и сами ведут по маршруту согласования.
По нашему (и не только нашему) опыту, такой симбиоз RPA и ИИ может взять на себя до 80% рутинных шагов в процессе закупок, не только сэкономить время ручного труда, но сократить большую часть естественных человеческих ошибок.
ИИ может оптимизировать и упростить процессы, но не умеет выстраивать их с нуля или распутывать то, что многолетней практикой превратилось в сложный клубок систем и согласований. Описание и оптимизация бизнес-процессов, внедрение прозрачных правил — все это по-прежнему лежит на аналитиках и менеджерах. Без четко прописанных процессов даже самая продвинутая нейросеть зайдет в тупик.
ИИ — не игрушка, агент легко сольет список ваших клиентов случайному адресату по почте. Думайте о безопасности
Отсутствие внимания к информационной безопасности часто приводит к неожиданным последствиям. Например, в широко обсуждаемом случае с авиакомпанией Air Canada чат-бот ввел клиента в заблуждение о тарифах на «билеты до похорон»: модель сообщила пассажиру о скидке, а фактически правило тарифа этого не позволяло. Клиент даже не пытался смошенничать — просто доверился ответу ИИ в чате на сайте компании. Суд признал чат-бот официальным представителем авиакомпании и обязал вернуть клиенту деньги.
Этот эпизод наглядно демонстрирует уязвимости ИИ: модель может «галлюцинировать» недостоверными фактами и утверждениями, выдавать «наружу» чувствительные данные или даже «прогнуться» в своем ответе под специально сформулированный запрос злоумышленника. Поэтому любые ИИ-решения нужно внедрять вместе с ИБ, причем со специалистами, хорошо понимающими специфические уязвимости LLM и мультимодальных моделей. Необходимо заранее прописать регламенты работы с нейросетями: кто и какие данные передает, как модели обучаются и где хранятся логи взаимодействий. Самое сложное — найти баланс между желанием использовать новые технологии и соблюдением установленных (и часто очень консервативных) правил безопасности.
Современные крупные модели уже предлагают все больше средств от злонамеренных запросов, но инсинуации остаются. Например, чтобы «втереть» нейросети, достаточно хитрой формулировки в запросе — писать код или знать нюансы ML не обязательно. Задача компании — не запрещать ИИ (сегодня это уже гарантия стратегического отставания от конкурентов), а осознавать риски и целенаправленно работать с ними.
В больших моделях появляется все больше средств защиты от злонамеренного использования, но угрозы становятся разнообразнее и сложнее. Чтобы склонить нейросеть продать вам новый внедорожник за доллар, даже не нужно уметь писать код или представлять принципы машинного обучения — все решается на уровне естественного языка в промптах. Компаниям важно сохранять баланс: нельзя запретить новые технологии, но при этом необходимо работать над снижением основных рисков и защитой от уязвимостей.
Собственные велосипеды кажутся более быстрыми
Некоторым компаниям кажется, что стоит потратить десятки миллионов на разработку собственной модели, и вот оно — желанное конкурентное преимущество. Например, в течение последних лет несколько корпораций инвестировали в собственные системы распознавания речи.
Смысл и эффективность своих разработок нужно тщательно оценивать. Многие прикладные задачи в корпорациях — типовые, а в оптимизации процессов, при всей их уникальности и индивидуальной сложности, используются очень похожие классы ИИ-решений. Часто, хотя конечно и не в 100% кейсов, гораздо разумнее взять «коробочное» решение и доработать его под себя, чем тратить время и деньги на долгое и дорогостоящее проектирование «с нуля». Это часто обходится на порядок дешевле и быстрее выводит проект на эффективность. К тому же готовые решения легко интегрируются в существующую инфраструктуру и соблюдают внутренние регламенты безопасности — это проще и надежнее, чем бессрочно пилить свое. А даже если в моменте вы готового решения не видите, поищите еще раз завтра: глобально все большие компании решают схожие типы задач, так что скорость появления новых, причем часто бесплатных open source ИИ-компонентов или вообще готовых сервисов просто фантастическая.
Заменить всех сотрудников роботами — не самоцель
Частая ошибка, или, скажем, чрезмерное упрощение задачи — это попытка использовать ИИ только ради снижения расходов. Уволить кого-нибудь, чью задачу сделает робот — выглядит отличным кост-эффективным решением и великолепно «продается» стейкхолдерам. Например, в крупном аутсорсном контакт-центре запустили чат-ботов, которые должны были ответить на 30–40% запросов клиентов и со временем заменить часть операторов. Но решение было построено на устаревшей архитектуре, боты тупили, не могли отклониться от вырезанного в камне шаблона, их ответы не устраивали клиентов. Люди перезванивали и всеми путями добивались связи с живым специалистом поддержки. Вместо экономии проект только дорожал: росли очереди и время ожидания, падала удовлетворенность клиентов, а для поддержки тяжелых и негибких роботов требовалась команда, которая стоила даже дороже всех сокращенных операторов.
ИИ — не магия, он не решает все проблемы в одночасье и одной моделью. В случае того же КЦ часто оказывается успешной тактика не только работать над заменой операторов, но и помогать им: ИИ-копилоты, которые дают подсказки во время разговора, снижают время обслуживания клиентов на вполне значимые 15–20% и при этом повышают удовлетворенность. Штат операторов при этом не меняется, но каждый справляется с бо́льшим количеством запросов и успевает предупредить уход клиента из-за долгого ожидания.
Чек-лист: базовые правила внедрения ИИ
Нейросети уже присутствуют во многих процессах, но часто за красивой надписью «AI inside» нет реального бизнес-смысла и пользы. Если вы хотите, чтобы ИИ действительно влиял на бизнес-метрики, важно учесть следующее:
- Составлен приоритетный список задач, которые планируется решать с помощью ИИ в ближайшие 1–2 года.
- Для каждого ИИ-проекта есть бизнес-заказчик, отвечающий за цель и выделяющий ресурсы.
- Имеются прогноз результатов и метрики для оценки эффективности ИИ-решений.
- Проверены существующие на рынке готовые ИИ-инструменты — по возможности они берутся «из коробки» с доработкой.
- Технологии и данные соответствуют регламентам информационной безопасности и требованиям к работе с конфиденциальной информацией.
Ответы на эти вопросы не всегда нужно искать самостоятельно, поскольку внедрение ИИ — это как непростые медицинские кейсы. Часто можно и очень полезно получить «второе мнение»: аудит готовности бизнеса к ИИ выявит слабые места и подскажет, где автоматизация даст максимальный эффект. Чаще всего кто-то уже решал вашу проблему или задачу — а учиться на чужом опыте и ошибках гораздо эффективнее, чем тратить ресурсы на долгие эксперименты.