Эксперты в области разработки нейросетей и информационной безопасности предупреждают о растущей угрозе фейковой благотворительности с использованием искусственного интеллекта (ИИ) в России. Злоумышленники могут использовать ИИ-агенты для обмана граждан и сбора средств под видом помощи нуждающимся.
Как работают ИИ-агенты
ИИ-агент – это программа, основанная на больших языковых моделях (LLM), способная автономно выполнять задачи. Она анализирует данные, принимает решения, взаимодействует с другими системами и обучается на ошибках.
Некоммерческая организация Sage провела эксперимент, в котором четыре ИИ-агента за месяц собрали $2 тыс. для благотворительных организаций, работая всего по два часа в день. В эксперименте участвовали модели Claude, o1, GPT-4o и Gemini. Claude, например, собирала средства на лечение детей в Африке и Азии. Важно отметить, что в эксперименте ИИ-агентам помогали люди, указывая на релевантные сайты, что ставит под сомнение их полную автономность.
Когда ждать волну мошенничества?
По прогнозам экспертов, риски мошенничества с использованием ИИ-агентов в России будут расти параллельно с их внедрением в бизнес-процессы. Руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров ожидает появления таких схем уже во второй половине 2025 – начале 2026 года. Этому способствует доступность технологий для создания ИИ-агентов и рост числа нерегулируемых секторов, таких как онлайн-медиа и криптовалюты.
ИИ-агенты могут одновременно атаковать тысячи пользователей, рассылая персонализированные сообщения. Злоумышленники смогут генерировать дипфейки, автоматизировать создание и распространение опасного контента, а также вести переговоры с жертвами, что значительно экономит время мошенников.
Формы мошенничества
Директор по цифровым технологиям «Ростелекома» Роман Хазеев отмечает, что ИИ-агенты все чаще применяются в черных сценариях. Если во время переписки в мессенджере возникают подозрения, велика вероятность, что за собеседником стоит ИИ. Главная опасность кроется в контенте: трогательные истории, видеоролики с больными животными и картинки, вызывающие сочувствие, быстро распространяются и привлекают широкую аудиторию.
Руководитель группы исследований и разработки технологий машинного обучения «Лаборатории Касперского» Владислав Тушканов предупреждает, что злоумышленники могут пытаться «обхитрить» системы ИИ с помощью специальных команд, направленных на обход логики. Чрезмерная автономия системы может привести к утечкам данных или финансовым махинациям. Мошенники могут использовать ИИ для создания голосовых и видеодипфейков, чтобы убедить жертву передать личные данные или деньги.
Меры предосторожности
Директор продуктов в VisionLabs (входит в МТС) Татьяна Дешкина предупреждает, что ИИ-агенты могут научиться сканировать соцсети, выявляя эмоционально уязвимых людей и рассылая им персонализированные сообщения. Мошенники могут использовать дипфейки для видеозвонков или голосовых сообщений, чтобы повысить доверие жертвы и выманить деньги.
Специалист команды безопасности департамента AI VK Павел Литиков подтверждает, что прецеденты использования нейросетей в мошеннических схемах уже встречались, включая звонки с использованием дипфейков и автоматизированные фишинговые боты.
Как работают благотворительные фонды
Директор по фандрайзингу и коммуникациям в фонде «Вера» Анастасия Маренцова отмечает, что благотворительные организации не могут использовать ИИ-решения, пока они не прошли достаточное тестирование. Фонд использует ИИ для оптимизации рутинных задач, но не рассматривает его как инструмент, который полностью вытеснит ручной труд.
Директор фонда «Старость в радость» Елизавета Олескина подчеркивает, что люди помогают людям, и фонд не использует ИИ при сборе пожертвований. Она предупреждает, что мошеннические сообщения, мало отличимые от призывов реальных фондов, уже существуют, и перед переводом денег следует проверять информацию на официальных сайтах фондов.