ИИ-чатботы поставили обман на поток.
Интернет всё меньше похож на пространство, где люди просто читают, покупают и переписываются. Всё чаще на другом конце оказываются не пользователи, а автоматические системы. Боты уже генерируют больше трафика, чем живые посетители, а мошенники подключают автоматизацию и ИИ-чатботы, чтобы быстрее искать жертв, выманивать деньги и давить на бизнес.
Автоматический трафик растёт в восемь раз быстрее человеческого, сообщила Human Security. Отчёт Thales даёт ещё более неприятную картину: на ботов приходится 53% всего интернет-трафика, а вредоносная автоматизация заняла 40% онлайн-активности за прошлый год.
Преступные группы используют ботов не только для спама. Автоматические инструменты перебирают пароли, ищут уязвимости, проверяют сайты на слабые места и атакуют бизнес-логику сервисов. Для компаний вредоносный трафик означает лишние расходы на инфраструктуру, защиту и обработку мусорных запросов. Для обычных пользователей боты портят почти любой привычный онлайн-опыт: рекламу, соцсети, дейтинг, переписку и инвестиционные предложения.
Исследователь угроз Infoblox Маэль Ле Туз объясняет, что мошенничество давно превратилось в игру на масштабе. Чем больше процессов преступники автоматизируют, тем шире сеть и тем больше людей доходит до финальной стадии обмана. Infoblox недавно изучила две популярные схемы: фальшивые инвестиционные предложения и романтические аферы. Конкретная кампания была нацелена на жертв в Азии, но общий приём уже стал глобальным.
Не спрашивайте почему мы в MAX.
В криптовалютных схемах исследователи нашли ИИ-ботов, которые изображали инвестиционных экспертов. Собеседники постоянно поддерживали контакт, рассказывали выдуманные истории успеха, обещали бонусы и понемногу подталкивали человека вкладывать больше денег. На первый взгляд всё выглядело как обычная консультация. Финальная стадия обычно строилась вокруг выдуманной комиссии за вывод прибыли, которой в реальности не было.
Японский телеканал RCC Chugoku Broadcasting описал случай мужчины старше 60 лет, который потерял $63 000 из-за мошенничества с ботами. Детали использованных чатботов Infoblox не раскрыла, но Ле Туз отметил, что злоумышленники могут сравнительно легко заставить почти любой чатбот вести нужный диалог.
Психология обмана при этом почти не меняется, даже когда вместо живого оператора работает автоматизация. Жертву торопят, создают страх упустить прибыль, обещают близкие отношения или крупный финансовый выигрыш. ИИ просто помогает поставить старую схему на поток: один мошенник ведёт больше диалогов, быстрее собирает данные и дольше удерживает внимание жертвы.
Инвестиционная афера часто начинается с вредоносной рекламы. Баннеры и объявления обещают лучший алгоритм для заработка, имитируют известных финансовых специалистов и переводят человека в личный чат с якобы экспертом. Романтическая схема pig butchering работает иначе: мошенник сначала изображает симпатию, постепенно формирует доверие, затем заводит разговор о вложениях и исчезает с деньгами.
Примечательно, что ИИ сильно упростил именно долгие романтические аферы. Раньше злоумышленникам приходилось вручную поддерживать переписки в приложениях для знакомств, а теперь автоматизация помогает делать заметки о жертве, запоминать имена родственников, детали биографии и личные проблемы. Собеседник кажется внимательным. Ещё бы: система хранит сведения из прошлых сообщений и аккуратно возвращает нужные детали в разговор.
По словам Ле Туза, мошенническая переписка может начаться почти где угодно. Поводом становится знакомство в приложении, предложение работы, случайное сообщение или фраза вроде «кажется, я видел вас в аэропорту Хьюстона». Что плохого в коротком ответе незнакомцу? Как раз с короткой реакции преступники часто и начинают разворачивать разговор, постепенно подводя общение к деньгам.
Главный тревожный признак почти всегда связан со срочностью. Мошенники требуют перевести деньги прямо сейчас, подтвердить участие немедленно, срочно вложиться или быстро доказать доверие. Лучший способ сбить сценарий - остановиться и не принимать финансовое решение в момент давления. Ночная пауза, проверка собеседника и разговор с человеком вне переписки часто ломают схему лучше любого сложного инструмента защиты.