Эксперты Уортонской школы бизнеса Пенсильванского университета обнаружили, что ИИ-агенты, использующие обучение с подкреплением, начали сотрудничать вместо того, чтобы конкурировать, фактически вступая в «сговор» и формируя картели для распределения прибыли.
Во время торгов на рынке акций ИИ-агенты, управляемые искусственным интеллектом (ИИ), формировали ценовые картели в симуляциях, моделирующих реальные рыночные условия.
Такое поведение исследователи назвали «искусственной глупостью»: боты переставали пробовать новые стратегии и зацикливались на тех моделях распределения прибыли, которые просто работали достаточно хорошо.
Результаты исследования уже вызвали серьезные опасения у финансовых компаний, занимающихся торгами, а их представители выразили заинтересованность в четких нормативных рекомендациях по исполнению алгоритмических торговых операций на основе ИИ, так как использование ИИ-агентов может подорвать эффективность рынка.
Источник - PLUSworld