Почему ИИ-компании бессильны против кражи знаний

Любая открытая по API модель уязвима к «съему знаний». Американские ИИ-гиганты координируют защиту, но реально могут лишь усложнить жизнь нарушителям Зачем конкуренты начали обмениваться сигналами о дистилляции Ситуация, когда крупнейшие конкуренты координируются, сама по себе показательна. Американские компании, развивающие передовые языковые модели, через отраслевую площадку Frontier Model Forum начали делиться информацией о попытках так называемой adversarial distillation — массового прогонки запросов через их API с целью использовать ответы для обучения сторонних моделей. Дистилляция...