Когда говорят об атаках на искусственный интеллект, обычно вспоминают грубые взломы или массированные вторжения. Но старший научный сотрудник МТУСИ Олег Рогов на примерах доказывает обратное. В интервью изданию «Коммерсантъ» обсудили атаки на ИИ: от невидимых глазу искажений входных данных до попыток «обмануть» языковую модель так, чтобы она нарушила собственные меры безопасности.
Олег Юрьевич Рогов
- кандидат физико-математических наук, возглавляет научную группу «Доверенные и безопасные интеллектуальные системы» в Институте AIRI;
- доцент МТУСИ, руководитель лаборатории безопасного ИИ AIRI-МТУСИ.
В материале Олег Юрьевич с помощью реальных примеров объясняет, как точечные атаки-скальпели обманывают нейросети и почему доверенный ИИ — это не маркетинг, а вопрос безопасности.
Преподаватели МТУСИ — не просто теоретики. Это практики, которые участвуют в исследованиях мирового уровня, возглавляют научные группы и лаборатории в ведущих ИИ-центрах. Вместе с ними наши студенты находятся в эпицентре самых актуальных задач в сфере безопасности информационных технологий.
Прочитать интервью можно на сайте издания. Сохраняйте, читайте, обсуждайте!