Скальпель вместо молотка: как эксперты МТУСИ и AIRI повышают безопасность искусственного интеллекта

Когда говорят об атаках на искусственный интеллект, обычно вспоминают грубые взломы или массированные вторжения. Но старший научный сотрудник МТУСИ Олег Рогов на примерах доказывает обратное. В интервью изданию «Коммерсантъ» обсудили атаки на ИИ: от невидимых глазу искажений входных данных до попыток «обмануть» языковую модель так, чтобы она нарушила собственные меры безопасности. Олег Юрьевич Рогов кандидат физико-математических наук, возглавляет научную группу «Доверенные и безопасные интеллектуальные системы» в Институте AIRI;доцент МТУСИ, руководитель лаборатории безопасного ИИ...