Заместитель министра цифры Челябинской области Елена Лукашина приняла участие в конференции «Искусственный интеллект: практическое применение, вопросы доверия и информационной безопасности», сообщает пресс-служба минцифры региона.
Участники мероприятия поделились успешными практиками применения технологий искусственного интеллекта, обсудили риски, связанные с использованием этих технологий, а также вопросы правового регулирования и стандартизации в этой сфере.
Конференция состоялась в рамках международного форума «Технологии и безопасность», стала значимым событием для профессионального сообщества, занимающегося разработкой и внедрением технологий искусственного интеллекта. Участники обсудили вопросы, связанные с развитием и применением ИИ в различных отраслях экономики, а также рассмотрели проблемы информационной безопасности и доверия к этим технологиям.
На пленарном заседании директор департамента обеспечения кибербезопасности минцифры РоссииЕвгений Хасинподелился подходом федерального ведомства к вопросам доверия и безопасности ИИ. В частности, он рассказал о внеотраслевых атаках на технологии искусственного интеллекта, к которым можно отнести: злоупотребление функцией сервиса, извлечение скрытой информации, вычислительное истощение ресурсов ИИ, в том числе через DDoS, манипуляция правилами и контекстом работы языковых моделей. Для противодействия атакам применяются комплексные меры, включающие: устранение выявленных уязвимостей и недостатков, тестирование технической защиты информации, функциональной надежности и этики, мониторинг технологий искусственного интеллекта в рамках всего жизненного цикла, в том числе за счет моделирования реализации недопустимых событий. В отношении региональных органов власти регуляторами проводится анализ внедрённых ИИ-решений, позволяющий выявить ключевые угрозы.
Заместитель министра информационных технологий, связи и цифрового развития Челябинской областиЕлена Лукашина, представившая регион на конференции, отметила содержательность программы мероприятия.
«Конференция наглядно показала, насколько быстро развивается направление искусственного интеллекта и как серьезно к вопросам его защиты подходят ведущие игроки рынка. Большой интерес вызвал доклад представителя СберТеха Дмитрия Вандышева о комплексной защите AI‑систем. Речь шла о подходах, которые позволяют защищать данные и модели на всех этапах жизненного цикла - от разработки до эксплуатации. В кулуарах мы подробно обсудили с коллегами модель угроз для кибербезопасности искусственного интеллекта, и эти наработки уже можно использовать в региональной практике. Были представлены и прикладные кейсы: применение искусственного интеллекта в транспорте и логистике, беспилотные решения, автоматизация обработки материалов в строительстве. Отдельно отмечу взвешенный подход к внедрению ИИ в корпоративный контур: когда компании осознанно оставляют пилотные решения в зоне с ограниченным доступом, это позволяет тестировать новые технологии без рисков для критических систем. Такой опыт наших федеральных партнеров важен для Челябинской области и может быть учтен при реализации проектов в сфере цифровой трансформации региона, в том числе связанных с применением технологий искусственного интеллекта»,- отметилаЕлена Лукашина.
Все презентации экспертов конференции можно посмотреть насайтемероприятия.
