JAMA Network Open: «запрос-взломы» стали новой угрозой нейросетям в медицине

Вера Цветова Редактор фото: фрипик Южнокорейские исследователи выявили потенциальные угрозы, связанные с применением нейронных сетей в медицине без должного регулирования и контроля. В статье, опубликованной в журнале JAMA Network Open, был проведён детальный анализ безопасности шести коммерческих систем, основанных на больших языковых моделях (LLM), при обработке медицинских запросов. Под руководством доцента Со Джунге из Университета Ульсана была разработана серия симуляций диалогов между врачом и пациентом, в которые были интегрированы скрытые вредоносные инструкции. Эти инструкции...