OpenAI представила функцию Trusted Contact, которая позволяет пользователям назначить близкого человека для получения уведомления, если ИИ распознает в диалоге признаки намерения причинить себе вред. Об этом сообщает издание IXBT.com со ссылкой на OpenAI.
Новая функция Trusted Contact позволяет взрослым пользователям выбрать контактное лицо, которое будет оповещено в случае обнаружения угроз жизни и здоровью. Настройка функции является добровольной. Если пользователь решает активировать Trusted Contact, он указывает человека (старше 18 лет), которому отправляется официальное приглашение с объяснением его роли. У потенциального помощника есть одна неделя на принятие приглашения. В случае отказа пользователь может выбрать другое лицо. Система не является полностью автоматической: OpenAI внедрила в процесс «человеческий фильтр» для предотвращения ложных тревог.
Процесс оповещения состоит из нескольких этапов. Сначала системы ChatGPT фиксируют потенциально опасный контекст разговора. Бот сообщает пользователю, что его доверенное лицо может быть уведомлено, и предлагает варианты для начала самостоятельного разговора с близкими. Одновременно с этим к анализу ситуации подключается команда специально обученных модераторов. Если специалисты подтверждают наличие серьезного риска, то контактному лицу отправляется уведомление через SMS, электронную почту или приложение.
OpenAI строго соблюдает конфиденциальность: доверенное лицо не получает историю чата или детали разговора. Сообщение лишь информирует о том, что в диалоге всплыла тема самоповреждения в тревожном ключе, и содержит просьбу связаться с пользователем. Компания ставит целью завершать проверку ситуации человеком менее чем за 1 час.
Функция Trusted Contact разрабатывалась при участии исследователей и организаций по охране психического здоровья, включая Американскую психологическую ассоциацию. Ранее аналогичный инструмент был запущен для родительского контроля подростковых аккаунтов, а теперь он стал доступен и для взрослой аудитории.
При этом разработчики подчеркивают: Trusted Contact не заменяет службы экстренной помощи, горячие линии или профессиональную психотерапию. ChatGPT по-прежнему будет направлять пользователей к официальным ресурсам помощи в первую очередь. Пользователи и их доверенные лица могут отключить или изменить настройки связи в любой момент.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.