Компания "Яндекс" в сотрудничестве с нейробиологом, академиком РАН Константином Анохиным запустила эксперимент, направленный на изучение формирования собственной точки зрения у искусственного интеллекта. Об этом 20 ноября сообщает ТАСС.
"Мы, люди, учим собственную нейронную сеть непрерывно. Это происходит автоматически в процессе мышления. Нейросеть учится исключительно на чужих "мыслях". Есть надежда, что если мы начнем обучать нейронную сеть на ее собственных рассуждениях, то получится сделать модель, у которой появится действительно своя точка зрения. Не "навязанная" и не ее имитация. А внутренние убеждения. Или, может, даже нечто более того", – рассказал эксперт.
Следующая фаза предполагает принципиально иной подход к обучению нейросети. Искусственный интеллект будут стимулировать к самостоятельным рассуждениям и рефлексии, используя технику обучения на собственных "мыслях". Например, модель попросят аргументировать свой выбор при ответе на субъективные вопросы – о предпочтениях в музыке, искусстве или даже этических дилеммах.
Особое внимание в исследовании уделяется вопросу устойчивости формируемых предпочтений. Ученые будут отслеживать, сохраняет ли модель свои "убеждения" при повторных вопросах и меняет ли их под воздействием новой информации – аналогично тому, как это происходит у человека.
Эксперимент носит междисциплинарный характер, сочетая передовые разработки в области ИИ с последними достижениями нейробиологии. Исследователи надеются, что результаты проекта не только продвинут развитие нейросетей, но и прольют свет на механизмы формирования человеческого сознания.
В случае успеха новая методика может найти применение в создании более продвинутых систем ИИ, способных к самостоятельному концептуальному мышлению и решению сложных творческих задач, недоступных текущим моделям.
Ранее, 19 ноября, президент РФ Владимир Путин на конференции "Сбера" "Путешествие в мир искусственного интеллекта" поставил задачу перед правительством сформировать комплексный национальный план по внедрению генеративного ИИ на уровне всей России.
РЕН ТВ в мессенджере МАХ – главный по происшествиям