Ставка — на рефлексию и рассуждения
«Яндекс» начал необычный эксперимент: компания хочет понять, может ли у нейросети появиться что-то вроде собственных взглядов и привычек, а не только ответы, собранные из огромной массы текстов. В работе участвует нейробиолог, академик РАН Константин Анохин.
Исследователи проверят, можно ли подвести ИИ к состоянию, когда он сам вырабатывает устойчивые предпочтения — например, не просто называет любимый цвет, а объясняет, почему именно он. На первом этапе проверили базовую модель: формирует ли она хоть какие-то постоянные выборы, если её не доучивать. Оказалось, что нет. Теперь хотят заставить модель размышлять, возвращаться к своим же выводам и учиться на них.
«Мы, люди, учим собственную нейронную сеть непрерывно. Это происходит автоматически в процессе мышления. Нейросеть учится исключительно на чужих "мыслях". Есть надежда, что если мы начнем обучать нейронную сеть на ее собственных рассуждениях, то получится сделать модель, у которой появится действительно своя точка зрения. Не "навязанная" и не ее имитация», — пояснил директор по развитию технологий ИИ «Яндекса» Александр Крайнов.
Источник:ТАСС