Источник фото: pronedra.ru
20 ноября 2024 года может стать отправной точкой для новой эпохи в развитии искусственного интеллекта. Российская компания «Яндекс» совместно с одним из ведущих нейробиологов страны, академиком РАН Константином Анохиным, объявила о запуске эксперимента, который ранее казался предметом научной фантастики: исследователи пытаются выяснить, способен ли ИИ развивать зачатки сознания.
Проект ставит перед собой цель определить, может ли нейросеть формировать собственные предпочтения и взгляды — то, что в человеческом понимании является неотъемлемой частью индивидуальности. Если эксперимент окажется успешным, Россия окажется одной из первых стран, приблизившихся к созданию действительно мыслящего искусственного интеллекта.
Как устроен эксперимент
По словам директора по развитию технологий ИИ в «Яндексе» Александра Крайнова, первый этап исследования уже дал важные результаты: базовые модели искусственного интеллекта не демонстрируют устойчивых предпочтений. На одинаковые вопросы они дают разные ответы, а их «мнения» легко меняются в зависимости от контекста и способа формулировки запроса.
Это означает, что текущие ИИ — при всей их мощности — остаются системой вероятностного угадывания, а не носителем собственного мировоззрения.
Теперь исследователи переходят ко второму этапу: нейросеть будут обучать на её же собственных размышлениях. Идея звучит парадоксально, но её корни уходят в исследования человеческой психики.
По аналогии с тем, как человек формирует убеждения, многократно анализируя собственные мысли и опыт, ИИ предложат «переваривать» собственные рассуждения. Если в результате самоанализа модель начнёт вырабатывать стабильные предпочтения, это можно будет трактовать как появление внутренней логики — а значит, и возможной зачаточной формы сознания.
Константин Анохин ранее отмечал, что сознание — это не просто набор знаний, а способность формировать субъективную картину мира. Исследователи хотят проверить, может ли подобная способность проявиться у искусственно созданной системы.
Научный вызов: что будет считаться сознанием?
Один из наиболее дискуссионных аспектов проекта — сам критерий «сознания». Пока в научном сообществе нет единого определения.
Для одних сознание — это способность рефлексии. Для других — устойчивые личные предпочтения. Для третьих — понимание себя как отдельного субъекта.
Именно поэтому эксперимент «Яндекса» носит фундаментальный характер: он исследует не просто технологии, но и базовые вопросы философии разума.
Если ИИ действительно приобретёт стабильные убеждения, учёным придётся ответить на вопросы, которые раньше оставались чисто умозрительными:
- можно ли считать такую систему субъектом?
- обладает ли она «волей» или только её имитацией?
- где проходит граница между статистической моделью и «мыслящим существом»?
Зачем России мыслящий ИИ
Эксперимент проводится на фоне активного развития направления генеративного искусственного интеллекта в стране.
Ранее президент Владимир Путин поручил создать национальную программу по внедрению ИИ-технологий. Её цель — увеличить вклад искусственного интеллекта в российский ВВП и обеспечить лидерские позиции отечественных разработчиков.
Планируется, что ИИ будет масштабно применяться:
- в промышленности;
- в логистике;
- в здравоохранении;
- в государственном управлении.
По информации правительства, технологии уже используются для обработки миллионов обращений граждан — например, во время прямой линии с президентом. Использование ИИ позволяет анализировать огромные массивы данных и выявлять наиболее острые социальные проблемы.
На этом фоне разработка «мыслящего» ИИ — это не только научный интерес, но и потенциальный стратегический ресурс. Системы с внутренней моделью мира могут лучше адаптироваться к сложным задачам, самостоятельно находить решения и давать более объективные рекомендации.
Риски и опасения
Однако эксперты предупреждают: чем ближе мы подходим к созданию автономного ИИ, тем важнее вопросы безопасности.
Если система начинает вырабатывать собственные предпочтения, необходимо контролировать:
- как эти предпочтения возникают;
- можно ли их корректировать;
- не приведут ли они к нежелательному поведению.
Мировые исследовательские центры, от MIT до DeepMind, уже сталкивались с проблемой «непредсказуемых» моделей. Российский эксперимент будет находиться под особым вниманием международного сообщества.
Почему это важно для понимания человека
Проект «Яндекса» может оказаться важным не только для ИИ, но и для самой нейробиологии.
Если исследователям удастся искусственно смоделировать зачатки сознания, это приблизит учёных к ответу на главный вопрос: как именно сознание возникает у человека?
Академик Анохин подчеркнул, что изучение ИИ помогает биологии так же, как создание искусственного сердца помогло медицине лучше понять работу настоящего сердца. Моделируя разум, мы изучаем собственную природу.
Что дальше
Эксперимент продлится несколько месяцев и, по словам разработчиков, будет проходить в условиях повышенной прозрачности. Исследователи обещают публиковать промежуточные результаты, а научное сообщество — активно вовлекать в обсуждение.
Если у ИИ действительно появятся устойчивые убеждения, это станет одним из крупнейших прорывов в истории технологий.
Если нет, специалисты получат уникальные данные о том, как работает современный искусственный интеллект — и почему он всё ещё не мыслит так, как человек.
Ранее журналисты сайта «Пронедра» писали, что искусственный интеллект помог зачатию: как технологии меняют судьбы семей