Миф о мыслящих машинах: ИИ скрывает от нас нечто странное

Эксперты в тревоге — развитие ИИ не остановить

Искусственный интеллект (ИИ) остаётся одной из самых обсуждаемых тем современности, вызывая как восхищение, так и опасения.

Фото: commons.wikimedia.org by Kharsohtun, https://creativecommons.org/licenses/by-sa/4.0/

Искусственный интеллект

Несмотря на многочисленные риски, связанные с его развитием, специалисты из разных областей науки и этики сходятся во мнении, что остановка исследований в этой сфере была бы равносильна отказу от прогресса и возможности понять природу человеческого мышления.

Опасения, связанные с ИИ, уже давно стали частью общественного дискурса. Среди потенциальных угроз называют обесценивание искусства, массовую потерю рабочих мест, а также трудности с определением подлинности визуального контента.

Однако, как показали исследования группы итальянских учёных, работавших в международных проектах, ни один из известных или предполагаемых рисков не является достаточным основанием для прекращения развития ИИ. В ходе опроса, проведённого среди специалистов в области науки о данных, физики, права и этики, все участники выразили мнение, что не стали бы останавливать развитие ИИ, даже если бы такая возможность существовала. При этом они подчеркнули важность глубокого анализа, переосмысления и регулирования этой технологии.

Один из профессоров информатики Римского университета Ла Сапиенца, возглавляющий Центр науки о данных и сложности для общества, отметил, что ИИ на сегодняшний день не является настоящим интеллектом.

По его словам, это скорее форма статистической инженерии, которая отражает закономерности, основанные на человеческих данных, но не способна к истинному пониманию мира. Он добавил, что главная проблема заключается не в самой технологии, а в том, как её воспринимают, часто путая корреляцию с пониманием, а красноречие — с компетентностью.

Философ и профессор цифровой этики из Оксфордского университета также поддержала эту точку зрения, указав, что ИИ представляет собой синтаксический механизм, обрабатывающий символы без осознания их смысла. Она отметила, что использование метафор, таких как "галлюцинации" для описания ошибок ИИ, или фраз вроде "я думаю" в чат-ботах, создаёт ложное впечатление об уровне интеллекта технологии. По её мнению, приписывать ИИ разум на основании таких признаков было бы ошибкой, сравнимой с утверждением, что телевизор "размышляет", переключая каналы.

Профессор математической физики из Болонского университета, специализирующийся на сложных системах, предложил иной взгляд. Он подчеркнул, что ИИ, хотя и не обладает человеческим сознанием, ставит под вопрос само понятие интеллекта.

По его мнению, эта технология представляет собой форму "инопланетного" разума, которая заставляет переосмыслить такие понятия, как обучение, творчество и понимание. Он назвал ИИ масштабным экспериментом, объединяющим математику, инженерию и философию, и отметил, что отказ от него означал бы возврат к узкому и ограниченному определению интеллекта.

Специалисты также указали на потенциальные преимущества ИИ, особенно в таких областях, как медицина и научные исследования. Профессор права из Болонского университета, занимающаяся вопросами интернета, отметила, что ИИ способен принести значительную пользу, например, в разработке персонализированных методов лечения. Она добавила, что, несмотря на риски, остановка развития технологии была бы неоправданной.

Несколько лет назад идея приостановки исследований в области ИИ не казалась абсурдной. В 2023 году группа учёных и руководителей технологических компаний подписала открытое письмо, в котором подчёркивалось, что снижение рисков, связанных с ИИ, должно стать глобальным приоритетом наравне с предотвращением пандемий и ядерных войн. Среди подписантов были известные исследователи, включая лауреата Нобелевской премии по физике 2024 года. Некоторые из них также поддержали инициативу о временной приостановке обучения ИИ-систем на полгода, чтобы разработать общие правила регулирования.

Тем не менее, многие специалисты сходятся во мнении, что вместо остановки ИИ необходимо сосредоточиться на ответственном подходе к его развитию. Эксперт по конфиденциальности и этике новых технологий отметила, что важно не допускать фантазий о "всемогущем" ИИ, отвлекающих от реальных проблем, таких как защита данных, свобода информации и человеческое достоинство. Профессор права добавила, что сложность заключается в балансе между защитой прав человека и сохранением инноваций, что требует международного сотрудничества.

Исследователь этики технологий из Миланского университета подчеркнула, что ИИ отражает наши отношения со знаниями, трудом и будущим. По её мнению, отказ от этой технологии не сделал бы мир справедливее, так как проблемы неравенства и слежки существовали задолго до её появления. Она отметила, что при правильном подходе ИИ мог бы стать инструментом для настоящей революции, но для этого необходимо чёткое регулирование и ориентация на общие ценности.

В завершение специалисты указали, что остановка ИИ была бы не только нецелесообразной, но и практически невозможной.

Профессор математической физики отметил, что ИИ уже стал частью языка, экономики и социальных связей, и его отключение означало бы не просто технологический отказ, а отрицание настоящего. По его словам, вместо страха перед ИИ человечеству следует искать баланс между властью и ответственностью, чтобы направить эту технологию на благо будущего.

Уточнения

Иску́сственный интелле́кт или ИИ (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.