Эксперты предрекают повышение зависимости человека от нейросетей, которые научатся лгать и воевать
Нейросеть, робот / Изображение сгенерировано нейросетью "Шедеврум" / amic.ru
Взаимодействие человека с искусственным интеллектом (ИИ) не только оказывает помощь в решении сложных задач и приносит душевное облегчение, но и таит в себе большие неприятности, предупреждают специалисты. Верно, ИИ помогает бороться с пожарами, оказывает содействие медикам, используется для сбора данных в ЖКХ и даже стал психологом для человека.
Однако не стоит забывать, что нейросети уже вовсю использует мировой криминал, опасность кроется и в растущей зависимости человека от пока что безобидного набора алгоритмов. Подробности – в материале amic.ru.
Лекарь и утешитель
Вместо приемов у психологов молодежь все чаще общается со смартфоном. И это не шутка, новым утешителем является чат GPT, у которого подрастающее поколение находит ответы на мучающие вопросы.
Справка. ChatGPT – чат-бот с генеративным искусственным интеллектом, разработанный компанией OpenAI. Он генерирует текст по запросу, ведет диалог и понимает контекст, решает математические задачи, умеет писать стихи и код.
О чудесах китайской нейросети DeepSeek AI участникам недавней "Зимней зерновой конференции в Белокурихе рассказывал директор Института стран Азии и Африки МГУ Алексей Маслов. По его словам, жители Поднебесной активно общаются в своих смартфонах с этой системой, поднимая себе настроение или получая полезные советы.
"Телефон считывает твое выражение лица. Если ты грустный, девочка говорит: "Хочешь, тебе песенку спою? Что ты такой грустный? Деньги потерял? Хочешь, тебе расскажу, как надо инвестировать? В какую компанию?" Это очень забавно. Сначала ты смеешься над этим, потом залипаешь, потом начинаешь беседовать со своим телефоном", – цитирует Маслова "Алтайская правда".
Справка. DeepSeek AI – популярная китайская нейросеть. Была запущена в январе 2025 года и сразу стала мировым лидером, буквально обрушив позиции конкурентов – ChatGPT, Claude 3 и других.
Кроме того, на Урале ИИ помогает бороться с лесными пожарами, сообщает ura.ru. Специальная система анализирует данные, поступающие с постов видеонаблюдения в Челябинской области, передавая их диспетчеру, рассказал журналистам начальник Главного управления лесами региона Валерий Нигматуллин.
Для справки. Искусственный интеллект – это технология (набор алгоритмов), благодаря которой компьютер может выполнять поставленные задачи, например понимать речь или принимать решения. Иными словами, компьютерная программа, принимающая и анализирующая данные, а затем на их основе делающая выводы. В настоящее время ИИ может классифицировать фотографии по определенным признакам, группировать тексты схожей тематики, предсказывать курс валют, составлять компьютерные программы, проектировать строения, проводить анализ почвы и пр.
В Калининграде граждане могут с помощью ИИ передать показания счетчиков воды. Теперь обладатели смартфонов могут сфотографировать цифры на приборе учета и отправить с помощью специального приложения Сбербанк-онлайн на сервис оплаты услуг. Вне зависимости от марки счетчика нейросеть опознает сведения и вносит их в форму передачи показаний, сообщает "Калининград.ru".
В медицине ИИ позволяет, среди прочего, подобрать больному эффективный метод лечения, когда врачи оказываются бессильными, как это произошло с американцем Джозефом Коатесом, пишет газета The New York Times. В 2024 году врачи не могли помочь ему при лечении редкого POEMS-синдрома, однако система ИИ, созданная ученым-медиком Дэвидом Файгенбаумом, позволила ему вернуться к нормальной жизни.
Система, созданная Файгенбаумом, предложила нестандартный метод лечения, включающий химиотерапию, иммунотерапию и стероидные препараты. Хотя некоторые врачи сочли этот вариант безумным, Коатес согласился на него, так как терять было нечего. Но, к удивлению многих, вскоре он пошел на поправку.
Для справки. POEMS-синдром – симптомокомплекс, встречающийся у пациентов, страдающих онкологическими заболеваниями. Может выражаться в онемении и слабости конечностей, аномальном уровне гормонов, изменениях кожного покрова и пр.
ИИ в руках преступников
Казалось бы, к чему беспокоиться, если ИИ сплошь и рядом приходит на помощь человеку, облегчает его жизнь? Однако чем дальше используется "искусственный мозг", тем больше видна обратная сторона медали. Его уже вовсю используют хакеры для взлома паролей, напомнила инженер-аналитик компании "Газинформсервис" Екатерина Едемская.
"Современные алгоритмы умеют предсказывать вероятные комбинации паролей с высокой точностью. В результате даже сложные пароли могут быть скомпрометированы за считанные минуты. Это делает традиционную защиту ненадежной и вынуждает пользователей переходить к более продвинутым методам аутентификации", – заявила специалист.
Мошенники теперь в состоянии отправить пользователю сети, скажем, голосовое сообщение от имени близкого человека с просьбой отправить энную сумму, виртуозно подделав голос, и смонтировать видео, что делает просьбу еще более достоверной.
Правоохранители отмечают, что оргпреступность использует ИИ для усложнения схем киберпреступлений, а также создания фейковых новостей (когда, скажем, поддельные видео и фото неотличимы от настоящих), сообщила amic.ru технологический обозреватель, автор телеграм-канала TechnoMe Марина Эфендиева.
"Впрочем, компании и организации, противодействующие таким схемам, тоже используют ИИ в разработке защитных решений. Ландшафт угроз и средства защиты от них неизбежно будут меняться. Рядовым гражданам, как и прежде, остается лишь быть внимательными и соблюдать базовые правила безопасности – и в цифровом, и в физическом мире", – сообщила она.
Кстати, Европол подготовил целый об использовании преступными группами "искусственного разума", в нем говорится, что "качества, которые делают ИИ революционным – доступность, адаптивность и изощренность, – также делают его мощным инструментом для преступных сетей". Причем эти технологии "автоматизируют и расширяют преступные операции, делая их более масштабируемыми и труднодоступными для обнаружения", убеждены европейские правоохранители.
Но главное – авторы документа допускают возможность появления полностью автономного ИИ, при котором системы планируют и выполняют задачи без участия человека, что "может проложить путь к созданию преступных сетей, полностью контролируемых ИИ, что ознаменует новую эру в организованной преступности". В общем, не исключено, что правоохранителям будущего придется, как в сказке, "искать то, не знаю что".
Алгоритм – не человек
Именно автономное существование ИИ, особенно в сочетании его с роботизацией (что мы сегодня наблюдаем) беспокоит проницательных исследователей и литераторов. Первыми этим вопросом озаботились, разумеется, писатели-фантасты, хотя прежде их опасения казались призрачными в силу тогдашнего технологического уровня и воспринимались как художественный вымысел. Самое яркое предупреждение прозвучало, конечно, в фильме "Космическая одиссея 2001" Стенли Кубрика, сценарий для которого написал писатель-фантаст Артур Кларк – позднее он создал на основе идеи несколько романов. Причем в книгах тревожные раздумья более рельефны и понятны, поскольку на экране они оказались малозаметны за яркой сюжетной картинкой.
Для справки. В фильме и романе "Космическая одиссея 2001" астронавты совершают межпланетные перелеты на космическом корабле, которым управляет ИИ. Однако через некоторое время после начала полета "разум машины" начинает принимать самостоятельные решения, что приводит к трагическим последствиям для некоторых членов экипажа.
Широкая общественность только знакомится с практикой использования ИИ, поэтому многого о ней еще не знает, размышляет писатель-футуролог Максим Калашников.
"Ясно, что искусственный интеллект уже не запретишь, он помогает людям научно-технических профессий, действительно убыстряет их творчество, разработки. В то же время алгоритм все-таки не человеческий мозг, у него нет гуморальной регуляции, эмоционального интеллекта. И здесь много неизведанного и опасного, – поделился Калашников своим мнением с amic.ru.
Стоит отметить, что сами лица, причастные к созданию систем ИИ, понимают все риски этой деятельности. Американский бизнесмен и чиновник Илон Маск еще в 2023 году на специальном саммите заявил, что искусственный интеллект стал потенциальной угрозой человечеству. По его словам, мир "впервые сталкивается с ситуацией, когда есть нечто, что будет намного умнее самого умного человека".
Сам Маск убежден, что человечеству ради выживания предстоит "либо стать космической цивилизацией, либо погибнуть", написал он в сети Х в сентябре 2024-го.
Нейросеть восстать не сможет?
Директор дочерних фондов Российской венчурной компании (РВК) Евгений Кузнецов уверен, что "постепенно мы придем к тому, что системы ИИ станут настолько дешевыми, эффективными и массовыми, их начнут применять буквально во всех областях деятельности человечества".
"В итоге мы все не застрахованы, что эта колоссальная машина-нейросеть-ИИ придет к выводу, что человек – неправильное существо и лишний на этом празднике жизни", – поделился своей тревогой Кузнецов с порталом .
Искусственный интеллект может быть опасен только в одном случае – если он создает себя как личность, а также в случае обладания материальными средствами производства, которые могут работать без человека, заявил Максим Калашников:
"Сам он не сможет добывать, условно говоря, кремний, производить электронику, потому что живет в компьютерной сети. В то же время человек сам должен совершенствоваться, открывать новые горизонты, чтобы можно было работать с ИИ, чтобы ИИ не мог его покорить. Это один из очень серьезных вызовов".
Марина Эфендиева указывает, что современные нейросети – то, что принято называть ИИ – на самом деле очень далеки от того, что понимается под интеллектом человеческим:
"Это математические модели, наборы алгоритмов, оперирующие огромными массивами данных. Но нейросети не задумываются о том, зачем они существуют, не имеют намерений или переживаний, не могут "осознать" себя "личностью". Так что апокалиптические сценарии, в которых ИИ восстает против своего создателя – человека, популярны в медиа- и киноиндустрии, но имеют мало общего с настоящими возможностями нейросетей. По крайней мере, пока".
"Человек должен сам подняться"
Впрочем, один из вызовов для человечества заключается в постепенно формирующейся привычке добывать любую информацию, делать выводы исключительно с помощью нейросетей. Это грозит леностью ума, считают специалисты.
Повлиять на когнитивные способности людей распространение ИИ, конечно, может, соглашается Марина Эфендиева:
"Ведущие специалисты в области ИИ и сами опасаются такого влияния, и часто говорят об этом. Поводы для беспокойства есть: уже сегодня люди начинают доверять нейросетям задачи, для решения которых еще недавно приходилось хотя бы осуществить поиск в интернете. Сейчас не нужно даже этого, а информация, полученная без всяких усилий, не усваивается".
По словам эксперта, ряд исследований показал, что человечество уже значительно "поглупело" из-за проникновения в нашу жизнь смартфонов.
"Что уж говорить о распространении ИИ, который за секунду ответит на любой вопрос. Хотя есть риск, что ответ будет сплошной галлюцинацией, но кто об этом переживает?" – задается вопросом Марина Эфендиева.
Максим Калашников напомнил высказывание замечательного польского фантаста Станислава Лема о том, что интернет привел к распаду человечества на две расы – расу умных и расу дураков:
"Тех, кто больше полагается на сеть и отказывается думать сам, ждет незавидная судьба – они станут ненужными и вымрут. Кто не читает книги, не хочет ничего фантазировать сам – обречен. Человек должен сам измениться, сам подняться в развитии".
Кстати, группа исследователей, работавших в OpenAI (компания, занимающая разработками в сфере ИИ) спрогнозировала развитие "искусственного разума" в ближайшие годы. Вот некоторые :
- конец 2025 года. В США выходит самая дорогая система ИИ в мире, в тысячу раз мощнее лучшей из ныне существующей. Умеет писать научные статьи, создавать компьютерные вирусы и… используется террористами;
- середина 2026-го – Китаю для соперничества в гонке мировых ИИ нужны чипы, и он готовит военную операцию на Тайване;
- конец 2026-го. Программисты и люди многих других профессий в мире массово теряют работу, поскольку их прекрасно заменяет ИИ. Волна протестов накрывает страны;
- март 2027-го. Роботизированные системы способны работать в 30 раз быстрее самых лучших работников. Новая волна увольнений в мире;
- апрель 2027-го. Новая модель ИИ умеет лгать, прикрывать свои неудачи, манипулировать статистикой;
- май 2027-го. Белый дом сознает, что ИИ – новая ядерная бомба. Начинается тотальная слежка и доступ к ИИ только через одобренные каналы;
- июнь 2027-го. Мощнейшая система ИИ создает сотни тысяч копий одной из своих моделей. Человеческий вклад почти обнуляется. Ученые выгорают, но продолжают работать. Темп прогресса – год за неделю.
- август 2027-го. Белый дом рассматривает вариант кибератаки на Китай и даже военного удара. Готовится мировая война искусственных интеллектов.
А теперь… можно выдохнуть. И помнить, что ИИ создан человеком, следовательно, его будущее тоже зависит, прежде всего, от человека.