Иллюстрация: pronedra.ru
ИИ может привести к гибели человечества за 30 лет, предупредил Джеффри Хинтон, также известный как «крестный отец» технологии. Британско-канадский ученый пересмотрел свои прогнозы относительно угрозы со стороны ИИ. По его мнению, вероятность того, что эта технология приведет к вымиранию человечества в течение ближайших 30 лет, составляет от 10% до 20%, сообщает miranews.ru.
Хинтон предупреждает об угрозе ИИ
Ранее Хинтон оценивал вероятность катастрофического сценария в 10%, однако теперь он считает, что этот показатель выше. В эфире программы Today на BBC Radio 4, отвечая на вопрос, изменилась ли его оценка риска, он уточнил, что считает вероятность угрозы на уровне 10–20%. На это бывший канцлер Великобритании Саджид Джавид, который в тот день был гостевым редактором программы, заметил, что прогноз изменился в сторону увеличения. Хинтон ответил, что человечество никогда прежде не сталкивалось с существами, превосходящими его по интеллекту.
Он подчеркнул, что история не знает примеров, когда более умный объект полностью подчинялся менее разумному. В качестве редкого исключения он привел взаимоотношения матери и младенца, отметив, что эволюция сформировала механизмы, позволяющие ребенку оказывать влияние на поведение матери, однако аналогичных примеров практически не существует. По словам ученого, в сравнении с мощными системами искусственного интеллекта люди будут напоминать трехлетних детей.
Развивается без контроля – ИИ беспокоит «крестного отца»
Хинтон уже не раз высказывал опасения по поводу неконтролируемого развития ИИ. В 2023 г. он ушел с должности в Google, чтобы свободно говорить о рисках технологии, особенно о том, что ее могут использовать недобросовестные участники рынка в своих целях. Он отметил, что одной из главных угроз является создание искусственного интеллекта, превосходящего людей по интеллекту, что может привести к утрате контроля над ним.
Отвечая на вопрос, ожидал ли он столь стремительного прогресса, Хинтон признался, что не предполагал такого развития событий и считал, что человечество столкнется с подобными проблемами только в будущем. Он также отметил, что большинство экспертов в области ИИ полагают, что в течение ближайших 20 лет будут созданы системы, превосходящие человека по интеллекту. Это вызывает серьезные опасения.
Хинтон подчеркнул, что темпы развития технологий оказались намного выше, чем он рассчитывал, и призвал власти к регулированию отрасли. Он выразил сомнения в том, что рыночные механизмы смогут гарантировать безопасность, отметив, что крупные компании, руководствующиеся исключительно стремлением к прибыли, не будут уделять должного внимания рискам. По его мнению, единственным способом заставить компании вкладываться в исследования по безопасности является государственное регулирование.
Хотя Хинтон считается одним из крестных отцов искусственного интеллекта и лауреатом премии Тьюринга, его взгляды разделяют не все коллеги. Другой лауреат этой премии Янн Лекун, напротив, считает, что искусственный интеллект может спасти человечество от вымирания.
Ранее на «Пронедра» писали, что искусственный интеллект заговорил сам с собой: страхи или реальность?