Коллектив видных деятелей, включая экспертов в области искусственного интеллекта и технологий, выступил с призывом остановить разработку так называемого «сверхинтеллекта» — систем ИИ, способных превзойти человеческий разум.
Более 850 человек, включая таких известных представителей технологической индустрии, как соучредитель Apple Стив Возняк и основатель Virgin Group Ричард Брэнсон, подписали заявление о суперинтеллекте. К ним присоединились ведущие исследователи в области ИИ, в том числе ученые Йошуа Бенджио и Джефф Хинтон, которых часто называют «крестными отцами» современного искусственного интеллекта. Среди подписавшихся также присутствуют специалисты по безопасности ИИ, например, Стюарт Рассел из Калифорнийского университета в Беркли.
Инициатива возникла на фоне активной конкуренции между компаниями, такими как xAI и OpenAI, в создании более совершенных больших языковых моделей. Термин «сверхинтеллект» становится популярным в отрасли.
Подписавшие заявление выражают серьезную озабоченность. Они указывают на потенциальные риски, связанные с появлением сверхразума: от экономического обесценивания человеческого труда и потери личных свобод до угроз национальной безопасности и даже возможного вымирания человечества.
В документе содержится призыв ввести мораторий на разработку сверхинтеллекта до тех пор, пока не будет достигнут широкий общественный консенсус и не появятся научно обоснованные гарантии безопасности и контролируемости таких систем.
Кроме экспертов в области ИИ, инициативу поддержала широкая коалиция, включающая ученых из других сфер, представителей медиа, религиозных лидеров и бывших политиков. Среди подписавшихся — бывший председатель Объединенного комитета начальников штабов США Майк Маллен, член британской королевской семьи Меган Маркл, а также медийные союзники экс-президента США Дональда Трампа Стив Бэннон и Гленн Бек.