Ученый предупреждает, что искусственный интеллект может решить захватить власть

Джеффри Хинтон, британско-канадский ученый-компьютерщик, чьи работы в области искусственных нейронных сетей принесли ему прозвище «Крестный отец ИИ», недавно присоединился к хору голосов во всем мире, предупреждающих, что если и когда ИИ станет умнее человека, это может иметь катастрофические последствия.

Пионера ИИ Джеффри Хинтона все больше «нервирует» то, насколько умными становятся инструменты искусственного интеллекта (ИИ).

«Эти вещи могут стать умнее нас и решить захватить власть, и нам нужно уже сейчас беспокоиться о том, как предотвратить это», – сказал ведущий американского радиошоу, получивший за свои исследования самую престижную награду в области информатики и вычислительной техники.

Академик, который сейчас живет в Канаде в Торонто, потратил 50 лет своей профессиональной карьеры на разработку передового ИИ. В последнее время 75-летний ученый работал в компании Google, но в начале мая ушел из ее материнской компании Alphabet.

«Я ушел, чтобы иметь возможность говорить об опасностях ИИ, не задумываясь о том, как это влияет на Google», – написал он в Твиттере.

С тех пор он ведет своеобразный крестовый поход, предупреждая об опасностях той самой технологии, которую он помогал разрабатывать. В новом интервью Хинтон вспомнил, как во время тестирования чат-бота в Google – модели PaLM – ему показалось, что он понял его шутку. PaLM (Pathways Language Model) – это крупная языковая модель, разработанная Google AI. С тех пор технологический гигант выпустил обновленную модель нового поколения PaLM 2, которая может похвастаться "улучшенными возможностями многоязычия, рассуждений и кодирования".

В ходе этого взаимодействия ученого осенило, что эпоха, когда ИИ сможет превзойти человека, не так уж и далека.

«Я долгое время думал, что до этого осталось примерно 30-50 лет. То есть я называю это расстоянием до чего-то, что обладает более высоким общим интеллектом, чем человек. Теперь, я думаю, мы можем быть гораздо ближе, возможно, всего в пяти годах от этого», – сказал Хинтон.

Экзистенциальная угроза

Упомянув о таких чат-ботах, как ChatGPT от OpenAI, Хинтон подчеркнул, что ИИ обучен понимать или изучать любую интеллектуальную задачу, с которой может справиться человек.

«Я не говорю, что он разумный», – сказал он об ИИ, но добавил: «Я также не говорю, что он не разумный».

Отвергая утверждения оппонентов о том, что шум и крик по поводу опасности ИИ раздуты, он добавил, что это не проблема из научной фантастики, а «серьезная проблема, которая, вероятно, возникнет довольно скоро, и политикам нужно уже сейчас думать о том, что с этим делать».

Предупреждение Хинтона прозвучало в тот момент, когда все большее число технологических лидеров бьют тревогу по поводу потенциальной опасности сверхинтеллектуального ИИ. Генеральный директор Tesla Илон Маск, пионеры ИИ Йошуа Хенджио и Стюарт Рассел, наряду с тысячами других, подписали в апреле письмо, призывающее сделать шестимесячную паузу в разработке более мощных систем ИИ. Однако Хинтон не подписал это письмо, поскольку не считает паузу реалистичной в нынешнем конкурентном мире ИИ.

«Все, что я хочу сделать, это просто забить тревогу по поводу экзистенциальной угрозы», – заключил ученый-компьютерщик.