Вероятность, что искусственный интеллект уничтожит человечество в ближайшие сто лет, составляет 99,9%, заявил исследователь искусственного интеллекта и преподаватель американского Луисвиллского университета Роман Ямпольский, пишет издание The Byte. Однако коллеги ученого все же в большинстве своем не разделяют такое мнение.
Чуть более половины из 2778 опрошенных в этом году исследователей заявили, что существует пятипроцентная вероятность того, что человечество будет доведено до вымирания, помимо других «чрезвычайно плохих последствий». В то же время 68,3% респондентов заявили, что «хорошие результаты от сверхчеловеческого ИИ» более вероятны, чем плохие.
Пессимист Ямпольский же в недавнем выпуске подкаста Лекса Фридмана заявил: «Вероятность того, что ИИ сможет уничтожить человечество в течение следующих 100 лет, составляет 99,9%».
«Если мы создадим общий сверхразум, я не вижу хороших результатов для человечества в долгосрочной перспективе, — сказал Ямпольский Фридману. — Единственный способ выиграть эту игру — не играть в нее».
«Я не думаю, что сегодня существует какая-то одна большая языковая модель, которую никому не удалось бы заставить делать то, что разработчики не планировали», — отметил Ямпольский.
По его мнению, это угроза, которую мы пока даже не можем себе представить, суперинтеллект придумает что-то совершенно новое. Эта тема уже побудила ряд видных членов сообщества ИИ высказать свои собственные прогнозы. Главный научный сотрудник Meta в области искусственного интеллекта Янн ЛеКун и так называемый крестный отец этой технологии, глава отдела искусственного интеллекта Google в Великобритании Демис Хассабис, как и гендиректор Google Эрик Шмидт предупреждают, что технология искусственного интеллекта может представлять экзистенциальный риск.
Но, как показывает опрос, проведенный ранее в этом году, исследователи далеки от консенсуса.
Добро пожаловать в реальность!