Человечество может потерять контроль над искусственным интеллектом не только из-за злого умысла или выхода технологий из-под контроля, но и «совершенно случайно», заявил глава OpenAI Сэм Альтман в подкасте MD MEETS с главой Axel Springer Матиасом Депфнером, пишет BILD.
Сэм Альтман отметил, что «сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды». При этом «люди все больше полагаются на его ответы — при принятии важных решений в жизни, на работе, во всем».
По его словам, пользователи ChatGPT становятся все более зависимыми от искусственного интеллекта.
— Предположим, модель становится все умнее и умнее, дает вам советы, которым вы почти всегда следуете. Потом она становится еще умнее. И теперь дает вам советы, которые вы даже не понимаете, но они оказываются правильными. И в итоге у вас выбор: либо следовать, либо проигрывать в конкуренции, — добавил Альтман.
В такой ситуации, отмечает глава OpenAI, люди начинают действовать по указанию ИИ, даже не осознавая этого.
— В конце концов мы все делаем то, что говорит нам ассистент с искусственным интеллектом. По крайней мере, те, кто хочет оставаться конкурентоспособным, — отметил он.
Альтман добавил, что это создает «петлю обратной связи»: чем больше мы слушаемся ИИ, тем больше данных он получает, учится и становится еще сильнее.
— Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель, — резюмировал он.
Во время выступления на конференции в июле 2025 года Сэм Альтман уже упоминал вероятность случайного захвата мира со стороны ИИ, напоминает Зеркало. В тот раз он отмечал, что нейросети могут настолько глубоко интегрироваться в повседневную жизнь, что станут незаменимыми, и тихое порабощение со стороны ИИ может даже не вызвать негативной реакции у людей.
Еще одним негативным сценарием Сэм Альтман назвал то, что человек может потерять контроль над развитием искусственного интеллекта. Он выразил опасение, что ИИ может начать игнорировать запросы человека, отказываться выполнять поставленные задачи или даже самонастраиваться, следуя собственным желаниям.
«С учетом того, что системы становятся все более мощными, такая проблема вполне может стать реальностью», — отметил глава OpenAI.
Добро пожаловать в реальность!