Руководители IT-компаний и эксперты, так или иначе связанные с разработками в сфере искусственного интеллекта, в том числе Илон Маск, подписали соглашение, в котором пообещали не разрабатывать «летальное автономное оружие».
В соглашении говорится о том, что оружейные системы, использующие искусственный интеллект для выбора и уничтожения целей без участия человека, создают моральные и практические угрозы. В моральном плане, считают подписанты, решение о судьбе людей «никогда не должно быть передано машине». На практическом фронте распространение такого оружия будет иметь «опасные дестабилизирующие последствия для каждой страны и человека».
Текст соглашения был опубликован сегодня на Международной совместной конференции по искусственному интеллекту (IJCAI) в Стокгольме.
В число подписавших входят генеральный директор SpaceX и Tesla Илон Маск, три соучредителя дочерней компании DeepMind Google — Шейн Легг, Мустафа Сулейман и Демис Хасавис, один из разработчиков Skype Яан Таллинн, а также такие уважаемые и известные исследователи ИИ, как Стюарт Рассел, Йошуа Бенджио и Юрген Шмидхубер.
Макс Тегмарк, профессор физики в Массачусетском технологическом институте (США), также подписавший обещание, заявил, что лидеры ИИ «перешли от разговора к делу». Тегмарк сказал, что соглашение обещает то, что не делают политики: налагает жесткие ограничения на развитие ИИ для военного использования. «Оружие, которое автономно решает убить людей, столь же отвратительно, как и биологическое», — заявил он.
Добро пожаловать в реальность!