"""
В массовом сознании сверхчеловеческий искусственный интеллект - технологическое цунами, угрожающее не только экономике и человеческим отношениям, но и самой цивилизации. Конфликт между людьми и машинами видится неотвратимым, а его исход предопределенным. Выдающийся исследователь ИИ Стюарт Рассел утверждает, что этого сценария можно избежать. В своей новаторской книге автор рассказывает, каким образом люди уже научились использовать ИИ, в диапазоне от смертельного автономного оружия до манипуляций нашими предпочтениями, и чему еще смогут его научить. Если это случится и появится сверхчеловеческий ИИ, мы столкнемся с сущностью, намного более могущественной, чем мы сами. Как гарантировать, что человек не окажется в подчинении у сверхинтеллекта?
Для этого, полагает Рассел, искусственный интеллект должен строиться на новых принципах. Машины должны быть скромными и альтруистичными и решать наши задачи, а не свои собственные. О том, что это за принципы и как их реализовать, читатель узнает из этой книги, которую самые авторитетные издания в мире назвали главной книгой об искусственном интеллекте.

Цитаты
Все, что может предложить цивилизация, является продуктом нашего интеллекта; обретение доступа к существенно превосходящим интеллектуальным возможностям стало бы величайшим событием в истории. Цель этой книги - объяснить, почему оно может стать последним событием цивилизации и как нам исключить такой исход.

Введение понятия полезности - невидимого свойства - для объяснения человеческого поведения посредством математической теории было потрясающим для своего времени. Тем более что, в отличие от денежных сумм, ценность разных ставок и призов с точки зрения полезности недоступна для прямого наблюдения.

Первыми, кто действительно выиграет от появления роботов в доме, станут престарелые и немощные, которым полезный робот может обеспечить определенную степень независимости, недостижимую иными средствами. Даже если робот выполняет ограниченный круг заданий и имеет лишь зачаточное понимание происходящего, он может быть очень полезным.

Очевидно, действия лояльных машин должны будут ограничиваться правилами и запретами, как действия людей ограничиваются законами и социальными нормами. Некоторые специалисты предлагают в качестве решения безусловную ответственность.

• Конфликта между людьми и машинами можно избежать.

Особенности
Книга в доступной форме рассказывает о проблемах, связанных с развитием искусственного интеллекта.

Для кого
Для всех интересующихся перспективами развития искусственного интеллекта.



Отзывы экспертов

Обязательно к прочтению: интеллектуальный шедевр одного из подлинных первопроходцев в сфере ИИ не только захватывающе и убедительно раскрывает риски все более мощного искусственного интеллекта, но и предлагает многообещающее практическое решение.
Макс Тегмарк, космолог и астрофизик, профессор MIT

Это самая важная книга из прочитанных мной за немалое время. Она в доступной форме объясняет, почему наступающая эпоха искусственного сверхинтеллекта грозит человечеству утратой контроля. Самое главное, книга предлагает новаторское решение этой проблемы и дает основания надеяться на благополучный исход.
Даниэль Канеман, лауреат Нобелевской премии

Книга """"Совместимость"""" заставила меня разделить обеспокоенность Рассела в вопросе о том, насколько мы способны контролировать собственное грядущее творение - сверхинтеллектуальные машины. В отличие от непрофессионалов в этом вопросе, алармистов и футурологов, Рассел - ведущий авторитет в области ИИ. Его новая книга расскажет обществу об ИИ больше, чем любая другая. К тому же ее очень приятно читать.
Джуда Перл, лауреат премии Тьюринга

Прекрасно написанная книга обращается к фундаментальному вызову, встающему перед человечеством, - появлению все более разумных машин, подчиняющихся нашим командам, но не нашим истинным намерениям. Если вам не все равно, каким будет завтра, вы обязаны ее прочитать.
Йошуа Бенжио, лауреат премии Тьюринга

Издано при поддержке
Эта книга издана в рамках программы """"Книжные проекты Дмитрия Зимина""""


Об авторе
Стюарт Рассел - почетный профессор Калифорнийского университета в Беркли, специалист по искусственному интеллекту. В прошлом вице-председатель Совета Всемирного экономического форума по ИИ и робототехнике и советник ООН по контролю над вооружениями, член Ассоциации по продвижению ИИ, Ассоциации вычислительной техники и Американской ассоциации содействия развитию науки."""