Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте
Джон Брокман
«Что вы думаете о машинах, которые думают?» На этот вопрос – и на другие вопросы, вытекающие из него, – отвечают ученые и популяризаторы науки, инженеры и философы, писатели-фантасты и прочие люди искусства – без малого две сотни интеллектуалов. Российскому читателю многие из них хорошо известны: Стивен Пинкер, Лоуренс Краусс, Фрэнк Вильчек, Роберт Сапольски, Мартин Рис, Шон Кэрролл, Ник Бостром, Мартин Селигман, Майкл Шермер, Дэниел Деннет, Марио Ливио, Дэниел Эверетт, Джон Маркофф, Эрик Тополь, Сэт Ллойд, Фримен Дайсон, Карло Ровелли… Их взгляды на предмет порой радикально различаются, кто-то считает искусственный интеллект благом, кто-то – злом, кто-то – нашим неизбежным будущим, кто-то – вздором, а кто-то – уже существующей реальностью. Такое многообразие мнений поможет читателю составить целостное и всестороннее представление о проблеме.
Джон Брокман
Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте
Переводчик Максим Исаков
Редактор Александр Петров
Руководитель проекта А. Тарасова
Дизайн обложки Ю. Буга
Корректоры М. Миловидова, Е. Сметанникова
Компьютерная верстка М. Поташкин
Арт-директор Ю. Буга
Иллюстрация обложки Shutterstock.com
© Edge Foundation, Inc., 2015
All rights reserved.
© Издание на русском языке, перевод, оформление. ООО «Альпина нон-фикшн», 2017
Все права защищены. Произведение предназначено исключительно для частного использования. Никакая часть электронного экземпляра данной книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами, включая размещение в сети Интернет и в корпоративных сетях, для публичного или коллективного использования без письменного разрешения владельца авторских прав. За нарушение авторских прав законодательством предусмотрена выплата компенсации правообладателя в размере до 5 млн. рублей (ст. 49 ЗОАП), а также уголовная ответственность в виде лишения свободы на срок до 6 лет (ст. 146 УК РФ).
* * *
Политехнический музей – национальный музей науки и техники, один из крупнейших научно-технических музеев мира. Миссия музея – просвещение и популяризация научных и технических знаний:
• Мы верим, что миром движут любопытство и созидание.
• Мы открываем людям прошлое, настоящее и будущее науки.
• Мы создаем территорию просвещения, свободной мысли и смелого эксперимента.
Среди просветительских проектов музея – многочисленные выставки, знаменитый Лекторий, Научные лаборатории для детей, Фестиваль актуального научного кино, а также Издательская программа, цель которой – поддержка самых качественных научно-популярных книг, отобранных экспертами музея и выпущенных в сотрудничестве с лучшими издательствами страны.
Вы держите в руках одну из этих книг.
Подробнее о музее и его проектах – на сайте www.polymus.ru
Марвину Мински
Благодарности
Я хочу сказать спасибо Питеру Хаббарду из HarperCollins и моему агенту Максу Брокману за постоянную поддержку и выразить особую благодарность – уже в который раз – Саре Липпинкотт за вдумчивое и внимательное отношение к рукописи.
Предисловие
Философские дискуссии 1980-х годов вокруг искусственного интеллекта (ИИ) – о том, могут ли компьютеры по-настоящему мыслить, обладать сознанием и т. д., – в последнее время привели к новой полемике о том, как нам относиться к тем формам искусственного интеллекта, которые, как многие утверждают, уже существуют. Эти ИИ, если они достигнут уровня сверхинтеллекта (согласно определению, которое дал Ник Бостром в одноименной книге[1 - Бостром Н. Искусственный интеллект: Этапы. Угрозы. Стратегии. – М.: Манн, Иванов и Фербер, 2016.], вышедшей в 2014 году), могут создать экзистенциальные риски, способные привести к тому, что Мартин Рис называет «нашим последним часом». Стивен Хокинг недавно попал на первые полосы международных изданий, когда сказал BBC, что, по его мнению, разработка полноценного искусственного интеллекта может означать конец рода человеческого.
Итак, вопрос Edge[2 - Edge Foundation – организация,