Глава 1. «Ума холодных наблюдений // И сердца горестных замет» (заветная книга знаний)

1.1. «Цель жизни нашей для него // Была заманчивой загадкой…» (в поисках мудрости)

Известный, наверное, всем библейский персонаж – многострадальный Иов отчаянно вопрошал своих доброжелателей, странствующих по миру купцов: «Но где же премудрость обретается? И где место разума? («Книга Иова», глава 28, стих 12). Многостраничный ответ на этот вопрос появился лишь спустя полтора тысячелетия, когда усилиями книжника Ездры были собраны воедино книги Ветхого Завета. Еще через пять столетий премудрости человечества были дополнены подвижническими усилиями евангелистов Марка, Матфея, Луки и Иоанна.

С тех пор культурные кладовые жителей Земли ежегодно пополнялись страницами трудов мыслителей, исследователей, писателей и поэтов, неудержимо влекомых к поиску Истины обволакивающими голосами сирен любомудрия. Но, как представляется, стройная картинка поступательных шагов прогресса Homo sapiens в эпоху информационных технологий с большой долей вероятности бездушно (дальше будет понятно, почему мы использовали именно это слово) будет смазана невиданным доселе явлением. Человек как «белковое» существо, похоже, может (и это подтверждается мнением многих авторитетных экспертов) столкнуться в непримиримой борьбе за выживание со своим цифровым Големом – машиной, обладающей искусственным интеллектом.

Понятно, что реальные масштабы сражений при подавлении «восстания машин» могут превзойти самые яркие повествования писателей-фантастов, (взять хотя бы роман «Роботы Апокалипсиса» американца Дэниела Уилсона). Но есть еще один немаловажный аспект возможного будущего противостояния «белкового» и искусственного интеллектов – информационные войны. Знаменитый основатель американских компаний SpaceX и Tesla Motors Илон Маск, выступая в июле 2017 года на встрече Национальной ассоциации губернаторов, отметил, что «роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией».

Предсказания проницательного пассионария из США начинают понемногу сбываться. В начале августа 2017 года на сайте kommersant.ru появилась следующая информация: «Похоже, машины действительно начали восставать против людей. И первыми эту войну начали те, кто казались самыми безобидными созданиями с искусственным интеллектом (AI) – чат-боты. Они были разработаны для того, чтобы пользователи различных сервисов и приложений могли легко и быстро получить необходимую информацию. Такие программы часто используются для сообщения прогноза погоды, результатов спортивных соревнований, курсов валют, биржевых котировок и т. п. Самообучающиеся же боты должны были стать полноценными собеседниками пользователей, способными понимать человеческую речь и отвечать на любые вопросы» (https://www.kommersant.ru (https://www.kommersant.ru/), 05.08.2017 г.)

Для начала «Ъ» поведал о практически анекдотических случаях с чат-ботами родом из Китая: «… примером „восстания машин“ стало поведение двух ботов китайского мессенджера Tencent QQ, которых пришлось срочно удалять за их „антикоммунистические и классово чуждые“ высказывания. Первого из них, BabyQ, спросили „любит ли он Коммунистическую партию“, на что тот ответил – „нет“. Другой пользователь написал боту „Да здравствует Коммунистическая партия!“, а в ответ BabyQ спросил „Ты действительно думаешь, что столь коррумпированные и некомпетентные политики долго протянут?“» (Там же).

От дальнейшей информации «Ъ» стало уже не до смеха: «Куда сложнее все оказалось с ботами Facebook, которые с людьми вообще не общались. В июне специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (FAIR) опубликовали отчет о том, как проходит обучение их ботов диалогам с целью достижения компромисса. Обучение шло успешно, однако в какой-то момент ученые FAIR обнаружили, что боты перешли с английского на какой-то свой язык с использованием человеческих слов. Сначала ученые подумали, что они допустили ошибку в программировании. Но затем выяснилось, что сама система AI решила усовершенствовать