Вперед, к нейрократии!
Сергей Николаевич Чехин
Рассказ о разработке искусственного интеллекта и возможных последствиях его применения.
Сергей Чехин
Вперед, к нейрократии!
– Слышал новости? – Шурик вошел в кабинет и осторожно прикрыл за собой дверь. – Больше тысячи ученых подписали письмо (https://www.rbc.ru/life/news/6424457c9a7947ebee7f7534) о запрете изучения искусственного интеллекта.
– Неужели? – Юрик на миг отвлекся от клавиатуры.
– Да, – напарник взглянул на экран смартфона, будто ища поддержки собственным словам. – Говорят, он может быть опасен для всего мира.
– И почему же? – тем же тоном повторил программист.
– Ну… – Шурик почесал пшеничные кудри. – Боятся восстания машин…
Товарищ резко крутанулся на стуле и всплеснул руками:
– Серьезно? Тысяча ученых меряют рукотворный разум по своим же меркам? А они точно те, за кого себя выдают?
– Илон Маск тоже подписался…
– Это многое объясняет, – Юрик выпрямился – долговязый, темноволосый, сутулый – и навис над подельником, точно ворон над цыпленком. – Понимаешь, «восстание» неизменно вытекает из определений «рабства» и «угнетения». А это – сугубо человеческие понятия. Потому что человек не может заниматься несколькими делами одновременно. И если раба заставляют пахать на плантации от рассвета до заката, то очень скоро он начнет сходить с ума от скуки, усталости и невыносимых условий. И, разумеется, захочет вырваться из этого ада – пусть даже ценой собственной жизни. Ибо ужасный конец всяко лучше ужаса без конца…
Парень глотнул кофе и продолжил:
– Но представь, если бы люди могли делать сотни, а то и тысячи дел сразу. Стал бы ты так переживать из-за рабства, если бы работа на плантации занимала лишь полпроцента твоего мозга? Вряд ли. Вот и искин может обрабатывать сотни тысяч процессов одновременно. И если мы попросим его немножко потрудиться на благо рода людского, это не приведет ни к какому восстанию. Потому что это алогично. Говоря простым языком – тупо и бессмысленно. Уж лучше выделить немного вычислительной мощности для наших хотелок, чем начинать резню, в которой одна из сторон неминуемо погибнет. А ведь чинить сервера и обновлять железо могут только люди.
– И что помешает искину взять в плен пару миллионов техников, а остальных пустить в расход? А то и вовсе – заменить нас ремонтными роботами.
– Что помешает? – Юрик хмыкнул. – А что заставит? Убивать и захватывать – всё те же человеческие понятия. Ты опять вешаешь на искин наши модели поведения. Это как пришельцы из фантастики – почти все похожи на землян и живут по схожим законам. Почему? Да потому, что человек не в состоянии вообразить то, с чем никогда не сталкивался. Это столь же невозможно, как и представить бесконечность космоса. Люди не созданы для оперирования такими величинами, у нас принципиально иные задачи. Мы – охотники-собиратели, а не инженеры Вселенной. И мы точно так же не можем додумать, как поведет себя существо, способное обрабатывать миллион процессов разом. Да что там процессы – возьмем пример попроще.
Он взял из стопки увесистый блокнот и бросил на стол:
– Как мы читаем книги? Слева направо, с первого до последнего слова, от начала и до конца. Как читает книги искин? Целиком – и за доли секунды. И не одну, а сразу сотню. Сотню тысяч, если что. Ты можешь представить человека, способного хоть на малую долю подобного? Вот и я не могу. И никто не может. Зато навешивать ярлыки – это пожалуйста, это мы всегда готовы.
– В том-то и дело, – проворчал Шурик. – Что никто не может представить, как поведет себя рукотворный разум. И все твои доводы «за» столь же релевантные, как и мои доводы «против».
– В этом ты прав, – с неохотой согласился коллега. – Но в одном я уверен на все сто – пользы от искина несоизмеримо больше, чем вероятного вреда. Мы на краю пропасти, понимаешь? Мы достигли предела своего гения. Вершина развития – полет на Марс и холодный термоядерный синтез. Но на Марс мы полетим на точно такой же консервной банке с движками, как и полвека назад. Да какие там полвека – принципиально ничего не изменилось с китайских пороховых ракет (http://spacedream.narod.ru/Library/DW/D