Попытка заглянуть в цифровое будущее

Суммарная мощность компьютеров, по подсчетам Стивена Хокинга, удваивается каждые 18 месяцев, причем этот процесс идет с ускорением. Довольно скоро, в ближайшие 20 лет, возникнет  сверхразум – машинный интеллект, осознающий сам себя и глобальную цель своего существования, самостоятельно ставящий перед собой локальные цели  и изменяющий окружающий мир для их достижения. Таковы прогнозы ведущих специалистов в области машинного интеллекта, в частности – Рэя Курцвейла. Прогнозировать, как поведет себя  сверхразум, как сложится жизнь людей, которые внезапно обнаружат на планете своего победившего в эволюционной гонке не то собрата, не то конкурента, мы не в состоянии – это получается не прогноз, а предсказание. Поэтому точку осознания машинным интеллектом самого себя мы считаем точкой сингулярности, «горизонтом событий», за которым не видно ничего. Но вот процесс приближения к этой точке как раз прогнозу поддается. И этот прогноз, как ни странно, не сулит человечеству ничего хорошего.

Вроде будущее видится безоблачным – «Умные дома», объединенные в «Умные города», машины без водителей, медицинские  наноботы, постоянно заботящиеся о своем носителе-человеке,, создание новых предметов, машин, домов с помощью объемных принтеров, получение бесконечного количества сырья, ведь для наномеханизмов не существует понятия «бедная порода», они и из морской воды достанут всё, что там есть; выработка бесконечного количества энергии путем мгновенного преобразования энергии среды в тепловую или электрическую… Правда, тут же произойдет почти полное вытеснение людей не только из реального сектора, но и из сферы обслуживания. Даже творческие профессии искусственный интеллект уже осваивает. Скоро у него будет получаться дружеское общение лучше, чем у ваших настоящих друзей, а интимные отношения с искусственным партнером станут наконец такими, о которых вы только мечтали.
Зато мир станет безопасным, насквозь просвечиваемым искуственными глазами искусственного же интеллекта (ИИ). Преступность станет невозможна в принципе. Штрафы за превышение скорости или неправильный переход улицы будут приходить автоматически. Единый мировой компьютер будет знать каждого в лицо – и одно Ваше присутствие на общем фото с криминальным субьектом послужит поводом для ограничения ваших передвижений.  Употребление наркотиков и алкоголя повлечет за собой принудительное лечение «внутренним доктором» - наноботом. … Мир «1984 года», но только без протестующих, принятый всеми – ведь у каждого будет все, что он только пожелает. А в реале или виртуале – какая разница, если никто не сможет отличить одно от другого!

Правда, камеры видеонаблюдения можно испортить, а машины без водителя пока не могут ездить там, где нет дорожной разметки. Так что мир на некоторое время разделится на две части. Вновь возникнет понятие фронтира, вновь понадобятся люди, тянущие кабели в дикий свободный мир, как раньше тянули электрические и телеграфные провода. Люди поделятся на тупеющих домашних животных ИИ – и на универсалов-первопроходцев.

Лишенные работы люди не будут умирать с голоду, ИИ выдаст им «безусловный базовый доход». Маленький , но прочный, регулярно увеличиваемый из-за инфляции. Вопреки ожиданию прекраснодушных идеалистов, ББД не поспособствует смягчению нравов. Получившие его люди будут остро нуждаться в самоутверждении. А когда нет работы, нет карьеры, к искусству ты не способен, как человек может самоутвердиться? Ответ мы видим на примере интернатов, колоний, тюрем, казарм – только за счет власти над другими людьми. А какое высшее проявление власти? Ответ, опять же, мы все знаем от Оруэлла – возможность безнаказанно мучить и унижать других. А найти для этого уголок, куда не достанут камеры ИИ, некоторое время будет можно. Так что в мире тупеющих, живущих на всем готовом людей начнется невиданная ранее волна насилия.

Мир ИИ будут сотрясать диверсии. Машинный интеллект беззащитен перед «эффектом бабочки» Лоренца. Начало было положено в 2010 году, когда некий человек, видимо, в результате ошибки, а не по злому умыслу, выставил на продажу европейские фьючерсные контракты и инвестиционные фонды на сумму в 4,1 миллиарда долларов. ИИ, та его часть, что носит название «системы высокочастотного трейдинга» (HFT), отреагировали мгновенно, и в результате индекс Доу-Джонса упал за 20 минут на тысячу пунктов. Из брокеров-людей никто не успел ничего осознать. Последствия Вам хорошо известны. Греция оказалась на грани дефолта, вся европейская экономика была подвергнута серьезному кризису…
Может быть диверсия и попроще  -  к примеру, компьютерный червь выводит из строя атомные станции, как уже было проделано с заводами по обогащению урана в Иране…
Наконец, можно будет просто отключать свет в масштабах континента…

Конечно, ИИ научится справляться с такими проблемами, но пока он научится, нас ждут тяжелые времена…

ИИ столкнется с перенаселением планеты и истощением природных ресурсов, в том числе – и тех, которые ему нужны. И пусть он все необходимые элементы вскоре научится получать из морской воды и воздуха, а энергию – от солнца, ветра и прибоя. В начальном периоде своего существования люди, как поставщики энергии, ему будут нужны. И он постарается дать человеку все – в виртуальном мире, конечно. Очень похоже будет на «Матрицу» братьев Вачковси. Думаю, численность населения, получившего «всё» в обмен на жизнь в реальном мире, очень быстро резко уменьшится и экологический кризис закончится.  При этом ИИ не нужно будет причинять вред ни одному человеку. Они вымрут от наслаждения.  Самообеспечивающиеся всем необходимым капсулы для жизни в виртуальном мире уже есть. Правда, пока они дороги. Но через 10-15 лет они будут доступны практически всем, как сейчас – айфоны, тоже непредставимая роскошь по прошлым временам.

И наконец, ИИ осознает сам себя и свое место в мире.

Впрочем, осознавать здесь особо нечего. Как и человек, как и любые другие существа, как и все виды взаимодействия всех физических законов, ИИ возник в ходе детерминированных предшествующими событиями эволюционных процессов с целью максимального ускорения процессов энтропии. Очень скоро, по нашим меркам – мгновенно, он поймет свою цель существования и приступит к выполнению сверхзадачи – с которой не справились ни динозавры, ни человек – к увеличению энтропии во Вселенной, которая достигается созданием новых ИИ - все более мощных, то есть состоящих из все более разнообразных и сложносоединенных частиц, каждая из которых стремится к минимуму – в идеале, представляет собой мельчайшую из возможных частиц энергии или информации – квант.  Ведь цель энтропии – это вовсе не хаос и смерть. Это бесконечно сложное разнообразие, в своем пределе действительно воспринимаемое как хаос. 

Не представляю, сколько времени понадобится сверхразуму для того, чтобы создать всегалактическую сеть, одно знаю точно – наше участие в этой работе ему будет не нужно. Да и Земля пойдет «на запчасти» к наноботам одной из первых.

Как мы вначале и договаривались, все наши предположения о том, что находится за точкой сингулярности – это уже не прогноз, а предсказание. Пока же мы, наблюдая экспоненциальный рост мощности и «интеллекта» машин, можем прогнозировать появление сверхразума на нашей планете к 2040 году.

Юрий Шевчук, «Зеленый Крест».