3. Модис критикует тезис Курцвейла о росте мощности компьютеров в будущем. Но у него получается замкнутый круг в рассуждениях. Сначала Модис на основании мнения отдельных авторов делает допущение, что описывающий рост мощности компьютеров закон Мура скоро перестанет действовать. Затем он использует это как один из примеров, из которых выводит свой принцип. А на основании этого принципа «доказывает», что закон Мура перестанет действовать, и рассчитывает, что случится это через 10—20 лет.
Более того, сам Модис признается в том, что прочитал меньше четверти книги Курцвейла, которую он критикует. Можно ли писать научную статью с критикой какой-то работы, не прочитав ее целиком?
В целом, Андрей Витальевич, как мне кажется, проигнорировал содержательную сторону аргумента о технологической сингулярности, а именно — модель ускоренного саморазвития сверхинтеллекта (intelligence explosion), берущую начало еще в работах Ирвина Гуда. Мы не считаем, что проблема сингулярности ограничена вопросом, какой функцией лучше всего описать той или иной числовой ряд, и не правильно думать, что содержание будущих изменений интереса не представляет.
Наконец, как бы мимоходом, Вы заявляете свой основной тезис, подавая его как заключение: «нет оснований относиться к утверждениям о наблюдающемся в настоящее время ускорении темпов технологического развития серьезно, пока не будут приведены сопоставимые по строгости количественные данные, подтверждающие этот тезис». При этом в качестве обоснования приводит две весьма слабые статьи (Modis 2006, Huebner 2005). Выше уже приведены некоторые замечания к статье Модиса. Хуэбнер (2005) же допускает в своих рассуждениях ещё более серьёзные ошибки. Относительно его работы, могу заметить, что:
1. Методологически недопустимо ссылаться на список изобретений из популярной книги по истории науки и технологии как на репрезентативный список. Тут очевидна явная возможность ошибок селекции (selection bias). Можно сходу предложить множество альтернативных объяснений тому, что авторы любого учебника по истории технологий предпочтут уделить больше внимания ранним изобретениям. Например, исторически меньше данных о ранних изобретениях и ранние изобретения идут с большим интервалом, поэтому они в меньшей степени отфильтровываются, историю удобнее показывать, уделяя примерно равное внимание каждому веку (равным временным периодам), современные результаты (например, разработка рентгеновской литографии для микроэлектроники) слишком сложные и их важность непонятна неспециалисту, и т. д.
2. Анализ динамики количества патентов отсутствует. Хуэбнер не рассматривает альтернативные гипотезы о том, какие факторы могли бы влиять на изменение числа патентов (такие как цена регистрации, меняющиеся критерии новизны и т. д.). Он также никак не аргументирует, почему число патентов адекватно отражает инновационную активность. Так, например, не патентуются новые программные продукты, важность и роль которых зачастую намного превосходят многие патенты, например, поисковые системы и пр.
Это лишь некоторые из замечаний к статье Хуэбнера. В целом же, данные в поддержку тезиса об ускорении прогресса не просто сопоставимы, а качественно превосходят данные Модиса и Хуэбнера, «опровергающие» этот тезис.
Хотелось бы также сказать, что речь в статьях нашего сборника шла не о темпах развития, а о сути создаваемых технологий, их возможностях и следствиях. В том, что касается ускорения прогресса и сроков сингулярности — это интересный вопрос и заслуживает отдельного подробного изучения, и в первую очередь — изучения уже выпущенных работ зарубежных ученых.
Валерия Прайд. Думаю, мне стоит пояснить свою позицию относительно моей же рекомендации не составлять прогнозы более чем на 20 лет, максимум — 30 лет. Возможно, это позвучало слишком категорично. Конечно, я ни в коем случае не хочу поставить какие-то пределы исследовательской пытливости ученых. Но надо сказать, что современные подходы к прогнозированию слишком, я бы сказала, «линейны». Понимание же NBIC-конвергенции, трансгуманистических перспектив в целом, возможности технологической сингулярности и ее характера дают понимание грядущего фазового перехода, когда привычные методы прогнозирования становятся неадекватными действительности.
Назаретян А. П. Мне близко общее направление мысли трансгуманистов, симпатичен их технический профессионализм. Но здесь выделю два момента, которые меня смущают.
Первое. Смущает «безбрежный оптимизм» (выражение из анекдота Брежневских времен), вытекающий из недооценки исторического опыта. Изучение Универсальной истории убедило меня в том, что фазовые переходы в развитии общества или природы суть вынужденные ответы неравновесной системы на опасное снижение устойчивости. Прогресс — не самоцель, не самодовлеющая ценность, а средство сохранения. Будущее может быть «лучше» настоящего лишь по определенным, строго обозначенным параметрам, но по другим параметрам мир становится «хуже». Решение одних проблем провоцирует множество других, новых, еще более трудных проблем, и из этого выстраивается векторность эволюционных изменений: от более вероятных («естественных») к менее вероятным состояниям. Согласно синергетической модели, прогресс как «удаление от естества» означает только восстановление относительной устойчивости системы на все более высоком уровне неравновесия.
Я не раз писал о неизбежном (в рамках сценария выживания цивилизации) переходе от человеческой к постчеловеческой фазе планетарной и универсальной эволюции. Потому что не видно реалистического сценария, по которому цивилизация могла бы сохраниться при неизменном носителе (подробное обоснование этого вывода см. в моих книгах «Интеллект во Вселенной: истоки, становление, перспективы». М., 1991; «Цивилизационные кризисы в контексте Универсальной истории». М., 2001, 2004 и др.).
Например, развитие, воплощение и технологическое обеспечение гуманистического миропонимания, небывалое повышение ценности индивидуальной жизни привело к двух-трехкратному увеличению средней продолжительности жизни. Детская смертность в развитых странах исчисляется про милле, тогда как в средневековой Европе из десяти родившихся детей в среднем двое давали потомство в следующем поколении[††††††††††††††††††]. При практическом отсутствии естественного отбора наблюдается экспоненциальное накопление генетического груза и последовательное снижение биологической жизнеспособности человека в каждом следующем поколении: человек становится все более зависимым от искусственной среды — медицины, гигиены и т. д. Отсюда мыслимо движение либо «назад», к архаичным стандартам жизнеобеспечения (что чревато массовым мором, особенно в цивилизованных странах), либо «вперед», т.е. нарастающее вторжение инструментального интеллекта в самые интимные основы бытия — генная инженерия, внеутробное производство потомства и прочее. Небезосновательны также опасения, что «классический» человеческий разум не сможет кардинально и в массовом масштабе преодолеть оковы религиозного, а значит и военного мышления («они» — «мы»), а при ожидающемся развитии технологий такое мышление становится самоубийственным.
Есть и ряд других соображений, заставляющих полагать, что в ближайшие десятилетия такие понятия, как жизнь и смерть, человек и машина и т. д. придется решительно пересматривать: что выживание планетарной цивилизации на нынешнем этапе сопряжено с очередным, чрезвычайно крутым витком «удаления от естества». Но отказ от человеческой сущности — по-моему, не вожделенная задача, а печальная необходимость. Восторги по этому поводу сродни тому, что в психологии называется синдромом концлагеря или стокгольмским синдромом — когда узники влюблялись в эсэсовцев, а заложники — в террористов.
Ожидаемый переход от человеческой к постчеловеческой фазе Универсальной истории — трудный болезненный процесс, чреватый тяжелыми обострениями и глобальным обвалом. Перспектива во многом зависит от того, насколько осторожно, ответственно и сочувственно люди смогут отнестись к этой печальной неизбежности, подготовиться к ней. Даже такая, казалось бы, замечательная перспектива, как индивидуальное бессмертие (что бы это ни означало конкретно) тянет за собой массу проблем, к которым нужно готовиться заблаговременно. Не помню, кто из современных философов заметил: в мире, где исчезнет смерть, рождение превратится в болезнь…
Второе. Смущает пренебрежительное отношение трансгуманистов к психологическому аспекту проблемы. Они не готовы к обсуждению того, чем же отличается самый примитивный интеллект от самого сложного арифмометра. Соответственно — в чем же суть будущего Сверхинтеллекта? Будет он обладать автономной мотивацией, целеполаганием, или задачи должны закладываться извне? Если это интеллект (а не арифмометр), то он должен не только формировать цели и задачи, но и переживать какие-то аналоги эмоций (например, удовлетворенность-неудовлетворенность результатом действия и прочее), причем более сложных, чем доступны биосоциальному субъекту…