Однако не только рассылка исполняемого кода может быть опасна. Например, нам могут сообщать о некой полезной технологии, которая на самом деле должна привести нас к катастрофе (например, сообщение в духе «быстро сожмите 10 кг плутония, и у вас будет новый источник энергии»). Такая рассылка может делаться некой «цивилизацией», чтобы заранее уничтожить конкурентов в космосе. При этом очевидно, что те страны, которые получат такие сообщения, будут в первую очередь искать технологии военного применения.
К аналогичным выводам, по словам Дж.Лесли, приходит Моравек в «Детях ума» (1988), предполагающий, что по радиоволнам в космосе может рассылаться чертежи опасной машины, способной к саморепликации, но обещающей удовлетворить все желания. Когда такая машина изготавливается, она истребляет «хозяина» и рассылает по космосу миллиарды своих копий. (Например, это могут быть чертежи эффективного наноробота с элементами Искусственного интеллекта.)
Обратный вариант состоит в том, что по SETI придёт полезное сообщение с предупреждением о некой угрозе, которая губит большинство цивилизаций, например: «Не делайте никаких экспериментов с Х-частицами, это может привести к взрыву, который разрушит планету». Но даже и в этом случае останутся сомнения, не обман ли это, чтобы лишить нас неких технологий. (Подтверждением было бы, если бы аналогичные сообщения приходили бы от других цивилизаций, расположенных в космосе в противоположном направлении.) и возможно, такое сообщение только усилит соблазн экспериментировать с Х-частицами.
SETI не относится к научной фантастике. Регулярные поиски внеземных сигналов идут с 60-х годов. В настоящий момент частный фонд ATA (http://www.seti.org/seti/projects/ata/ )планирует развернуть 350 радиотелескопов по всему земному шару с бюджетом в десятки миллионов долларов. Это означает, что если опасные сигналы в нашей галактике существуют, они могут быть пойманы в ближайшие несколько лет. Даже если они не будут содержать кода, направленного на уничтожение человечества, шок от такой встречи будет иметь значительные последствия для Земли.
Нет нужды говорить, что для радиотелескопов SETI верен свой закон Мура, который означает, что их характеристики возрастают во много раз каждые несколько лет (от проекта к проекту). Это означает, что шансы успешного SETI экспоненциально растут.
С этим риском связан интересный методологический аспект. Несмотря на то, что я каждый день в течение последнего года размышляю и читаю на темы глобальных рисков, я обнаружил эту опасную уязвимость в SETI только сейчас. Задним числом я смог найти ещё примерно четырёх человек, которые приходили к подобным выводам. Однако для себя я сделал важный вывод: вероятно, есть ещё не открытые глобальные риски, и даже если составные части некого риска по отдельности мне лично известны, то, чтобы соединить их, может потребоваться длительное время.
Основной защитой от SETI может быть тот факт, что в разумные цивилизации встречаются исключительно редко, один раз на миллиарды миллиардов звёзд. Есть определённые подтверждения этой идеи, основанные на рассуждениях, опирающихся на антропный принцип и число возможных вселенных. (Вкратце, суть этих рассуждений в следующем: наша вселенная настроена настолько точно, что потребовалось бы 10**500 вселенных с разными свойствами, чтобы попасть в заданные условия. Кроме того, если мозг человека весит 1 кг, а Солнечная система порядка 10**30 кг, то есть один шанс к 10**20, что произвольно взятый килограмм окажется человеческим мозгом. Из этого (но не только, часть рассуждений см. в моей статье «Природные катастрофы и антропный принцип) следует, что доля звёзд, у которых есть планеты с разумной жизнью, тоже имеет порядок величины 1 к 10**20 или ещё меньше, что означает, что мы одни на многие миллиарды световых лет и во всей видимой вселенной.)
Однако рано радоваться тому, что другие цивилизации очень редки. Потому что, чем реже цивилизации, тем уникальнее условия, в которых они находятся, что означает (опять же см. мою статью «Природные катастрофы и антропный принцип»), что, скорее всего, они находятся в конце периода благоприятных условий. Итак, или нам угрожает SETI и иные проявления инопланетного разума, или мы находимся в конце периода глобальной устойчивости.
Примечания.
1. [1] Cocconi, G., Morrison, P., “Searching for Interstellar Communications,” Nature, 184, 844-846, 1959.
2. [1] Tarter, J., “The Search for Extraterrestrial Intelligence (SETI),” Annu. Rev. Astron. Astrophys., 39, 511-548, 2001.
3. [1] De Duve, C. “Life Evolving. Molecules, Mind, and Meaning,” Oxford, New York, 2002.
4. [1] For a contrary view see Ward, P., Brownlee, D. “Rare Earth,” Copernicus, Springer-Verlag, New York., 2000.
5. [1] Sullivan, III, W., Brown, S., Wetherill, C., “Eavesdropping: The Radio Signature of Earth,” Science, 199, 377-388, 1978.
6. [1] Cited in Sagan, C. et al., “Carl Sagan’s Comic Connection,” p. 236, Cambridge University Press, Cambridge, 2000.
7. [1] Carrigan, R., Carrigan, N., “The Siren Stars,” serialized in Analog Mar.-May, 1970, published by Pyramid, New York, 1971, Hoyle, F., Elliot, J., “A is for Andromeda,” Souvenir Press Ltd., London, 1962.
8. [1] Carrigan, Jr., R., “The Ultimate Hacker: SETI signals may need to be decontaminated,” to be published in "Bioastronomy 2002: Life Amongst the Stars" Astronomical Society of the Pacific IAU Symposium Series, 213, editors Norris, R., Stootman, F, 2002.
9. [1] See, for instance, Secker, J., Wesson, P, and Lepock, J., “Astrophysical and biological constraints on radio panspermia,” Journal of the Royal Astronomical Society of Canada, 90, 17:184-192, 1996.
10. [1] Crevier. D., “The tumultuous history of the search for AI,” Basic Books-Harper, New York, 1993.
11. [1] Lesk, M., in comments that appear at http://www.lesk.com/mlesk/ksg97/ksg.html, 1997.
12. [1] Leigh, D., “An Interference-Resistant Search for Extraterrestrial Microwave Beacons,” submitted to The Division of Engineering and Applied Sciences, Harvard Ph.D. thesis, 1998. (http://seti.harvard.edu/grad/d_thes.html).
13. [1] Nealson, K., et al., “Mars Sample Return: Issues and Recommendations,” Space Sciences Board of the National Academy of Sciences, Task Group on Issues in Sample Return, 1997. <http://www.nationalacademies.org/ssb/mrsrnot.html>.
14. [1] Billingham, J., Chairman, “SETI Committee. Declaration of Principles Concerning Activities Following the Detection of Extraterrestrial Intelligence,” International Academy of Astronautics Position Paper Annex, 1996.
Реферат статьи Ричарда Керригэна «Следует ли обеззараживать сигналы SETI?» перевод:
http://www.proza.ru/texts/2007/11/20/582.html
DO POTENTIAL SETI SIGNALS NEED TO BE DECONTAMINATED?
Richard A. Carrigan, Jr.
Fermi National Accelerator Laboratory
http://home.fnal.gov/~carrigan/SETI/SETI%20Hacker_AC-03-IAA-8-3-06.doc
Профессор Р.Керригэн уже несколько лет исследует проблему рисков, которые может представлять пассивное SETI. В абстракте своей статьи он пишет: «Биологическое заражение от образцов из космоса является отдалённой, но допускаемой возможностью. Сигналы, получаемые в процессе поисков внеземного разума (SETI), тоже могут содержать вредоносную информацию в духе компьютерных вирусов, что известно под названием гипотезы SETI-хакера. Поиски внеземного разума в течение последних четырёх десятилетий дали мало обоснований для этой возможности. Некоторые доказывают, что информация из внеземного сигнала не может атаковать земной компьютер, потому что компьютерная логика и код являются уникальными и представляют собой непреодолимый файервол. В этой статье мы рассматриваем то, как можно проверить эти рассуждения. Обсуждаются меры по обеззараживанию внеземных разумных сигналов (ETI). Возможно, было бы правильно изменить современный протокол по обнаружению SETI. Помимо этого, возможное содержание сообщения ETI требует более широкой дискуссии». С помощью простых формул по радиофизике он показывает, что даже при современных средствах реальна передача информации объёмом в гигабайты на межзвёздное расстояние за приемлемое время (сутки) и деньги (тысячи долларов). Хотя инопланетные вирусы не могут заразить наши компьютеры напрямую, так как они не знают архитектуры и системы команд, послание внеземного разума может содержать некую привлекательную и убедительную по своим намерениям «наживку», которая может побудить нас создать аппаратный переводчик для той программы, которую они нам посылают. При этом мы должны отделять размышления о возможностях сверхцивилизаций от размышлений об их этике.
Особую тревогу вызывает статья Кэрригэна, если сопоставить её с недавней статьёй ведущего американского исследователя Искусственного интеллекта Е.Юдковски, «Искусственный интеллект как позитивный и негативный фактор глобального риска» (http://www.proza.ru/texts/2007/03/22-285.html), если в статье Юдковского вместо ИИ подставить «ETI сообщение». Основной риск видится в получении по каналам SETI так называемого Seed AI – минимально возможного зачатка ИИ, способного к самообучению и самосовершенствованию, но с заданными целями. Объём такой программы мог бы составлять меньше мегабайта. Человеческая цивилизация находится в особо уязвимом положении в настоящий момент, так как уже обладает достаточно мощными компьютерами, чтобы запустить ИИ, но ещё не создала свой ИИ и не верит и не понимает, что это возможно.
А.В.Турчин