Есть несколько подходов, которые могут быть предприняты для обеззараживания сигналов SETI. Разбивание информации на пакеты, как это делается в настоящий момент для программы SETI@home, делает гораздо более трудным для большой программы снова собраться вместе и загрузится. Изоляция входящих сообщений на специальном компьютере позволит сохранить потенциально опасный сигнал в изолированном окружении. Могут быть также дополнительные техники, такие как использование одноразового программирования (one-time only coding) и постоянная проверка целостности программы. И снова, созыв коллегии экспертов поможет выработать необходимые подходы.
В конечном счёте, то, что нам нужно – это специальный протокол, подобный тому, который используется в отношении угрозы биологического заражения от зонда, вернувшегося из космоса. Международный комитет по космическим исследованиям (COSPAR) выработал такой протокол посредством интенсивных международных дискуссий, включавших даже ООН (13). Озабоченность биологическим заражением возникла благодаря многочисленным случаям, когда новые биологические виды вводились в другую экологическую среду и серьёзно повреждали её. Отметьте, что SETI имеет протокол (14) о том, как действовать в случае обнаружения сигнала, но его цель – избежать проблем связей с общественностью, если сигнал будет обнародован преждевременно.
Заключение.
Энергетическая эффективность и скорость распространения крайне благоприятствуют использованию электромагнитных сигналов для передачи на межзвёздные расстояния. Нынешние SETI усилия концентрируются на поисках электромагнитных сигналов. Электромагнитная передача возможна даже при современных земных технологиях, и может содержать достаточно информации, чтобы быть опасной. Однако для ETI сигналов необходим некоторый тип переводчика на принимающей стороне. Поэтому сигнал должен содержать некого рода наживку, чтобы побудить принимающую сторону расшифровать сообщение. Такая наживка, вероятно, будет весьма интересной и выглядеть приемлемой по намерениям. Это означает, что нужно с осторожностью работать с SETI сигналами.
Данная ситуация требует серьёзного внимания со стороны SETI сообщества. Возможность существования злонамеренного SETI-хакера должна быть оценена, и должны быть приняты защитные меры до получения любых реальных сигналов.
Примечания переводчика.
Данная статья наводит на серьёзные размышления, если сопоставить её с переведённой мною ранее статьёй Е. Юдковски «Искусственный интеллект как позитивный и негативный фактор глобального риска» (http://www.proza.ru/texts/2007/03/22-285.html.), если в статье Юдковского вместо ИИ подставить «ETI сообщение». Основной риск видится в получении по каналам SETI так называемого Seed AI – минимально возможного зачатка ИИ, способного к самообучению и самосовершенствованию, но с заданными целями.
Трудно согласится с оценкой опасного объёма информации, даваемой Кэрриганом. Если объём значимой части генокода человека – 50 мб, по Кэрригану, а объём части, кодирующей мозг, составляет только 3% от генома, то описание общих признаков мозга имеет порядок 1,5 мегабайт. А мозг младенца – это и есть зародыш интеллекта, но с заданными свойствами. Поскольку высокопродвинутая цивилизация могла бы достичь очень больших успехов в компрессии информации и эффективных алгоритмах, то пересылаемый ею Seed AI мог бы иметь порядок 100 кб.
Далее я привожу написанную мною для книги «Структура глобальной катастрофы» (http://www.proza.ru/texts/2007/08/10-217.html) главу о рисках SETI, где обсуждаются некоторые аспекты проблемы.
Риски, связанные с программой SETI.
Программа поиска внеземных радиосигналов уже давно осознаётся как потенциально опасная. В Соединённых Штатах действует закон, запрещающий посылку сообщений в космос. Поэтому все подобные эксперименты проводятся на радиотелескопе в Евпатории. При этому существуют вычисления, показывающие, что вероятность того, что наше случайное сообщение к кому-нибудь попадёт – ничтожно мала. (См. статью А.Зайцева «sending and searching for interstellar messages» http://fire.relarn.ru/126/docs/iac_07_a4_2.02.pdf). В этой статье допускается, что не только активное SETI, то есть посылание сигналов в космос, но и пассивное SETI, то есть чистое слушание, может быть опасно, поскольку получение и расшифровка сообщений может дать опасные технологии в руки неподготовленных индивидов и организаций. Однако есть и более жёсткий вариант рисков, связанных со слушанием космоса, которые возникают, если допустить, что ИИ возможен, и базовая программа для него может быть переслана по радио. (Эта проблема обсуждается в статье «The Ultimate Hacker:
SETI signals may need to be decontaminated» - «Абсолютный хакер: сигналы SETI по-видимому, следует обеззараживать» Ричарда Кэрригена http://home.fnal.gov/~carrigan/SETI/SETI%20Decon%20Australia%20poster%20paper.pdf где автор показывает, что возможно переслать значительный объёмы информации на межзвёздные расстояния, и обсуждает риск того, что в них может содержаться нечто вроде современных компьютерных вирусов.)
В фантастическом романе «Штамм Андромеда» люди принимают инопланетный сигнал, расшифровывают его и по содержащемуся в нём проекту создают некое биологическое существо, которое затем ведёт себя агрессивно. Сейчас бы мы назвали такую стратегию поведение «космическим компьютерным вирусом» или «трояном». Возможно, это самый дешёвый способ для сверхцивилизации распространяться по Вселенной – с помощью компьютерных вирусов, рассылаемых по радио. Разумеется, мы не будем такими идиотами, чтобы загрузить из космоса исполняемый код и затем запустить его на компьютере. Однако посылающие его могут повесить на него какую-нибудь приманку, как сейчас делают рассыльщики спама. Например, это может быть обещание новых технологий. При этом, после того, как источник радиосигнала (и его точные координаты) будет открыт, его смогут принимать одновременно многие страны и даже частные лица. Разумеется, кто-то из них может не удержаться перед соблазном запустить присланный исполняемый код, чтобы вкусить обещанных преимуществ. Разумеется, код, который они пришлют, должен также содержать и описание самого компьютера, на котором он будет исполняться. Это может выглядеть так: в начале идёт видеофильм, который распознать не трудно (резкие импульсы обозначают строчную и покадровую развёртку). Фильм обучает основам языка и затем излагает некие заманчивые цели. Затем идёт описание простейшей машины Поста (минимального компьютера с примерно 5 командами), и программа к нему, которая создаёт более сложный компьютер. А затем уже на нём выполняется программа с элементами ИИ, которая действует по обстоятельствам. Основное предположение здесь состоит в том, что сверхцивилизация, рассылающая такие сообщения, обладает интеллектом, на много порядков превосходящий нас, что позволяет им обвести нас вокруг пальца, как малых детей. Период уязвимости для этого риска не велик – от момента создания сверхмощных телескопов до момента, когда наш собственный ИИ будет достаточен, чтобы решить любые потребные задачи без инопланетной помощи. Однако с течением времени внутри этого периода погодовой риск растёт, так как нам становятся доступны всё более мощные радиотелескопы, а также могут быть открыты принципиально новые способы межзвёздной связи (например, может быть использовано мерцание звёзд, окружённых сферами Дайсона с открывающимися и закрывающимися отверстиями.) Очевидно, что если бы мы нашли способ связи, касающийся бесконечного числа звёзд, то вероятность обнаружить разумный сигнал с них была бы равна единице, и доля сигналов, содержащих опасный код, среди них была бы велика, так как рассылка собственных копий – хорошая мотивация для дорогостоящих межзвёздных контактов. Для посылки таких сообщение, содержащих мегабайты информации во все стороны, понадобились бы источники энергии звёздных масштабов. То есть организовать такие сообщения могла бы только цивилизации, на много порядков превосходящая нашу. При этом она могла бы находиться на расстоянии миллионов световых лет от нас, в силу чего не могла бы послать в нашу галактику космические корабли (и даже если бы она послала, они бы прибыли на стони тысяч лет позже, так как летели бы со скоростью меньшей световой, плюс время на разгон и торможение). Такая бы сверхцивилизация приложила бы титанические усилия, чтобы сделать своё сообщение очень понятным.
Цели такой рассылки могли бы быть различны:
1. Это делается для исследования вселенной. После исполнения кода возникают исследовательские зонды, которые отсылают назад информацию.
2. Это делается для того, что не возникло конкурирующих цивилизаций. все их зародыши уничтожаются.
3. Это делается для того, чтобы другая конкурирующая сверхцивилизация не смогла воспользоваться этим ресурсом.
4. это делается для того, чтобы подготовить базу к прилёту твердотельных космических кораблей. Это имеет смысл, если сверхцивилизация находится очень далеко, и соответственно, разрыв между световой скоростью радиосигнала и околосветовой скоростью её кораблей (допустим, 0,5 с) составляет тысячелетия.
5. это делается с нелогичными и непонятными для нас целями, например, как произведение искусства или игрушка. (Например, инопланетянам будет непонятно, зачем американцы воткнули флаг на луне. Стоило ли лететь за 300 000 км, чтобы установить раскрашенную железяку?)