Еще одно письмо от А.Лебедева (см.также его первое письмо ко мне и последующую переписку, посвященные, в основном, идеологическим аспектам повести "Сеть "Нанотех".)

Получено 14 июля 1998 г.

Здравствуйте!

Это снова я, с новыми возражениями к "Нанотеху": На этот раз никакой политики, одна наука!

1. Экология

В процессе своего распространения и размножения в окружающей среде, киборги-бактерии неизбежно вторгаются в чужие экологические ниши, во все сообщества микроорганизмов, присутствующие везде, в каждой луже. Как сложатся их отношения с "местными" - неизвестно, но нейтралитет вряд ли удастся сохранить.

Независимо от того, станут киборги-бактерии "хищниками" или "жертвами", экологическое равновесие на микроуровне будет нарушено, что по цепочке повлияет и на макроуровень.

Кстати, вряд ли имунная система человека (равно как и любого другого живого существа) спокойно встретит вторжение "чужаков" - пусть безвредных или даже полезных, но как об этом узнают лимфоциты? Они книжек не читают!

Углеродная технология в строительстве любых предметов (если она возможна), конечно, более "чистая", чем современные химические технологии. Однако при массовом использовании в перспективе она чревата изменением состава атмосферы и нарушением углеродного цикла Земли.

2. Эволюция

Микроорганизмы неизбежно мутируют. Доказательством этому служит как все многообразие жизни на Земле (выросшее из простейших первичного океана), так и факты появления все новых штаммов болезнетворных микробов, нечувствительных к прежним антибиотикам - причем на такую эволюцию ушли не миллиарды лет, а всего лишь десятки!

Не минет чаша сия и киборгов-бактерий. Даже если вероятность мутации отдельной клетки сделать ничтожно малой (впрочем, НЕ сколь угодно малой в силу эффектов квантовой неопределенности, теплового движения молекул, действия ионизирующих излучений и др.), интенсивность мутации в популяции будет расти пропорционально ее численности (которая должна быть ОЧЕНЬ большой).

Так что следует ожидать появления киборгов, выполняющих приказы неправильно или не выполняющих вовсе, и передающих эти качества по наследству.

Вслед за изменчивостью в дело вступает отбор. В каком направлении он будет действовать - тоже ясно. Преимущества получают именно "дефектные" киборги-бактерии, НЕ занимающиеся "самопожертвованием", НЕ участвующие во всяческих затеях человека, а живущие и плодящиеся в свое удовольствие. Скорость размножения перестанет быть управляемой величиной и приблизится к максимальной в данных условиях обитания.

Дальнейшая эволюция, связанная с переходом от одноклеточных форм к многоклеточным, может протекать для киборгов многократно быстрее, чем это происходило в первичном океане, благодаря более совершенным средствам связи. Так, одна "неуправляемая" клетка может просто приказать "управляемым" присоединиться к ней или быть съеденными.

В перспективе мы получаем новые макроскопические организмы (существа), обладающие поистине сверхъестественными (в смысле - превосходящие имеющиеся в живой природе) способностями и использующие эти способности в своих интересах. Согласитесь, это уже идейка не для светлой утопии, а для фильма ужасов...

Надеюсь, вы не проигнорируете такие научные возражения.

Всего хорошего!

Алексей В. Лебедев


Ответ:

Здравствуйте Алексей!

Извините, что очень долго не отвечал на Ваше письмо - я намеренно задерживал ответ до тех пор пока не выпустил он-лайновый вариант моей гипертекстовой энциклопедии "Ключ к Будущему", где дается понятийный аппарат, используемый в моих сочинениях. Некоторые из понятий используемых в конце письма требуют четкого определения через другие понятия, которые в свою очередь тоже требуют определения. Теперь у меня появилась возможность отвечать Вам, не сочиняя огромный трактат, а просто давая гипертекстовую ссылку на определение того или иного понятия, а уж насколько глубоко Вы захотите пройти по цепочке определений определений - зависит только от Вас.

Первое впечатление, которое у меня возникло по прочтении Вашего последнего письма, это то, что Вы восприняли "сказку" (Ваше слово из одного из предыдущих писем) слишком всерьез. Сочинитель научно-фантастических романов вовсе не обязан давать окончательное решение технических проблем - это задача инженеров и ученых. Фантаст лишь ставит задачу. Мне очень нравится пример с романом Жюля Верна "Из пушки на Луну". Жюль Верн лишь поставил задачу доставки людей на Луну техническими средствами, описав при этом техническое средство реально совершенно не пригодное для доставки людей - слишком велики ускорения при выстреле, они просто раздавят людей. Это ясно понял Циолковский, который стал придумывать, как исправить ошибку Жюля Верна. В конце концов, для уменьшения перегрузок, он предложил лететь не на ядре, а на самой пушке, при этом максимально уменьшив размер ядер (в пределе - до размера отдельных молекул и атомов) и увеличив их количество. Пушка, выстреливающая газом, состоящим из отдельных молекул и атомов - это не что иное, как ракета. Так кончился первый этап работы - работа фантаста, и начался от второй этап - работа ученого. Затем был еще третий этап - работа инженеров, которые эту самую ракету построили в "металле". Но без первого этапа ракеты бы не было.

Что касается конкретно той системы, которая описана в повести "Сеть Нанотех", то она, будучи продуктом первого этапа, разумеется не лишена некоторых недостатков, в том числе одного очень крупного, из-за которого она мне самому не очень нравится. Но тот недостаток, который вижу я - это вовсе не те "недостатки" которые Вы перечисляете в своем письме.

Теперь конкретно по пунктам Вашего письма:

В процессе своего распространения и размножения в окружающей среде, киборги-бактерии неизбежно вторгаются в чужие экологические ниши

Чисто пространственно - да, вторгаются. Но о вторжении в экологическом смысле можно говорить только тогда, когда начинается конкуренция между видами за использование каких-либо ограниченных ресурсов. Бактерии-киборги не конкурируют с обычными бактериями за пищу, поскольку у них совершенно другая энергетика, основанная не на химических носителях энергии (пище), а на холодном ядерном синтезе. Вряд ли они будут конкурировать за углерод, содержащийся в воздухе в составе углекислого газа, поскольку технологии Нанотеха, основанные на принципе возвращения в природу атомов из неиспользуемых вещей, будут отнимать у углеродного цикла Земли меньше углерода, чем нынешнее производство "мертвых" вещей из пластмассы.

вряд ли имунная система человека (равно как и любого другого живого существа) спокойно встретит вторжение "чужаков"

Имунная система реагирует на белковые молекулы, находящиеся на внешней поверхности клетки. На внешней поверхности киборг-бактерий находится "лес" из манипуляторов, сделанных не из белкового вещества, а из чистого углерода.

Микроорганизмы неизбежно мутируют.

А я и не спорю. Между прочим в повести этому вопросу посвящен целый абзац. Но поскольку Вы его очевидно пропустили при чтении, я вынужден буду процитировать здесь текст повести:

- "А работа с мутантами не опасна?"

- "Опасна. Очень опасна. У нас был один несчастный случай... Довольно страшный... Не хочу об этом вспоминать. Но те бактерии, которые мы выпустили на волю сейчас, абсолютно безопасны. Мутации в них запрещены, а если какой-то один мутант случайно все же возникнет, он будет немедленно уничтожен своими нормальными собратьями, до того как успеет нанести какой-либо вред. Изменения в конструкции этих киборг-бактерий могут происходить только целенаправленно, по командам, получаемым по сети "Нанотех"..."

интенсивность мутации в популяции будет расти пропорционально ее численности

Абсолютно правильно. Но система Нанотех популяцией (т.е. простым множеством однотипных организмов) не является. Это именно система (или если угодно, распределенный в пространстве единый организм, состоящий из огромного количества клеток, связанных между собой каналами связи), у которой есть отдельные подсистемы, в частности подсистема, напоминающая по своим функциям имунную систему человеческого организма, которая тоже занята отлавливанием мутирующих клеток. А в любом организме количество клеток-мутантов зависит в первую очередь не от общего количества клеток, а от качества работы имунной системы.

Вообще-то вопрос о мутациях является частным случаем гораздо более общего вопроса о надежности сложных технических систем. Причем этот вопрос тем важнее, чем сложнее система. С какого-то момента он вообще начинает определять быть системе или не быть. Любая техническая система всегда имеет вероятность отказа большую чем ноль. Насколько большую - определяется целым рядом факторов, как технических, так и экономических (мероприятия по повышению надежности системы обычно дорого стоят). Затратив достаточно средств и усилий можно приблизиться к нулю сколь угодно близко, но достичь его невозможно в принципе.

В конкретном случае с Нанотехом огромная сложность системы может показаться фактором увеличивающим вероятность катастрофического отказа. Но на самом деле вероятность отказа увеличивается с ростом сложности системы только до тех пор, пока система не приобретает способности к самовосстановлению и саморемонту. Но Нанотех как раз и является саморемонтирующейся системой. Плюс к тому, это распределенная система, т.е. здесь мы имеем дело не с дублированием, и даже не с троированием, а с многократным резервированием всех систем. Наглядный пример того, насколько высокой может быть надежность у многократно резервированной системы показывает нам наш мозг - каждый день в нем погибают тысячи нейронов, но это практически не сказывается на его работоспособности (до определенного момента - но ведь нервные клетки, в отличие от бактерий-киборгов, не восстанавливаются). Плюс к тому, над Нанотехом не довлеют экономические факторы - насколько бы не сложны были мероприятия по повышению его надежности, все они будут бесплатны (хотя и могут потребовать больших усилий, но люди не будут против приложить эти усилия, поскольку для себя же будут стараться, ради своей собственной безопасности).

Дальнейшая эволюция, связанная с переходом от одноклеточных форм к многоклеточным, может протекать для киборгов многократно быстрее, [:] В перспективе мы получаем новые макроскопические организмы (существа), обладающие поистине сверхъестественными (в смысле - превосходящие имеющиеся в живой природе) способностями и использующие эти способности в своих интересах.

Идея интересная, хотя, к сожалению, не новая - я писал об этом еще семь лет назад в "Черве" (Правда, элементарными объектами эволюции, на которые воздействовал естественный отбор там были не киборг-бактерии, а еще более экзотические сущности).

это уже идейка не для светлой утопии, а для фильма ужасов...

Совершенно верно, но только я не люблю повторяться, и ужасами больше не занимаюсь, как впрочем и светлыми утопиями ("светлая утопия" - это Вы про "Сеть Нанотех"? Ничего себе светлая утопия, когда главного героя почти всю повесть держат в каземате и под конец чуть не убивают - Вы однако оптимист :-). Если хотите увидеть роман ужасов на заданную Вами тему, пишите его сами, а меня от этого дела увольте. Я считаю, что духовная атмосфера в нашей стране и так загажена ужасами и пессимизмом, и усугублять это положение я не намерен.

Вообще я должен заметить, что техническую систему описанную в повести "Сеть Нанотех" следует рассматривать в контексте плана развертывания Модульной Системы Бессмертия (МСБ), изложенного в книге "Генератор Желаний" (Хотя напрямую в тексте повести об этом не говориться - я предполагал, что читатель уже знаком с общей схемой МСБ и для него это должно быть очевидно). Сеть Нанотех - это попытка решить в первую очередь конкретную частную проблему первого этапа развертывания МСБ - развертывание инфраструктуры биоинтерфейса. Хотя возможно это и не самое лучшее решение.

А теперь о главном недостатке, как я его понимаю.

Технология Нанотеха является ресурсосберегающей технологией, и ее применение чревато всеми опасностями характерными для этого типа технологий. Поэтому в последней версии гипертекстовой энциклопедии "Ключ к Будущему" я специально добавил статью о той части сети Нанотех, которая не была описана в повести, но которая, возможно является важнейшей частью этой системы. Я говорю о космической инфраструктуре сети "Нанотех".

Главный недостаток системы Нанотех (в том виде как она описана в повести) состоит как раз не в том, что она может начать самопроизвольно эволюционировать, а в том что ей никто этого делать не позволит. С этой точки зрения гораздо предпочтительнее была бы система описанная в "Повелителе Марса" ("Червь", книга 2), но только построенная не на основе макроскопических роботов, как описано в "Повелителе:", а на основе нанотехнологических устройств. Хотя такая система действительно представляла бы именно ту опасность о которой говорите Вы - опасность полного выхода из-под контроля человека. Но всегда ли полный контроль человека является благом, и всегда ли контроль машины - это зло?

Впрочем это чисто академический вопрос. Я думаю, что к тому моменту, когда такая система будет создана на самом деле, стирание грани между человеком и техникой уже произойдет, и мы не сможем сказать, кто осуществляет контроль - человек или техническая система - поскольку не сможем определить, где кончается человек, и где начинается техническая система.

С уважением,

Александр Лазаревич


Продолжение дискуссии.

Письмо полученное от А.Лебедева 2 февраля 1999 года:

Здравствуйте!

Хотел бы уточнить свои замечания по поводу мутаций, поскольку Вы, к сожалению, недостаточно вникли в мою аргументацию.

Речь совсем не о том, что разрешено и что запрещено. Разве самолетам "разрешено" падать, поездам - сходить с рельсов, атомным электростанциям - взрываться? И потом, нельзя "запретить" теорию вероятностей и квантовые флуктуации!

Конечно, нормальным клеткам можно придать дополнительную функцию борьбы с мутантами (для чего, кстати, понадобится особая система распознавания, которую, в свою очередь, можно попытаться взломать или обойти и т.д.). Но ведь и мутанты не будут сидеть сложа манипуляторы - они тоже начнут бороться с нормальными. И кто победит, если "ненормальные" станут размножаться быстрее или найдут способ блокировать функции "нормальных"? Чтоб было понятней, употреблю всего два слова - рак и СПИД.

Распределенные технические системы с высокой избыточностью (многократным резервированием) действительно хорошо известны и широко распространены сегодня. Но в них "дефектные" элементы разрушаются, а не размножаются! Классическая теория надежности здесь уже не применима. Саморемонтирующаяся система может быть гораздо менее надежна, чем лишенная такой способности, потому что неизбежные ошибки в ремонте могут быть опаснее его отсутствия.

Для того же мозга, кстати, потеря 10000 нормальных клеток, может, и не важна, зато "приобретение" 10000 раковых чревато летальным исходом.

Сеть вы уподобляете живому организму по степени сложности и самоорганизации. Но где жизнь - там и болезни! И сколько ни старался на протяжении миллиардов лет "Великий Конструктор" - эволюция, а "венцы творения" кругом страдают от всяческой заразы. Как говорится: "Врачу - исцелися сам".

Что касается частного вопроса, как человеческий организм будет реагировать на инородные тела с оболочкой из углерода размера бактерии, то об этом лучше спросить у медиков-биологов. Может, кто-нибудь из таковых откликнется?

* * *

Теперь о кризисе "твердой" научной фантастики, за которую Вы болеете.

Не стал бы всю вину валить на "желтого дьявола" капитализма. Возможно, одна из причин в том, что современная наука и техника, выражаясь языком советских бюрократов, "оторвалась от народа".

Ту же жюль-верновскую пушку на Луну, воздушный шар с автономной горелкой, даже подводную лодку простому человеку представить и понять проще, чем какой-нибудь ядерный реактор или синхрофазатрон. Ньютоновская механика тоже понятна и не слишком противоречит наблюдаемым в быту фактам. На классическую физику можно показывать школьные опыты. А чем иллюстрировать кварковую модель протона или парадокс близнецов? Идеи современной науки все более "безумны" - они должны быть такими, чтобы двигаться вперед, но это же и отталкивает остающихся позади.

А техника - например, компьютерная? Раньше все было на виду - лампы, реле, транзисторы, резисторы... При желании это можно было понять и отремонтировать вручную. Теперь мы имеем наглухо закрытые "чипы", вмещающие миллионы невидимых глазу элементов и способные на почти разумное поведение. Мистика какая-то! Немудрено, что у людей развивается отношение к техническим устройствам не как к творениям таких же человеческих рук и ума, а как к магическим артефактам, исполняющим те или иные желания (механизм уже не важен, да и не доступен непосвященному). И здесь всего один шаг до "фэнтези"...

Кажется, Артур Кларк сказал, что высокоразвитая технология внешне неотличима от магии. Можно, в свою очередь, и магию рассматривать как деятельность невидимой распределенной технологической системы (скажем, на квантовом уровне), запущенной в незапамятные времена и подчиняющейся тем, в ком остались гены ее "администраторов". Либо, напротив, "сказочную" фантастику как анализ отдаленных последствий развития высоких технологий.

Есть и еще один немаловажный фактор - научные представления о мире, к сожалению, оказываются слишком эфемерны и преходящи. То, что в прежние времена считалось в науке непреложной истиной (от плоской Земли и зарождения мышей из грязного белья до теории флогистона в химии и эфира в физике), теперь считается предрассудками и заблуждениями; напротив, то, что еще относительно недавно считалось невозможным (например, падение камней с неба и летательные аппараты тяжелее воздуха), становится очевидным фактом.

Даже научная фантастика 60-х годов утратила, строго говоря, свою научность. Например, условия на Венере оказались иными, чем думалось раньше - и "Страна Багровых Туч" Стругацких уже невозможна. Многое из того, что казалось уже решенным делом завтрашнего дня, отодвинулось в неопределенное будущее (термоядерный синтез, освоение других планет и/или океана, искусственный разум и т.д.). Кстати, холодный ядерный синтез, на котором Вы основали свой Нанотех, так и не был признан официальной наукой и, в принципе, также может оказаться очередной химерой. Поэтому можно понять некоторых фантастов в стремлении основывать свои построения на более прочном (чем наука) фундаменте вечных общечеловеческих ценностей, философских проблем, народного эпоса, религии и мифологии. Ведь сказка, в отличие от научной гипотезы, неопровержима, ибо она - ложь по определению, да в ней намек...

* * *

Что касается темы бессмертия, то, на мой взгляд, различные подходы у разных ученых и фантастов связаны с различием в мировоззрении.

Если исходить из того, что человек - винтик общества и государства, общественная функция, то тогда его действительно можно копировать сколько угодно, не заботясь об оригинале (кстати, даже и при жизни). Такой человек не должен бояться смерти, зная, что ДРУГОЙ ТАКОЙ ЖЕ продолжит за него строительство "светлого будущего".

С позиции индивидуализма, напротив, важно сохранить ТОГО ЖЕ индивидуума, т.е. бессмертие себя-для-себя, а не другого-для-других.

Вы, насколько я понимаю, предлагаете нечто СРЕДНЕЕ и оттого сомнительное (для читателей). Просто невозможно представить себе, КАКОВО будет тому, на ком будут все это проделывать, поэтому и обсуждение вряд ли возможно на конструктивном уровне.

Кстати, о "модульном принципе". Вспоминается (немного туманно) следующая история: когда-то в XIX веке ученые провозгласили, что открыли все основные компоненты питания - белки, жиры и углеводы. Взяли их в химически чистом виде, смешали все "модули" в нужной пропорции и стали кормить лабораторных крыс. Сначала все шло хорошо, а потом крысы стали болеть и умирать. Потому что наука в то время ничего не знала о витаминах и микроэлементах...

Не получилось бы так и с Вашими проектами: все-таки душа - не еда, а материя куда более тонкая.

Всего хорошего!

Алексей

P.S. Нельзя ли для русских читателей перевести отзывы зарубежных?


Ответ:

Здравствуйте Алексей!

>Вы, к сожалению, недостаточно вникли в мою аргументацию.

Тот же самый упрек могу переадресовать Вам.

>Речь совсем не о том, что разрешено и что запрещено.
>нельзя "запретить" теорию вероятностей и квантовые флуктуации!

Разумеется, в моем предыдущем письме речь шла совершенно не об этом. Получив Ваше письмо я даже не сразу понял почему Вы вдруг заговорили о том, "что разрешено и что запрещено", и стали объяснять очевидное - что "теорию вероятностей запретить нельзя". Хотя я и не очень хорошо помнил текст своего предыдущего письма, я прекрасно понимал, что никаких призывов к отмене теории вероятности там быть не могло. И лишь прочесав текст того своего письма с помощью функции поиска в текстовом редакторе, я нашел в нем одно-единственное упоминание о "запрете", за которое, как я понял, Вы и ухватились. Оно не имеет прямого отношения к моей аргументации, и присутствует там лишь постольку поскольку является частью следующей цитаты из текста повести: "Но те бактерии, которые мы выпустили на волю сейчас, абсолютно безопасны. Мутации в них запрещены, а если какой-то один мутант случайно все же возникнет, он будет немедленно уничтожен своими нормальными собратьями, до того как успеет нанести какой-либо вред."

Фраза "мутации в них запрещены", разумеется была бы полной бессмыслицей, если бы под мутациями в ней имелись в виду естественные мутации, независящие от воли человека. Естественно было бы предположить, что под "мутациями" здесь имеется в виду нечто иное. Однако Вы даже даже не попытались разобраться, о чем на самом деле идет речь, и решили, что я и в самом деле полагаю, что можно запретить законы теории вероятности. Но если бы Вы внимательно прочли критикуемую Вами повесть, то поняли бы, что под "мутациями" в этой части фразы имеются в виду искусственно, программно генерируемые вариации при копировании киборг-бактерий для их последующей селекции - абзац в тексте повести, предшествующий цитируемому, как раз посвящен применению принципов техногоники к киборг-бактериям, т.е. нанотехногонике. Разумеется, такие искусственные "мутации", в отличие от естественных, можно заблокировать ("запретить") на программном или аппаратном уровне.

Но повторяю, упоминание о запрете искусственных "мутаций" попало в текст письма по моему недосмотру, когда я просто вырезал и скопировал из текста повести цитату, позабыв отредактировать ее, чтобы удалить из текста все что не имело прямого отношения к моей аргументации. По идее, там следовало бы оставить только вторую половину цитируемой фразы: "если какой-то один мутант случайно все же возникнет, он будет немедленно уничтожен своими нормальными собратьями, до того как успеет нанести какой-либо вред." Поясню, что я имел в виду. Мутация (разумеется, здесь и далее в этом письме я буду говорить только о естественных, на самом деле случайных, мутациях) это уникальное случайное событие. Даже если колония киборг-бактерий подвергнется интенсивной бомбардировке ионизирующими частицами, которая нанесет повреждения половине киборг-бактерий в колонии, вероятность того, что рядом друг с другом окажутся две бактерии с совершенно одинаковыми повреждениями близка к нулю - по той же самой теории вероятности. Иными словами, каждый индивидуальный тип мутанта в первый момент, пока он не успел размножиться, всегда будет представлен одной-единственной особью, окруженной "нормальными" киборг-бактериями. Причем далеко не все из поврежденных бактерий будут способны к размножению, поскольку у некоторых поломки затронут именно систему размножения. У некоторых из них повреждения приведут к полному выключению (например, если повреждена энергетическая система). Особи способные к размножению, а тем более к более быстрому размножению, будут в абсолютном меньшинстве. С другой стороны, "нормальные" киборг-бактерии будут представлены в огромном числе экземпляров. Они должны и могут использовать свое численное преимущество для того, чтобы немедленно уничтожить мутанта, пока он не успел нанести вред. Разумеется, если медлить и дать мутантам время, чтобы размножиться, некоторые из тех неприятностей, о которых Вы говорите, возможны. Но в этих неприятностях нет ничего специфичного именно для сети "Нанотех", это справедливо для многих других систем - например, если болезнь запустить, неизбежна смерть, если не успеть локализовать очаг возгорания, то неизбежен большой пожар, и т.п.. Вообще фактор времени реагирования на отказ критичен для надежности любой системы, в которой может происходить цепная реакция размножения.

 

Конечно, нормальным клеткам можно придать дополнительную функцию
борьбы с мутантами (для чего, кстати, понадобится особая система распознавания,

Специальная система распознавания совершенно не обязательна. Дело в том, что мутанты не будут полностью функциональны. Это легко доказывается "от противного": киборг-бактерию абсолютно правильно выполняющая абсолютно все функции, требуемые от нее сетью Нанотех, следует считать нормальной киборг-бактерией. И если, к примеру, какая-то киборг-бактерия неправильно реагирует на команды из сети, например на команду "взяться за руки" со своими соседями, нормальные бактерии, не получившие от своей "ненормальной" соседки ожидаемого рукопожатия, просто выдадут сигнал об ошибке, что автоматически приведет к активации подпрограммы поиска "виновницы" бактериями соседями, ее уничтожения и замены новой бактерией, специально отпочковавшейся от какой-нибудь здоровой бактерии для замены мутанта (или просто сломавшейся бактерии - процесс саморемонта системы неотделим от процесса защиты системы от мутантов). В качестве примера функции, поврежденной в результате мутации я привел реагирование на команды из сети. Аналогичные рассуждения можно применить и к другим функциям. Например к функции связи - испорченная бактерия, переставшая ретранслировать данные в сети функционально представляет из себя обрыв в линии связи, легко локализуемый проверкой сигналов квитирования передачи данных между бактериями. Если же испорченная бактерия продолжает передавать данные, но делает это с искажениями, искажения можно обнаружить по контрольным суммам.

Самый сложный для обнаружения случай функционального отказа - это действительно несанкционированное размножение. Но у "нормальных" киборг-бактерий так или иначе должны иметься средства распознавания вблизи себя других своих собратьев, необходимые для нормальной работы (например, микроскопический ультразвуковой или инфракрасный радар), так что добавить к обычному набору функций киборг-бактерий дополнительную функцию постоянного сканирования окрестностей для оценки количества бактерий в единице объема с целью обнаружения случаев несанкционированного размножения не составит большого труда.

которую, в свою очередь, можно попытаться взломать или обойти и т.д.).

Если взламывать или "обходить" систему будут люди, то это уже перерастает рамки нашей чисто технической дискуссии о надежности системы и уводит ее на уровень безопасности системы, т.е. устойчивости к атакам террористов и хакеров. Это отдельная, очень большая тема, которая затрагивает уже не только и не столько технические аспекты, сколько социальные, поскольку лучший способ борьбы с терроризмом - это профилактика терроризма, т.е. устранение тех социальных причин, которые его порождают (и сеть Нанотех самим своим существованием может в этом деле помочь).

Если же Вы хотели сказать, что систему будут "взламывать" мутанты, то Вы явно завышаете реальные возможности киборг-бактерий. Вы приписываете им искусственным интеллектом, а между тем "умственные способности" каждой отдельной киборг-бактерии ограничены ее малыми размерами, и тем фактом, что вычислительные процессы внутри них организованы на уровне не ниже уровня отдельных атомов и молекул. Попросту говоря, в объеме одной киборг-бактерии может уместиться лишь определенное число атомов, и количество ячеек памяти и регистров в бортовом компьютере киборг-бактерии не может превышать это число (на самом деле оно гораздо меньше этого числа, поскольку внутри бактерии находится еще множество других систем, помимо вычислительной).

Киборг-бактерии - это довольно простые автоматы, выполняющие довольно простые задачи, такие как хранение и передача данных, установление механических соединений друг с другом и копирование самих себя. Сложные процессы, в том числе, возможно, и искусственный интеллект, возникают не на уровне отдельных бактерий, а на уровне сети.

Поэтому каждому вновь возникшему единичному мутанту, неизбежно "глупому", будет противостоять "умная" сеть, настроенная на немедленно уничтожение любой не соответствующей стандарту киборг-бактери. Шансов выжить у него будет очень мало.

 

>Но ведь и мутанты не будут сидеть сложа манипуляторы - они тоже начнут бороться с нормальными.

Представление о том, что мутанты - это нечто жизнеспособное, и более того, способное к злонамеренным целенаправленным действиям, пришло в массовую культуру из комиксов и снятых по ним голливудских фильмов. В реальной жизни, мутация в подавляющем большинстве случаев означает только одно - нежизнеспособный организм, который умирает не успев произвести на свет потомство, если только окружающая среда случайно не изменится таким образом, что организму будет легче жить с такой мутацией, чем без нее. Это бывает очень редко, но из таких редких случаев и складывается эволюция.

Представьте себе, что при переписывании компьютерной программы с одного диска на другой произошла ошибка (ну, скажем в результате осыпания магнитного слоя). Какова вероятность того, что в результате такой ошибки ("мутации"), какая-нибудь ранее работавшая программа, скажем текстовый редактор, вдруг превратится в совершенно другую, но тем не менее исправно работающую программу, скажем игру Doom? Вероятность такого события пренебрежимо мала. Гораздо вероятнее, что программа с ошибкой просто-напросто "повиснет".

"А как же рак?" - спросите Вы - "ведь раковые клетки не просто жизнеспособны - они агрессивно размножаются!"

Я не специалист в области биологии, но мне кажется, что не мутации являются истинной причиной рака. Они, по-видимому, лишь "спусковой крючок", запускающий в действие заранее заложенный в клетку механизм, до поры до времени бездействующий. Возвращаясь к аналогии с компьютерной программой, представим себе, что наш испорченный "мутацией" текстовый редактор имеет в своем составе специальный программный модуль, который при исполнении программы первым загружается в оперативную память и проверяет контрольную сумму основной части программы. Если он обнаруживает что в код программы вкралась ошибка, он запрещает загрузку основного программного модуля, а вместо этого перепрыгивает в какую-то другую часть кода программы, ранее не использовавшуюся, где может находится, например, вирус, который, запустившись, уничтожит все содержимое жесткого диска вашего компьютера. Но это только при условии, что "мутация" произошла вне той части исполняемого кода программы, где расположены первоначально загружаемый модуль и вирус. В противном случае, программа снова зависнет ("клетка" опять "погибнет").

Но откуда в клетке живого организма могла взяться такая "бомба с часовым механизмом"? К этому я как раз и перехожу.

>И сколько ни старался на протяжении миллиардов лет
>"Великий Конструктор" - эволюция, а "венцы творения" кругом страдают от всяческой заразы.

В том-то и дело, что не старался! Если и можно приписать эволюции какую-то цель применительно к "конструкции" живого организма, так это только чтобы особь (причем не каждая, а только "приспособленная", иначе никакого естественного отбора не будет) хоть как-то дотянула до репродуктивного возраста и произвела на свет потомство. У отдельных биологических видов (далеко не у всех) может быть дополнительное требование выкормить и вырастить это самое потомство тоже до репродуктивного возраста, но после этого момента эволюции абсолютно наплевать на то, что будет с особью дальше. Более того, с точки зрения эволюции всего биологического вида в целом, виду может даже быть выгоднее если старики погибнут от "всяческой заразы" и освободят жизненные ресурсы для молодого поколения. Вы вот все киваете на рак, как на доказательство недостижимости надежной саморемонтирующейся системы. Но откуда Вы знаете, что рак - это именно дефект системы, а не заранее встроенная в нее функция, цель которой - расчистить место под будущие поколения? Причем эта функция исправно работает уже миллионы лет, несмотря ни на какие мутации (более того, приспособив мутации к своим целям, в определенном смысле "встроив" их в систему).

Теперь самое важное к чему я все это говорю: инженер может достичь лучшего результата чем эволюция, не потому, что он умнее эволюции, а потому, что у него с эволюцией не просто разные, а зачастую прямо противоположные задачи. Для эволюции важен вид (или даже, по Докинзу, "эгоистичный ген"), а для инженера (а также врача, и вообще любого исправителя природы) важен индивид. И поэтому я считаю, что инженер в конце концов получит лучший результат чем эволюция - лучший не вообще, а конкретно с точки зрения индивида.

Подводя итог нашей дискуссии по поводу безопасности сети "Нанотех", я хотел бы сказать, что Вы правы в том, что вопрос безопасности действительно очень важен, и потребует больших усилий со стороны разработчиков, но вопрос этот в принципе разрешим - теоретически систему можно сделать по крайней мере столь же надежной как человеческий организм (а это уже кое-что - на свете не так уж много машин, которые способны работать в течение многих десятилетий, как человек). Есть основания полагать, что ее можно сделать еще более надежной - столь же надежной как человечество в целом. Эта сложная система существует уже десятки тысяч лет, и продолжает существовать несмотря на отказы отдельных локальных подсистем (стран, вроде нынешней РФ).

При этом важно понимать, что хотя вероятность отказа любой системы можно сделать сколь угодно близкой к нулю, сделать ее точно равной нулю невозможно в принципе. Но из того, что самолеты иногда все же разбиваются, а поезда сходят с рельс, никто (кроме, может быть "зеленых" экстремистов) вроде бы не поднимает вопрос о том, чтобы запретить все самолеты и поезда.

>Что касается частного вопроса, как человеческий организм будет
>реагировать на инородные тела с оболочкой из углерода размера
>бактерии, то об этом лучше спросить у медиков-биологов.
>Может, кто-нибудь из таковых откликнется?

Я думаю, что по этому вопросу их лучше сейчас не теребить - пусть сначала между собой разберутся. Насколько я слышал, в этой области сейчас происходит маленькая научная революция (или попытка переворота - в зависимости от того кто победит). Под сомнение ставятся самые основы теории отторжения тканей. Если "революционеры" окажутся правы, то отторжение - это всего лишь результат работы ножа хирурга, разрушающего клетки, и тем самым заставляющего иммунную систему думать, что в организме появился "внутренний враг".

* * *

>Теперь о кризисе "твердой" научной фантастики, за которую Вы болеете.
>Не стал бы всю вину валить на "желтого дьявола" капитализма.

Капитализм здесь вообще не причем. Более того, в конце прошлого века, когда капитализм еще был прогрессивным и быстроразвивающимся общественным строем, нуждающимся в открытиях и изобретениях ученых и инженеров, он не только не мешал развитию научной фантастики (само слово "научная" в этом словосочетании пришло к нам из тех времен), а породил совершенно потрясающую "твердую" научную фантастику, поскольку она отвечала духу того времени. Однако сегодня мировая цивилизация переживает глубочайший кризис связанный с тем, что она не смогла преодолеть межпланетный барьер роста. В течение второй половины ХХ века научно-технический прогресс еще продолжался, поскольку он был необходим обеим сторонам в холодной войне для борьбы друг с другом. Но после гибели СССР и возникновения в результате этого однополярного мира, в котором отсутствует такой важный фактор развития как конкуренция между двумя различными цивилизациями, началось сползание в трясину второго средневековья. Научный прогресс остановился, технический еще катится по инерции, пользуясь научными открытиями полувековой давности, но скоро и он остановится. В этом новом мире инженеры и ученые, создающие что-то принципиально новое, просто не нужны. Нужны всего лишь грамотные техники, способные поддерживать в рабочем состоянии то, что уже существует, но ни в коем случае не создающие ничего нового, что могло бы изменить существующее положение вещей. Не нужны и сочинения, которые бы пробуждали в молодежи желание создавать это самое новое. Вот в чем я вижу основную причину появления отвлекающей литературы жанра "фэнтази". Чтение "фэнтази" - это по самой своей сути чисто средневековое занятие - ум человека чем-то занят, он размышляет о "вечных общечеловеческих ценностях и философских проблемах", но все это чисто внутренняя, интроспективная деятельность, не побуждающая человека преобразовывать природу, что как раз и нужно цивилизации, попавшей в ловушку ограниченных ресурсов.

Прошу понять меня правильно - я вовсе не выступаю за запрещение подобной литературы. "Фэнтази", точно также как и "мыльные оперы" и всякая прочая жвачка для ума выполняют в современном, весьма несовершенном обществе, полезную функцию, помогая убивать время тем, кому его некуда девать. В противном случае эти люди просто бы слонялись по улицам и в конце концов стали бы опасны для общества как и всякая незнающая куда себя девать толпа. Меня беспокоит лишь то, что те, кто хотел бы почитать настоящую научную фантастику не могут сегодня найти такую литературу в достаточном количестве, и зачастую даже не знают о существовании того немногого что все-таки существует в этом жанре.

Настоящая ("твердая") научная фантастика - это нечто большее чем просто развлечение. Это часть Генератора Желаний нашей цивилизации. Это очень важная часть процесса создания общественной потребности в техническом прогрессе, процесса выработки социального заказа на изобретения. Нынешний упадок научной фантастики - это одновременно и следствие, и одна из причин замедления научно-технического прогресса.

>Возможно, одна из причин в том, что современная наука и техника,
>выражаясь языком советских бюрократов, "оторвалась от народа".

В любую эпоху наиболее "свежие" научные идеи всегда были трудны для понимания современников. Две тысячи лет назад представление о том, что Земля является шаром было ничуть не менее непонятным для широкой публики, чем сегодня квантовая механика и парадокс близнецов. Ну просто не могли тогда "люди с улицы" понять как антиподы ходят под нами вверх ногами и не падают при этом с Земли. Точно также во времена Галилея люди не могли понять что тяжелая дробинка и легкое перышко в вакууме будут падать с одинаковым ускорением - сама концепция вакуума была им непонятна. И если сегодня концепция Земли как шара или ньютоновская механика кажутся нам чем-то само собой разумеющимся, то это в первую очередь заслуга популяризаторов науки, усердно потрудившихся за последние несколько веков. Дайте им еще несколько столетий для того, чтобы сделать теорию относительности и квантовую механику столь же интуитивно понятными как ньютоновская механика. Но для этого не надо отбивать у людей желание понять рассуждениями о том, что понять это невозможно и лучше не стараться.

>Многое из того, что казалось уже решенным делом завтрашнего дня,
>отодвинулось в неопределенное будущее (термоядерный синтез, освоение
>других планет и/или океана, искусственный разум и т.д.).

В конце книге Кларка "Контуры Грядущего", цитату из которой Вы привели в своем письме, имеется знаменитая "таблица Кларка" - его прогноз, своего рода расписание того, когда следует ожидать новых научных открытий и технических изобретений и каких именно. Таблица составлена в 1960 году, так что часть ее уже превратилась из будущего в прошлое. Из нее сразу видно как действительность отстает от прогнозов фантаста. И причина этого вовсе не в том что Кларк плохой предсказатель. Просто он строил свой прогноз исходя из темпов технического прогресса существовавших в конце 1950-х годов. Никто тогда еще не мог представить нынешней практически полной остановки технического прогресса. О причинах этой остановки я уже сказал выше. Но отсюда не следует что мы должны с этими причинами смириться.

>Кстати, холодный ядерный синтез, на котором Вы основали свой Нанотех,
>так и не был признан официальной наукой и, в принципе,
>также может оказаться очередной химерой.

Согласен. Но дело в том, что энергетика сети "Нанотех" вовсе не обязательно должна базироваться на холодном синтезе. Я ввел в повесть холодный синтез только для того, чтобы максимально упростить описание энергетической подсистемы сети "Нанотех". В противном случае мне пришлось бы загромождать повесть описанием еще одной дополнительной подсистемы, а мне не хотелось отвлекать внимание читателей от принципиальных моментов техническими подробностями. Реальная сеть "Нанотех", а не та, которую я описал в повести, по-видимому будет содержать еще одну подсистему, обеспечивающую транспортировку материалов и энергии из космоса. Подробности см. в статье "Космическая инфраструктура сети "Нанотех" в гипертекстовой энциклопедии "Ключ к Будущему".

* * *

>Что касается темы бессмертия, [...] Вы, насколько я понимаю, предлагаете нечто СРЕДНЕЕ и оттого сомнительное

Вы пытаетесь подойти к модульной системе бессмертия с мерками двадцатого века, т.е. оценить ее по шкале "Индивидуализм-тоталитаризм", т.е. по количеству ограничений, накладываемых на человека обществом. Это все равно что пытаться измерять температуру часами, или время весами. Неудивительно, что в результате такого измерения у Вас получается нечто "среднее и сомнительное". Здесь надо подходить совсем с другим прибором, таким, на шкале которого проградуирована степень свободы человека от ограничений накладываемых на него природой. А что касается ограничений, накладываемых на человека обществом, то они являются вторичными по отношению к ограничениям накладываемым природой, их опосредованным проявлением. Общества бывают либеральными или тоталитарными не потому, что так захотелось народу или правителям, а в силу вполне материальных причин. Грубо говоря, общество должно быть способно позволить себе (в материальном смысле) быть либеральным. Общество не имеющее достаточных материальных ресурсов для обеспечения либерализма неизбежно скатится в тоталитаризм, поскольку тоталитаризм менее требователен к ресурсам (содержание неприхотливого "винтика" дешевле обходится).

Модульная система бессмертия позволяет освободить человека сразу от нескольких очень крупных ограничений, наложенных на него природой. Это не только освобождение от ограниченности срока жизни, что обеспечивается любыми предлагаемыми в настоящее время системами бессмертия. Особенность модульной системы в том, что она позволяет не только до бесконечности продлить существование индивидуального сознания, она также позволит нам продолжать делать то, что мы делаем на протяжении всей нашей обычной, "смертной", жизни - она позволит нам всю жизнь меняться, быть сегодня немножко другим человеком, по сравнению с тем, каким мы были вчера. Все другие проекты осуществления бессмертия почему-то забывают о проблеме переполнения мозга, о том, что у многих стариков новая информация больше уже в мозг "не лезет", и они как бы застывают в своем развитии. Модульная система решает эту проблему очень просто - за счет постепенного избавления от той информации, которая Вам больше не нужна. Используя аналогию с персональным компьютером, можно сказать, что модульная система бессмертия время от времени стирает содержимое "мусорного ящика", благодаря чему ваш жесткий диск никогда не переполняется. В модульной системе Вы избавляетесь только от той информации, которую вы уже все равно не помните, и могли бы вспомнить разве лишь под гипнозом (команда "восстановить файл" в "мусорном ящике"). Если Вы такой мазохист, что непременно желаете помнить все обстоятельства того, как Вам, скажем, незаслуженно влепили двойку, когда Вы учились в пятом классе, то тогда модульная система бессмертия конечно не для Вас. Большинство же людей, я думаю, не найдут в ней ничего особенно сомнительного.

Что же касается того, как осуществление модульной системы бессмертия повлияет на отношение людей к проблеме преодоления барьеров роста цивилизации, на объем ресурсов, которыми человечество располагает, а значит, в конечном счете и на проблему индивидуализма и тоталитаризма, которая Вас так волнует, то об этом я достаточно много писал в "Генераторе Желаний" и в "Ключе к Будущему" и не хочу здесь повторяться. Если Вам это интересно, начните читать хотя бы со статьи "Свобода", а дальше - по гипертекстовым ссылкам.

>Сначала все шло хорошо, а потом крысы стали болеть и умирать. Потому что
>наука в то время ничего не знала о витаминах и микроэлементах...

Если бы не было подобных экспериментов, наука так бы до сих пор ничего и не знала о витаминах и микроэлементах. Если мы хотим что-либо узнать у природы, мы должны задавать ей вопросы - иными словами, ставить эксперименты.

>Не получилось бы так и с Вашими проектами: все-таки душа - не еда, а
>материя куда более тонкая.

Существует ли душа (как нечто несводимое к функционированию мозга) на самом деле не знает никто - ни те кто уверены, что душа есть, ни те кто уверены, что ее нет. Единственный способ узнать это наверняка - спросить у природы. Необходим эксперимент. Я пока не вижу лучшего эксперимента, который мог бы пролить свет на этот вопрос, чем попытаться осуществить модульную системы бессмертия. Если модульная система будет работать как задумана, это возможно еще и не будет окончательным опровержением существования души (всегда можно сказать, что душа может общаться с телом не только через обычный мозг, но и через мозг составленный из мозговых модулей). Однако если модульная система бессмертия будет работать не совсем так, как предполагалось, исследование того, почему она работает "неправильно" может стать началом целой новой научной дисциплины, которая откроет перед человечеством такие горизонты, о которых мы сегодня даже не можем догадываться.

>P.S. Нельзя ли для русских читателей перевести отзывы зарубежных?

Проблема не в том, чтобы перевести, а в том, чтобы найти место где этот перевод расположить - я почти полностью израсходовал отведенный мне моим провайдером бесплатный лимит в 2 Мб на веб-страницу, а на покупку дополнительного места у меня просто нет денег (несколько месяцев назад мне вообще чуть не пришлось закрыть свою страницу из-за нехватки средств).

Если говорить о содержании этих писем, то там Вы вряд ли найдет для себя что-нибудь интересное, поскольку это в основном отзывы постоянных читателей нанотехнологической фантастики (n-sf, полный список произведений этого жанра имеется по адресу http://www.erinet.com/prass/nanowars/ninsf/n_in_sf.html . Список этот возможно чересчур полон - например составители включили в него фильм "Терминатор-2" только на том основании, что Терминатор не смог бы растекаться по полу и проделывать прочие фокусы, если бы не состоял из огромного числа наномашин, хотя само слово "нанотехнология" в фильме ни разу не упоминается. ). В силу специфики этой аудитории, в отличие от Вас, они не ставили под сомнение основные принципы нанотехнологии. Написали, что им очень понравилось, хотя не написали, что именно. Я лично думаю, что новостью для них стали две вещи: 1) возможность соединения нанотехнологии с сетевыми технологиями (насколько мне известно, никто из идеологов нанотехнологии всерьез об этой возможности не задумывался), и 2) то, что прекрасный новый мир, рисуемый западными идеологами нанотехнологического движения, удивительным образом похож на коммунизм в трактовке самодеятельного идеолога обновления марксизма андроповско-горбачевских времен С.Платонова. Чтобы Вы поняли о чем идет речь, позволю себе привести короткую цитату из его книги: "На высшей фазе коммунизма происходит преобразование производственно-технологического комплекса в самовоспроизводящуюся, искусственную природу, пользование плодами которой отныне осуществляется в индивидуальной форме, никак не опосредуемой обществом" (С.Платонов. "После Коммунизма", М, 1989 г. Стр.178.) (См. еще одну цитату из Платонова в моем ответе на письмо от В.Пронина) Фраза эта написана еще в 1985 году, за год до выхода первой на западе научно-популярной книги о нанотехнологии ("Engines of Creation" Э.Дрекслера), но ощущение такое, что это очень краткое, сконцентрированное изложение ее сути, во всяком случае тех ее глав, где речь идет о социальных последствиях нанотехнологии. Правда, слово "коммунизм" у Дрекслера при этом не употребляется - сами понимаете, идеологический запрет, ведь Америка столько лет с этим самым коммунизмом боролась! Признать что Америка на самом деле тоже движется к коммунизму им как-то конфузно. Поэтому они придумывают другие термины, но дело в конце концов не в названии. Сохранение за нанотехнологическим обществом будущего названия "коммунизм" важно, пожалуй, лишь для нашей страны, поскольку оно привычнее для людей старшего поколения и могло бы способствовать преодолению раскола нашего общества на "красных" и "белых" - в конце концов, все люди, независимо от политической ориентации, хотят одного - жить хорошо и не жить плохо (за исключением небольшого числа подлецов, которые хотят жить хорошо в ущерб другим людям - но я надеюсь, что такие в конце концов окажутся там, где им единственное место - за решеткой. Нормальные же люди понимают, что жить хорошо, когда всем вокруг плохо - невозможно. Богатство среди нищеты возбуждает в народе зависть и злобу, а жить среди зависти и злобы и чувствовать себя комфортно невозможно - богатых в конце концов ограбят и убьют.)

С уважением,

А.Лазаревич.


Hosted by uCoz