8. Об искусственном интеллекте и "мышлении без сознания"

Н.Г.: Если уж мы затронули философскую тему, хочу задать вопрос, ставший камнем преткновения философов и "технарей" во времена СССР. Подобная проблематика актуальна для всего Вашего творчества в целом. Речь идет об искусственном интеллекте. Возможно ли мышление без сознания?

Искусственный интеллект (ИИ) очень тесно связан со всеми вопросами, которые мы обсуждали раньше. Можно даже сказать, что облик земной цивилизации, ее производительные силы, ее общественное устройство, на каждом этапе ее развития будет в первую очередь определяться тем, насколько цивилизация к тому моменту продвинется в решении этой проблемы. 

ИИ – это «мозги» роботов, и от того, насколько эти «мозги» будут хорошо работать, зависит, в каких областях роботы смогут заменить людей и исчезнет ли само понятие труда. Но возможное исчезновение труда – это мелочи по сравнению с тем переворотом, который ИИ способен совершить в науке. Менделеев всю жизнь заучивал наизусть свойства всех химических элементов, прежде чем ему открылись закономерности в их свойствах, и он сформулировал свою периодическую систему. ИИ не нужно ничего заучивать, данные мгновенно закладываются в машинную память и при наличии хорошего эвристического алгоритма выявить в этих данных скрытые закономерности дело минутное. При наличии ИИ периодическая система химических элементов была бы открыта мгновенно. Но дело не только в том, что ИИ может ускорить процесс совершения открытий. ИИ может увидеть в заложенных данных такие закономерности, которые человек не увидел бы никогда, поскольку объем данных может оказаться слишком великим для человеческого мозга, а объем оперативной памяти человека – величина очень ограниченная. ИИ приведет к резкому ускорению в накоплении научных знаний. То же самое можно сказать и про ускорение технического прогресса – ИИ уже сегодня активно участвует в проектировании сверхсложных микросхем, сложность которых уже давно вышла за пределы, доступные человеческому уму. Причем более сложные микросхемы позволяют создавать еще более сложный ИИ, способный создать для себя еще более сложное «железо». И так по нарастающей.

Мы можем этого не замечать, но ИИ уже сегодня превзошел человеческий интеллект по очень многим параметрам – скорости записи, поиска и воспроизведения информации, объему оперативной памяти, скорости обработки арифметических и логических данных. Машины лучше людей играют в логические игры. Они вообще лучше и быстрее выполняют все действия, которые можно описать формальными алгоритмами. И если считать логику признаком мышления, то можно сказать что машины мыслят. Но при этом на сегодня они абсолютно лишены того, что мы называем сознанием. И это делает их абсолютно профессионально непригодными для принятия решений, затрагивающих жизни людей, решений, подразумевающих моральный выбор.

При этом, если Вы спросите меня, что такое сознание, я затруднюсь Вам ответить. И боюсь, что понятие «сознание» также непонятно нынешним ученым, как было непонятно понятие «жизнь» ученым 18-го века. Кто-то считал, что живой организм – это машина, просто очень сложная, а кто-то считал, что живое нематериально, и происходит из некоей нематериальной «жизненной силы». Чтобы доказать первую точку зрения, искусный французский механик Жак де Вокансон даже построил механическую утку, которая умела не только клевать зернышки, но даже превращать их в весьма убедительно выглядевший птичий помет. Но, несмотря на то, что утка очень убедительно гадила, живой она, как показало последующее развитие науки, все же не была. Для того, чтобы быть живым, нужно быть построенным из клеток с генами внутри, управляющими огромным количеством биохимических процессов, но в 18-ом веке никто ничего не знал ни о генах, ни о биохимии. Ученые того времени могли наблюдать только внешние механические проявления жизни, и утка Вокансона не была живой, она лишь имитировала жизнь. И для того, чтобы понять это, науке потребовалось развиваться еще 200 лет. В результате выяснилось, что в чем-то были правы обе стороны: живой организм – это действительно машина, но это не механическая машина, а машина, работающая на основе таких законов физики и химии, о существовании которых в 18-м веке никто даже и не подозревал. Для науки 18-века, квантовой механики и вытекающих из нее законов органической химии просто еще не существовало, они были чем-то далеко выходящим за рамки тогдашнего понимания материализма, и потому казались нематериальной «жизненной силой».

18 Утка Вокансона. Клевать зернышки и гадить - еще не значит быть живой. Логически мыслить - еще не значит обладать сознанием.

Сегодняшний искусственный интеллект – это «утка Вокансона», имитирующая сознание. Говоря это, я не имею в виду, что это бесполезное изобретение, оно уже сейчас очень полезно во многих областях техники. И сама первоначальная механическая утка Вокансона тоже была полезным изобретением, на основе заложенных в нее принципов в начале 19-го века были созданы первые программируемые ткацкие станки. Я лишь хочу сказать, что наше понимание того, что такое сознание, сегодня находится приблизительно на том же уровне, на котором находилось понимание того, что такое жизнь в середине 18-го века. Так же как ученые 18-го века наблюдали лишь внешние механические проявления жизни, мы сегодня наблюдаем лишь внешние, электрические проявления сознания – изменения электрических потенциалов нервных волокон и проводимости синапсов. Конечно, энтузиасты ИИ скажут Вам, что вот эти вот электрические потенциалы, бегающие по нейронам мозга, и есть сознание. Значения этих потенциалов можно оцифровать и загнать в компьютерную модель. И если в модели будет так же много моделируемых нейронов, как и в реальном мозгу, в модели тоже появится сознание. В их понимании сознание появится как бы само собой, просто в результате постепенного усложнения системы количество вдруг перейдет в качество – и вуаля! – машина обретет сознание. Это все равно, как если бы Вокансон решил добавить к своей механической утке несколько миллиардов механических шестеренок, в надежде что вот теперь-то она точно станет живой. Я вовсе не смеюсь ни над нынешними компьютерными энтузиастами, ни над Вокансоном. С точки зрения научной методологии они все делают правильно – есть такой принцип, называется «Бритва Оккама», согласно которому не следует вводить для объяснения явления природы новые сущности, по крайней мере, до тех пор, пока мы не убедились в том, что это явление невозможно объяснить уже известными сущностями. Считая, что мы уже знаем все необходимые законы природы для того, чтобы объяснить и воспроизвести сознание, энтузиасты поступают в точном соответствии с бритвой Окамма. И это хорошо, что они так думают, потому, что именно эта рабочая гипотеза подогревает их энтузиазм, и заставляет их работать над созданием все более сложных моделей мозга. Фактически они ставят эксперимент, который должен будет дать ответ, действительно ли сознание – это всего лишь совокупность электрических импульсов в мозгу. Никакие умозрительные споры между кабинетными учеными этот вопрос не решат, ответ может дать только эксперимент. Если эксперимент удастся, и модель будет легко проходить тест Тьюринга, то это будет означать одно из двух: либо машина действительно обладает сознанием, либо система получилась настолько сложной, что она способна вводить нас в заблуждение, никаким сознанием при этом не обладая. Т.е. результат эксперимента будет двусмысленным, и тогда вопрос этот будет решаться уже в других экспериментах, проводимых в совершенно других областях науки.

Гораздо интереснее будет, если этот эксперимент даст отрицательный результат, и машина будет постоянно проваливать тест Тьюринга, даже тогда, когда в модели будет на порядок больше нейронов, чем в человеческом мозгу. Этот факт будет означать, что мы пока еще не знаем всех тех законов природы, которыми воспользовалась эволюция, когда создавала человеческое сознание. Здесь будет точная аналогия с уткой Вокансона – когда он создавал свою утку, он ничего не знал ни про квантовую механику, ни про органическую химию, ни про генетику.

И вот тут мы подошли к тому месту в рассуждениях, когда мне пора воспользоваться привилегией писателя-фантаста, и высказать несколько безответственных суждений. Настолько безответственных, что серьезные ученые вслух такие заявления никогда делать не будут. А фантаст он и есть фантаст, что с него возьмешь. Мало ли чего он болтает.

Я хочу немного порассуждать о том, какие удивительные перспективы перед нами откроются, когда (если) добавление миллиарда шестеренок не оживит эту «утку Вокансона». Потому что такие рассуждения позволят лучше осознать, до какой степени мы еще не знаем законов природы, осознать, что мы очень молодая цивилизация, что за прошедшие 400 лет мы успели узнать лишь крошечный кусочек этих законов, и что настоящий процесс познания у нас еще впереди.

Но предупреждаю: то, что я скажу далее, это не более чем умозрительные догадки, на уровне догадок древних греков об атомах, которые, в общем-то, оказались верны лишь благодаря случайности – греки высказали такое гигантское количество всевозможных догадок, что, хотя бы некоторые из них, должны были оказаться верными, по простой теории вероятности.

Итак, чего мы можем не знать о сознании?

Прежде всего, мы не знаем самого главного: действительно ли сознание является функцией мозга?

То есть, у нас есть рабочая гипотеза, согласно которой сознание как бы вырабатывается внутри мозга, и вся информация, которой оперирует сознание, хранится внутри мозга, и переработка ее происходит внутри мозга.

Эта рабочая гипотеза коренным образом противоречит интуитивным традиционным представлениям всех народов мира, согласно которым душа является чем-то существующим в значительной степени самостоятельно от тела, но эта рабочая гипотеза хорошо обоснована клиническими наблюдениями за больными с повреждениями различных участков мозга. Более того, сопоставляя расположение этих поврежденных участков в мозгу тем нарушениям поведения, которыми страдает пациент, удалось даже составить карту, какой именно участок мозга отвечает за обработку того или иного типа информации: где происходит обработка визуальной информации, где слуховой, какой участок мозга отвечает за логическое мышление, какой за эмоции, а какой за моторику.

Но представьте себе человека, который никогда не видел раньше телевизор, и вот ему дали сто телевизоров и молоток в руки, и сказали: «можешь разбить в каждом телевизоре по одной детали». И вот, в одном телевизоре он разбил плату усилителя звука, и звук исчез. «Ага!» - говорит этот человек – «вот в этом месте рождается звук!». В другом телевизоре разбил плату видеоусилителя, звук продолжается, а картинки нет. «Ага! В этом месте рождается картинка!». И так он очень долго может все долбать, пока не поймет, что картинки и звуки рождаются вовсе не внутри телевизора, что это всего лишь приемник, обрабатывающий сигналы извне.

Сегодня мы точно также наверняка не знаем, рождается ли сознание внутри мозга, или это всего лишь «приемник», принимающий сигналы извне, и «передатчик», отправляющий сигналы на обработку в некий вселенский «мейнфрейм», центральный компьютер. Иными словами, мы не знаем, не является ли мозг всего лишь удаленным «тупым» терминалом.

Такое предположение находится в непримиримом противоречии с текущей научной парадигмой, согласно которой нам не известно сегодня о каких-либо полях или частицах, которые могли бы послужить в качестве внешнего носителя сознания. Но вообще-то научные парадигмы могут меняться по мере процесса познания. И эволюция не брала на себя обязательство использовать для решения встающих перед ней проблем только те законы природы, о которых нам сегодня известно. Она использует все, что попадется ей «под руку», и, если среди тех, как минимум 90% законов природы, которые нам на сегодня неизвестны, есть законы, позволяющие сохранять и перерабатывать информацию в некоем «информационном» пространстве, недоступном нашим сегодняшним приборам, не исключено, что эволюция использовала их при создании такого дающего эволюционные преимущества свойства, как сознание. И если на секунду предположить, что это так, то тогда мы больше не сможем пренебрегать как недостоверными слухами о детях, рождающихся с памятью о некоей прошлой жизни, или же о людях, которые внезапно начинают разговаривать на никому не известных древних языках – при подключении удаленного терминала к «мейнфрейму» могут происходить сбои и ошибки, вплоть до подключения пользователя к чужой сессии. Случаи с людьми, начинающими разговаривать на древних языках в этом плане особенно интересны, поскольку указывают на то, что в этом «информационном пространстве» сессии, относящиеся к уже умершим людям, никуда не пропадают и не стираются, и могут быть снова активированы, что открывает путь к осуществлению фантазий старца Федорова о воскрешении всех когда-либо живших на земле людей. С точки зрения современной научной парадигмы такие фантазии абсолютно беспочвенны, поскольку, если носителем сознания является мозг, то после смерти он разрушается, и при этом вся содержавшаяся в нем информация полностью и бесследно исчезает. Какая из этих точек зрения верна, покажет эксперимент.

При этом надо понимать, что та догадка относительно природы сознания, которую я только что изложил, отнюдь не единственная теоретически возможная. Можно высказать еще более экзотическую догадку о природе сознания. Речь идет о мозге как о квантовом компьютере. Здесь я должен сознаться, что я начинаю злоупотреблять своей привилегией фантаста, и рассказываю о вещах, в которых вообще ничего не смыслю, поскольку толком не понимаю, как именно работает квантовый компьютер, и знаком с ним только по очень упрощенным научно-популярным описаниям, из которых все равно невозможно ничего понять. Люди знающие, наверное, тут же возразят, что квантовый компьютер – устройство, требующее особых условий работы, которые никогда не смогут быть реализованы внутри черепной коробки человека. На что у меня опять же есть тот же самый единственный ответ – нам неизвестно большинство законов природы, а эволюция могла использовать любой из этих неизвестных законов, чтобы заставить мозг работать как квантовый компьютер. А квантовый компьютер обладает несравнимо большей вычислительной мощностью, чем обычный компьютер, поскольку работает одновременно во всех возможных параллельных вселенных, где реализуются все возможные варианты вычисления. И если наш мозг действительно является окном в параллельные миры, то становится понятным такое явление как вещие сны – просто на время сна всё заглушающий поток информации из нашего мира перекрывается, и наш мозг начинает различать тихие, на уровне предела восприятия, обрывки информации из параллельных миров, где другие, параллельные варианты нашего мозга на самом деле воспринимают события реально происходящие в этих параллельных мирах, в которых некоторые вещи кажутся нам знакомыми, а некоторые совершенно невероятными и удивительными. В любом случае мы наблюдаем реально происходящие варианты развития событий, и даже встречаемся там как с живыми с людьми, которые в нашей версии мира уже погибли. Причем в одном сне могут быть перемешаны самые разнообразные параллельные миры, что объясняет полную логическую непоследовательность снов.

Повторяю, все это даже не гипотезы, а всего лишь догадки. Всерьез рассматривать их имеет смысл лишь в том случае, если эксперимент завершится неудачей, и выяснится, что человеческое сознание невозможно смоделировать на обычном компьютере. Тогда перед нами откроются замечательные перспективы, поскольку это будет означать, что наше сознание – это нечто большее, чем просто набор электронных импульсов, что наш мозг – это окно в иные миры, а человек – это интерфейс между грубым миром классической физики и тонкими материями физики будущего. Конечно, в этом случае, человечеству довольно долгое время придется сосуществовать с машинами, которые будут мыслить (и очень быстро мыслить, гораздо быстрее нас), но при этом они совершенно не будут понимать, о чем они мыслят. И это хорошо, потому что в этом случае они останутся под нашим контролем. То есть, конечно, «несчастные случаи на производстве» будут, поскольку мы не всегда сможем представить все последствия выполнения сверхсложных алгоритмов, но «восстания машин» не будет.

Гораздо хуже будет, если эксперимент завершится успехом, т.е. созданием машины, способной легко проходить тест Тьюринга. Во-первых, это здорово собьет с нас спесь, потому что получится, что наше сознание – это не окно в иные миры, как мы всегда в глубине души верили, а всего лишь набор электрических импульсов. Но науке не привыкать сбивать с людей спесь, это делали еще и Коперник, убравший Землю из центра Вселенной, и Дарвин, ткнувший нас лицом в морду наших ближайших родичей. Так что и этот факт мы, наверное, стерпим. Это также поставит под сомнение достоверность всех историй о «переселении душ» - о детях обладающих недетской мудростью и людях, говорящих на мертвых языках. И с этим мы тоже смиримся – мы и сейчас не очень верим в эти истории. Настоящая беда в том, что такой исход эксперимента поставит нас в весьма двусмысленное и опасное положение. Мы не будем знать наверняка, действительно ли машина обладает сознанием подобным нашим, или же внутри машины происходит нечто абсолютно чуждое нам, но настолько сложное, что мы никогда не сможем понять, что это такое. Мы можем оказаться один на один с «чужими», причем слово «чужие» я употребляю здесь в том смысле, в каком оно употребляется в худших образцах научной фантастики, в которых фантастика смешивается с романами ужасов.

Но я стараюсь быть оптимистом, и надеюсь, что у нас хватит мудрости, чтобы пережить этот очень опасный этап в развитии цивилизации. Я надеюсь, что несмотря на положительный исход эксперимента, мы все же не успокоимся и продолжим пытаться понять как же на самом деле устроено наше, естественное, сознание, и такие исследования дадут, наконец, определенный ответ на вопрос, может ли обычный электронный компьютер, пусть даже очень сложный, в принципе обладать сознанием подобным человеческому, или же этот компьютер в любом случае будет всего лишь «уткой Вокансона», дополненной миллиардом механических шестеренок, чтобы обмануть наше восприятие, и заставить нас поверить в то, что она живая.

В конечном счете, критерием истинности является практика. Точно так же, как вопрос о том, понимает ли сегодняшняя наука, что такое жизнь, может быть решен только когда мы создадим искусственную жизнь, вопрос о том, будет ли наука завтрашнего дня понимать, что такое сознание будет решен только когда инженеры будущего создадут настоящее искусственное сознание. Я думаю, что в том, что касается создания искусственной жизни, технологии уже достаточно близки к этому. Конечно, потребуется еще несколько десятков лет, чтобы создать наноассемблер, но после этого уже можно будет собрать искусственную рибосому, искусственные гены, и, наконец, вырастить искусственную утку, которая действительно будет хоть и искусственной, но при этом в полном смысле слова живой. Спустя триста лет, история наконец покажет, что Жак де Вокансон был в чем-то прав (живой организм – это машина), а в чем-то и неправ (живой организм – это не механическая машина). Я думаю, что в отдаленном будущем ученые и инженеры также смогут доказать, что нынешние компьютерные энтузиасты также были в чем-то правы (сознание – это продукт работы машины), а в чем-то и неправы (сознание – это продукт работы машины, не являющейся электронной вычислительной машиной, работающей по жестким логическим алгоритмам).

Создание такого искусственного, но при этом совершенно настоящего сознания будет очень важным достижением не только с теоретической, но и сугубо практической точки зрения. Как я уже упоминал, наша Вселенная не вечна, и в очень отдаленном будущем, нам все равно придется из нее уходить. Мы не сможем перенести в иные миры наши бренные материальные оболочки, речь может идти только о переносе наших сознаний на принципиально иные носители, не зависящие от материи нашей вселенной. Я думаю, именно это подразумевал Циолковский, когда рассуждал о будущем «лучистом человечестве». Но для того, чтобы осуществить такую операцию, мы должны будем досконально понимать механизм работы сознания и уметь воспроизводить его на самых неожиданных носителях и процессорах. Трудно сказать, можно ли будет продолжать называть человечеством эту сложнейшую машину, на которой будут продолжать исполняться наши сознания, но в любом случае ее можно будет продолжать называть цивилизацией, зародившейся на планете Земля. И кстати, именно поэтому, на протяжении всего интервью, если Вы еще этого не заметили, я по возможности старался избегать слова «человечество», и говорил о земной цивилизации.