12. О "недружелюбном" исскусственном интеллекте

Н.Г.:   В своем цикле «Червь» Вы описываете почти спонтанное возникновение искусственного интеллекта в недрах Интернета. Насколько возможен сейчас и в ближайшем будущем такой сценарий? Многие опасаются потенциальной, скажем так, недружелюбности ИИ...

Сейчас невозможен. И прежде чем вы обвините меня в том, что я обманываю читателей, хочу сделать несколько замечаний общего характера. Любое искусство подразумевает определенную степень условности. Если вы идете в оперу, вы должны быть готовы к тому, что прежде чем умереть, главный герой пропоет свою последнюю арию, хотя в реальной жизни люди перед смертью, как правило, арии не поют. Это правила игры, которые вы как зритель должны принять для того, чтобы наслаждаться произведением. То же самое в фантастике. «Наутилус» капитана Немо не мог плавать на электрической тяге, как описано у Жюль Верна, не было в 19-ом веке таких аккумуляторов. Но если бы Жюль Верн описывал бы только то, что было реально осуществимо при тогдашнем уровне технологии, то не было бы никакой фантастики вообще, было бы просто описание существующих технологий. И научная фантастика не выполняла бы своей главной социальной функции – зажечь воображение будущих инженеров и ученых, дать им мотивацию учиться и творить. Поэтому одним из главных условных приемов научной фантастки всегда было перенесение технологий будущего в нынешний день.

Возможно ли в будущем создание искусственного интеллекта при помощи программного моделирования процессов дарвиновской эволюции в сверхбольшой вычислительной среде? Это зависит от того, возможно ли в принципе моделирование сознания на логических машинах (машинах Тьюринга), или же это невозможно в силу того, что человеческое сознание существенном образом использует какие-то неоткрытые нами еще законы природы. В первом случае, программное моделирование эволюции – это, по моему единственный способ создать искусственный разум, поскольку программирование «в лоб» здесь невозможно, люди просто не справятся с необходимым уровнем сложности программы. Во втором случае никакие программные методы вообще не помогут, здесь придется выходить из идеального мира в физический, придется моделировать не только эволюцию программ, но и эволюцию аппаратного обеспечения тоже.

По поводу «недружелюбности». Недружелюбности у нас много и среди людей. Уровень недружелюбности во многом зависит от устройства цивилизации, от ее смыслов, целей и ценностей. Я не думаю, что в будущем можно будет легко провести грань между естественным и искусственным интеллектом. Во всяком случае, я надеюсь на это, поскольку альтернатива – это полная замена естественного интеллекта искусственным. Но я предполагаю, что человечество сумеет найти себе свою нишу в цивилизации будущего, и скорее всего ниша эта будет именно в области целеполагания. Человечество должно стать подсистемой целеполагания в цивилизации будущего (об этом я в свое время написал целую книгу «Генератор желаний»). Если удастся это сделать, то уровень недружелюбности будем определять мы сами, и вся ответственность за недружелюбность будет на нас самих. Если же мы не сумеем занять эту нишу, то проблема недружелюбности будет уже не нашей проблемой, поскольку в этом случае земная цивилизация продолжит свое существование уже без человечества, на другом материальном носителе.