Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 238

Я говорю всё это, чтобы проиллюстрировать саму идею: нужно взять эмоциональную энергию, утекающую в никуда, и привязать её к сфере реальности.

Это не значит, что нужно ставить перед собой заниженные цели, чтобы они казались «реалистичными», то есть простыми, безопасными и одобренными родителями. Возможно, конкретно в вашем случае это хороший совет, я не знаю, но не мне его давать.

Я имею в виду, что вы можете вкладывать эмоциональную энергию в радугу, даже если она окажется не волшебной. Будущее всегда абсурдно, но оно никогда не бывает нереальным.

Голливудский стереотип о рациональности гласит, что «рациональный — значит безэмоциональный»: чем вы разумнее, тем больше ваших эмоций неизбежно уничтожает Разум. В главе «Рациональные чувства» я противопоставляю этому суждению другие: «То, что может быть разрушено истиной, должно быть разрушено» и «То, что истина питает, должно процветать». Когда вы сформировали наиболее точную картину истины, в эмоциях, которые вы в результате испытываете, нет ничего иррационального — истина не может разрушить эти эмоции, а значит, они не являются иррациональными.

Поэтому вместо того, чтобы уничтожать эмоциональную энергию, связанную с плохими объяснениями природы радуги (как того требует голливудский стереотип), давайте перенаправим её на реальность — привяжем к убеждениям, которые будут настолько истинными, насколько мы способны их сделать.

Хотите летать? Не отказывайтесь от полёта. Откажитесь от летающих зелий и постройте себе самолёт.

Помните тему из главы «Думать как реальность», где я говорил о том, что когда физика кажется контринтуитивной, нужно признать: странная вовсе не физика, а вы?

То, о чём я говорю сейчас, очень похоже на это, только здесь речь идёт об эмоциях, а не о гипотезах — о привязке ваших чувств к реальному миру. Не к «реалистичному» повседневному миру. Я был бы вопиющим лицемером, если бы сказал вам заткнуться и делать домашнее задание. Я имею в виду по-настоящему реальный мир, вселенную, подчинённую строгим законам, в которой есть место таким нелепостям, как высадка на Луну и эволюция человеческого интеллекта. Просто без магии — совсем, везде и навсегда.

Согласно мему голливудской рациональности, «наука лишает жизнь радости».

Наука возвращает радость в жизнь.

Рациональность направляет вашу эмоциональную энергию во вселенную, а не куда-то ещё.

*

205. Если вы требуете магии, магия не поможет.

Большинство ведьм не верят в богов. Конечно, они знают, что боги существуют. Время от времени им даже приходится иметь с ними дело. Но ведьмы в них не верят. Слишком хорошо их знают. Это все равно что верить в почтальона.

— Терри Пратчетт, Ведьмы за границей1

Как-то раз я размышлял над философией фэнтези —

И прежде чем кто-то упрекнет меня в «непонимании того, о чем на самом деле фэнтези», позвольте мне сказать вот что: я вырос в семье любителей научной фантастики и фэнтези. Я читаю фэнтези с пяти лет. Время от времени я и сам пытаюсь писать фэнтезийные истории. И я не из тех людей, кто берется писать в каком-то жанре, не поразмыслив над его философией. Откуда, по-вашему, берутся сюжеты?

Как бы то ни было:

Размышляя о философии фэнтези, я подумал: если бы в нашем мире действительно водились драконы — если бы можно было пойти в зоопарк или даже отправиться к далекой горе и встретить там огнедышащего дракона — а зебр при этом никто никогда не видел, то в наших фэнтези-рассказах зебр было бы пруд пруди, а драконы никого бы не волновали.

Вот это я понимаю — загнать себя в угол, а? Трава всегда зеленее по ту сторону нереальности.

В одном из типичных фэнтезийных сюжетов главный герой с нашей Земли — вызывающий симпатию персонаж с плохими оценками или неподъемной ипотекой, но добрым сердцем — внезапно оказывается в мире, где вместо науки действует магия. Обычно герой начинает практиковать магию и со временем становится (сверхсильным) волшебником.

И вот вопрос — да, он немного язвителен, но, думаю, его стоит задать: по всей видимости, большинство читателей этих романов представляют себя на месте главного героя, фантазируя о том, как они сами овладевают колдовством. Мечтают о магии. И, если исключить маловероятные демографические аномалии, большинство читателей этих книг — не ученые.

Родившись в мире науки, они не стали учеными. С чего они взяли, что в мире магии вели бы себя иначе?

Если им чужд научный подход, согласно которому ничто не бывает «всего лишь» чем-то — способность интересоваться вещами, которые всего лишь реальны, — то как им поможет магия? Если бы у них действительно была магия, она стала бы всего лишь реальной и утратила бы прелесть недостижимости. Поначалу они могли бы прийти в восторг, но (как и выигравшие в лотерею, которые через полгода оказываются далеко не так счастливы, как ожидали) этот восторг быстро сошел бы на нет. Скорее всего, как только им пришлось бы по-настоящему учить заклинания.

Разве что они найдут в себе способность радоваться вещам, которые всего лишь реальны. Испытывать такой же восторг от полета на дельтаплане, как от полета на драконе; так же радоваться зажженному с помощью электричества свету, как и зажженному магией... пусть даже для этого и придется немного поучиться...

Не поймите меня неправильно. Я вовсе не против драконов. Кто знает, может, в один прекрасный день мы их даже создадим.

Но если у вас нет способности получать удовольствие от дельтапланеризма из-за того, что он всего лишь реален, то как только драконы станут реальностью, они будут волновать вас ничуть не больше дельтапланов.

Думаете, вы предпочли бы жить в Будущем, а не в настоящем? Это вполне объяснимое предпочтение. Со временем жизнь действительно становится лучше.

Но не забывайте, что это и есть Будущее по сравнению с Темными веками тысячелетней давности. У вас есть возможности, о которых не смели мечтать даже короли.

Если эта тенденция сохранится, Будущее действительно может оказаться прекрасным местом для жизни. Но если вы все-таки доберетесь до него, то обнаружите там лишь очередное «Сейчас». Если у вас нет базовой способности радоваться пребыванию в «Сейчас» — если