Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 277

Тут можно читать бесплатно Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски. Жанр: Разная литература / Зарубежная образовательная литература. Так же Вы можете читать полную версию (весь текст) онлайн без регистрации и SMS на сайте 500book.net или прочесть краткое содержание, предисловие (аннотацию), описание и ознакомиться с отзывами (комментариями) о произведении.
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски
  • Категория: Разная литература / Зарубежная образовательная литература
  • Автор: Элиезер Шломо Юдковски
  • Страниц: 457
  • Добавлено: 2026-05-28 18:02:24
  • Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@yandex.ru для удаления материала


Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски краткое содержание

Прочтите описание перед тем, как прочитать онлайн книгу «Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски» бесплатно полную версию:

Что на самом деле значит быть рациональным? Это не «рациональность» в голливудском стиле, где вы отказываетесь от всех человеческих чувств в угоду Холодной и Суровой Логике. Это настоящая рациональность — та, которую изучают психологи, социологи и математики. Рациональность, которая позволяет принимать качественные решения, даже когда это тяжело; грамотно мыслить даже в условиях колоссальной неопределенности; признавать и в полной мере использовать свои неясные интуитивные ощущения и эмоции, а не пытаться от них избавиться.

В книге «Рациональность: от ИИ до зомби» Элиезер Юдковский объясняет научную природу человеческой иррациональности через смесь притч, полемических эссе и личных историй. Эти поразительные описания того, как работает наш разум (и как часто он дает сбои!), затем проходят проверку по-настоящему сложными головоломками. Среди них:

споры специалистов по компьютерным наукам о будущем искусственного интеллекта (ИИ);дискуссии физиков о связи между квантовым и классическим мирами;дебаты философов о метафизике зомби и природе морали, и многое другое.

При этом «Рациональность: от ИИ до зомби» раскрывает значимость правильного мышления для человека гораздо глубже, чем любой традиционный учебник по когнитивистике или философии разума.

Об авторе и издании:
Элиезер Юдковский — специалист по теории принятия решений и исследователь в Институте машинного интеллекта (MIRI). Ранние черновики своих текстов он публиковал на площадках Overcoming Bias и Less Wrong. «Рациональность: от ИИ до зомби» объединяет шесть томов эссе Юдковского в один масштабный электронный труд. В совокупности эти цепочки связанных эссе служат глубоким и увлекательным введением в науку — и искусство — человеческой рациональности.

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски читать онлайн бесплатно

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски - читать книгу онлайн бесплатно, автор Элиезер Шломо Юдковски

бы у Детектора 1, а в половине случаев — у Детектора 2. Но этого не происходит. Так что не думайте так.

Вы можете сказать: «Но постойте! Я могу придумать другую гипотезу, объясняющую этот результат. Что если полупрозрачное зеркало, отражая фотон, делает с ним что-то такое, из-за чего в следующий раз он гарантированно не отразится? А когда оно пропускает фотон прямо, оно делает с ним что-то такое, чтобы в следующий раз он обязательно отразился».

Ну правда, нет никакой нужды так усложнять правила. Помните о бритве Оккама. Просто придерживайтесь простых, обычных потоков амплитуды между конфигурациями.

Но если вам нужен еще один эксперимент, опровергающий вашу новую альтернативную гипотезу, обратитесь к рисунку 230.3.

Рисунок 230.3

Здесь мы оставили всю экспериментальную схему прежней, только поместили небольшую преграду между B и D. Это гарантирует, что амплитуда перехода «фотон летит из B в D» равна 0.

Как только вы исключите вклад амплитуды из этой конфигурации, в итоге вы получите суммарно (1 + 0i) для «фотона, летящего от D к F» и (0 - i) для «фотона, летящего от D к E».

Квадраты модулей чисел (1 + 0i) и (0 - i) оба равны 1, поэтому волшебный измерительный прибор должен показать нам отношение квадратов модулей равно 1. А далеко вверху, на уровне, где существуют физики, мы должны обнаружить, что Детектор 1 срабатывает в половине случаев, и Детектор 2 — в половине случаев.

То же самое произойдет, если мы поместим преграду между C и D. Амплитуды будут другими, но отношение квадратов модулей останется равным 1, так что Детектор 1 будет срабатывать в половине случаев, и Детектор 2 — в половине случаев.

Такое не может никоим образом произойти с маленьким бильярдным шаром, который либо отражается, либо не отражается полупрозрачными зеркалами.

Поскольку комплексные числа могут иметь противоположные направления, например 1 и -1 или i и -i, потоки амплитуды могут гасить друг друга. Амплитуда, перетекающая из конфигурации X в конфигурацию Y, может быть скомпенсирована равной ей и противоположной по знаку амплитудой, перетекающей из конфигурации Z в конфигурацию Y. Собственно говоря, именно это и происходит в данном эксперименте.

В теории вероятностей, когда событие может произойти либо так, либо иначе, X или ¬X, то P(Z) = P(Z|X)P(X) + P(Z|¬X)P(¬X). При этом все вероятности положительны. Так что если вы установили, что вероятность наступления Z при условии X равна 1/2, а вероятность наступления X равна 1/3, то общая вероятность наступления Z составляет как минимум 1/6, независимо от того, что происходит в случае ¬X. Не существует отрицательной вероятности, уверенности, которая была бы «меньше невозможного», или степени доверия, равной (0 + i), поэтому степени уверенности не могут взаимно гаситься так, как это делают амплитуды.

Не говоря уже о том, что вероятность изначально существует лишь в сознании; мы же говорим о территории, о программе-которая-есть-реальность, а не о человеческом познании или состоянии неполного знания.

Точно так же конфигурации — это не суждения, не утверждения и не мыслимые варианты того, каким мог бы быть мир. Конфигурации не являются семантическими конструктами. К ним неприменимы такие прилагательные, как вероятный; они не являются убеждениями, предложениями или возможными мирами. Они не истинны и не ложны, а просто реальны.

В эксперименте на рисунке 230.2 не поддавайтесь искушению подумать что-то вроде: «Фотон летит либо в B, либо в C, но он мог бы полететь и другим путем, и эта возможность мешает ему попасть в E...»

Бессмысленно думать, будто нечто, что «могло бы произойти, но не произошло», оказывает влияние на мир. Мы можем воображать события, которые могли бы случиться, но не случились — например, думать: «Боже, меня чуть не сбила машина!» — и наше воображение способно повлиять на наше будущее поведение. Но сам акт воображения — это реальное событие, которое действительно происходит, и именно оно оказывает этот эффект. На ваше поведение влияет ваше представление о нереальном событии — ваше вполне реальное воображение, работающее в совершенно материальном мозге.

Думать, что фактическое событие столкновения с машиной — событие, которое могло с вами случиться, но на самом деле не случилось — оказывает прямое причинное воздействие на ваше поведение, значит путать карту с территорией.

На мир влияет то, что реально. (Если что-то может влиять на мир, не будучи «реальным», трудно понять, что вообще означает слово «реальный».) Конфигурации и потоки амплитуды суть причины, и они вызывают видимые следствия; они реальны. Конфигурации не являются возможными мирами, а амплитуды не являются степенями уверенности — точно так же, как ваш стул не является возможным миром, а небо не является степенью уверенности.

Так что же представляет собой конфигурация?

Что ж, более ясное представление об этом вы получите в последующих эссе.

Но чтобы дать вам краткое представление о том, как реальная картина отличается от упрощенной версии, которую мы рассмотрели в этом эссе...

Наша экспериментальная установка имела дело только с одной движущейся частицей, одиночным фотоном. Реальные конфигурации описывают множество частиц. В следующем эссе мы разберём случай с несколькими частицами, и это должно дать вам гораздо более ясное представление о том, что такое конфигурация.

Каждая конфигурация, о которой мы говорили, должна была описывать совместное положение всех частиц в зеркалах и детекторах, а не просто положение одного снующего туда-сюда фотона.

На самом деле по-настоящему реальные конфигурации определяются совместным положением всех частиц во Вселенной, включая частицы, из которых состоят сами экспериментаторы. Теперь вы понимаете, почему я приберегаю понятие экспериментальных результатов для последующих эссе.

В реальном мире амплитуда — это непрерывное распределение по непрерывному пространству конфигураций. «Конфигурации» в этом эссе были дискретными и цифровыми, как и наши «потоки амплитуды». Всё выглядело так, будто мы говорим о фотоне, телепортирующемся из одного места в другое.

Если ничего из этого не понятно, не волнуйтесь. Всё прояснится в последующих эссе. Я просто хотел дать вам представление о том, куда всё это ведёт.

*

1. Примечание редактора: Строго говоря, стандартное полупрозрачное зеркало задавало бы правило «умножить на -1 при повороте фотона под прямым углом», а не «умножить на i». Базовый сценарий, описанный автором, физически возможен, и его использование не влияет на суть аргумента. Однако студенты-физики могут запутаться, если сравнят здешние рассуждения с описанием интерферометра Маха — Цендера в учебниках. Мы оставили эту особенность в тексте, поскольку она избавляет от необходимости указывать, какая сторона зеркала является полупрозрачной,

Перейти на страницу:
Вы автор?
Жалоба
Все книги на сайте размещаются его пользователями. Приносим свои глубочайшие извинения, если Ваша книга была опубликована без Вашего на то согласия.
Напишите нам, и мы в срочном порядке примем меры.
Комментарии / Отзывы
    Ничего не найдено.