Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 276
- Категория: Разная литература / Зарубежная образовательная литература
- Автор: Элиезер Шломо Юдковски
- Страниц: 457
- Добавлено: 2026-05-28 18:02:24
Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@yandex.ru для удаления материала
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски краткое содержание
Прочтите описание перед тем, как прочитать онлайн книгу «Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски» бесплатно полную версию:Что на самом деле значит быть рациональным? Это не «рациональность» в голливудском стиле, где вы отказываетесь от всех человеческих чувств в угоду Холодной и Суровой Логике. Это настоящая рациональность — та, которую изучают психологи, социологи и математики. Рациональность, которая позволяет принимать качественные решения, даже когда это тяжело; грамотно мыслить даже в условиях колоссальной неопределенности; признавать и в полной мере использовать свои неясные интуитивные ощущения и эмоции, а не пытаться от них избавиться.
В книге «Рациональность: от ИИ до зомби» Элиезер Юдковский объясняет научную природу человеческой иррациональности через смесь притч, полемических эссе и личных историй. Эти поразительные описания того, как работает наш разум (и как часто он дает сбои!), затем проходят проверку по-настоящему сложными головоломками. Среди них:
споры специалистов по компьютерным наукам о будущем искусственного интеллекта (ИИ);дискуссии физиков о связи между квантовым и классическим мирами;дебаты философов о метафизике зомби и природе морали, и многое другое.При этом «Рациональность: от ИИ до зомби» раскрывает значимость правильного мышления для человека гораздо глубже, чем любой традиционный учебник по когнитивистике или философии разума.
Об авторе и издании:
Элиезер Юдковский — специалист по теории принятия решений и исследователь в Институте машинного интеллекта (MIRI). Ранние черновики своих текстов он публиковал на площадках Overcoming Bias и Less Wrong. «Рациональность: от ИИ до зомби» объединяет шесть томов эссе Юдковского в один масштабный электронный труд. В совокупности эти цепочки связанных эссе служат глубоким и увлекательным введением в науку — и искусство — человеческой рациональности.
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски читать онлайн бесплатно
Если говорить точнее, этот волшебный прибор на самом деле сообщает нам лишь отношения квадратов длин амплитуд в некоторых конфигурациях. Мы не знаем абсолютной длины стрелочек, а только то, как они соотносятся друг с другом. Но этого оказывается достаточно, чтобы реконструировать законы физики — правила программы. И поэтому я могу говорить об амплитудах, а не только об отношениях квадратов модулей.
Когда мы проводим волшебным прибором над конфигурациями «Детектор 1 ловит фотон» и «Детектор 2 ловит фотон», мы обнаруживаем, что у этих конфигураций одинаковый квадрат модуля — длины стрелочек равны. Так гласит волшебный прибор. Проводя более сложные эксперименты (которые мы вскоре рассмотрим), мы можем определить, что исходные комплексные числа относились друг к другу как i к 1.
И что же это за волшебный измерительный прибор?
Что ж, с точки зрения повседневной жизни — далеко-далеко, на много уровней выше квантового уровня, где всё гораздо сложнее, — этот волшебный прибор работает так: мы отправляем несколько фотонов к полупрозрачному зеркалу, по одному за раз, и после нескольких тысяч попыток подсчитываем, сколько фотонов попало на Детектор 1 по сравнению с Детектором 2. Отношение этих значений и есть отношение квадратов модулей амплитуд. Но причину этого мы пока не будем рассматривать. Сначала нужно научиться ходить, а потом бегать. Невозможно понять, что происходит на самом верху, на уровне повседневной жизни, не разобравшись предварительно с гораздо более простыми случаями.
Для наших сегодняшних целей у нас есть волшебный считыватель отношения квадратов модулей. И этот волшебный прибор сообщает нам, что маленькая двумерная стрелочка для конфигурации «Детектор 1 ловит фотон» имеет ту же квадратную длину, что и для конфигурации «Детектор 2 ловит фотон». Вот и всё.
Вы можете спросить: «Если волшебный прибор работает именно так, почему мы вообще используем квантовую теорию вместо того, чтобы просто считать, что полупосеребренное зеркало отражает фотон примерно в половине случаев?»
Что ж, это верный способ окончательно запутаться — вставать на исторически обусловленную точку зрения и пользоваться повседневной интуицией. Разве я говорил что-нибудь о маленьком бильярдном шарике, который летит в ту или иную сторону и, возможно, отскакивает от зеркала? Реальность устроена иначе. Реальность — это перетекание комплексных амплитуд между конфигурациями, и законы этого перетекания стабильны.
Но если вы непременно хотите увидеть более сложную ситуацию, с которой бильярдный образ мышления не справляется, вот вам более сложный эксперимент.
Рисунок 230.2
На рисунке 230.2 B и C — это обычные зеркала, а A и D — полупрозрачные зеркала. Линия от D к E показана пунктиром по причинам, которые вскоре станут ясны, но амплитуда перетекает от D к E ровно по тем же законам.
Теперь давайте применим правила, которые мы узнали ранее:
В начальный момент времени конфигурация «фотон, летящий к A» имеет амплитуду (-1 + 0i).
Перейдем к вычислению амплитуды для конфигураций «фотон, летящий от A к B» и «фотон, летящий от A к C»:
«фотон, летящий от A к B» = i × «фотон, летящий к A» = (0 − i).
Аналогично,
«фотон, летящий от A к C» = 1 × «фотон, летящий к A» = (−1 + 0i).
Обычные зеркала ведут себя (как и следовало ожидать) как «половина» полупрозрачного зеркала — обычное зеркало просто отклоняет траекторию под прямым углом и умножает амплитуду на i. (Если говорить чуть точнее: для обычного зеркала амплитуда, которая перетекает из конфигурации «входящий фотон» в конфигурацию «фотон, вылетающий под прямым углом», умножается на множитель i.)
Таким образом:
«фотон, летящий от B к D» = i × «фотон, летящий от A к B» = (1 + 0i),
«фотон, летящий от C к D» = i × «фотон, летящий от A к C» = (0 − i).
«от B к D» и «от C к D» — это две разные конфигурации (мы не пишем просто «фотон в точке D»), поскольку в этих двух разных конфигурациях фотоны прилетают под разными углами. А то, как D поступит с фотоном, зависит от угла, под которым фотон прилетает.
Напомним правило (выражаясь неформально): когда полупрозрачное зеркало отклоняет свет под прямым углом, амплитуда, перетекающая из конфигурации «входящий фотон» в конфигурацию «выходящий фотон», равна амплитуде входящей конфигурации, умноженной на i. А когда две конфигурации связаны тем, что полупрозрачное зеркало пропускает свет насквозь, амплитуда, перетекающая из конфигурации «входящий фотон», умножается на 1.
Таким образом:
Из конфигурации «фотон, летящий от B к D» с исходной амплитудой (1 + 0i):
Амплитуда, равная (1 + 0i) × i = (0 + i), перетекает в «фотон, летящий от D к E».
Амплитуда, равная (1 + 0i) × 1 = (1 + 0i), перетекает в «фотон, летящий от D к F».
Из конфигурации «фотон, летящий от C к D» с исходной амплитудой (0 - i):
Амплитуда, равная (0 - i) × i = (1 + 0i), перетекает в «фотон, летящий от D к F».
Амплитуда, равная (0 - i) × 1 = (0 - i), перетекает в «фотон, летящий от D к E».
Следовательно:
Суммарная амплитуда, перетекающая в конфигурацию «фотон, летящий от D к E», равна (0 + i) + (0 - i) = (0 + 0i) = 0.
Суммарная амплитуда, перетекающая в конфигурацию «фотон, летящий от D к F», равна (1 + 0i) + (1 + 0i) = (2 + 0i).
(Возможно, вы захотите проделать эти вычисления самостоятельно на бумаге, если в какой-то момент потеряли нить рассуждений.)
Но практический результат с точки зрения сверхвысокоуровневой «экспериментальной» перспективы, которую мы считаем обычной жизнью, заключается в том, что мы вообще не регистрируем фотоны в точке E. Похоже, все фотоны в итоге попадают в F. Отношение квадратов модулей между путями «от D к E» и «от D к F» составляет 0 к 4. Вот почему линия от D к E на этом рисунке пунктирная.
Это невозможно объяснить, представляя полупрозрачные зеркала, которые в половине случаев отклоняют летящие в них маленькие бильярдные шары. Вам придется мыслить в терминах потоков амплитуды.
Если бы в этой схеме полупрозрачные зеркала отклоняли маленький бильярдный шар в половине случаев, то этот шар примерно в половине случаев оказывался
Жалоба
Напишите нам, и мы в срочном порядке примем меры.