Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 275

Тут можно читать бесплатно Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски. Жанр: Разная литература / Зарубежная образовательная литература. Так же Вы можете читать полную версию (весь текст) онлайн без регистрации и SMS на сайте 500book.net или прочесть краткое содержание, предисловие (аннотацию), описание и ознакомиться с отзывами (комментариями) о произведении.
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски
  • Категория: Разная литература / Зарубежная образовательная литература
  • Автор: Элиезер Шломо Юдковски
  • Страниц: 457
  • Добавлено: 2026-05-28 18:02:24
  • Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@yandex.ru для удаления материала


Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски краткое содержание

Прочтите описание перед тем, как прочитать онлайн книгу «Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски» бесплатно полную версию:

Что на самом деле значит быть рациональным? Это не «рациональность» в голливудском стиле, где вы отказываетесь от всех человеческих чувств в угоду Холодной и Суровой Логике. Это настоящая рациональность — та, которую изучают психологи, социологи и математики. Рациональность, которая позволяет принимать качественные решения, даже когда это тяжело; грамотно мыслить даже в условиях колоссальной неопределенности; признавать и в полной мере использовать свои неясные интуитивные ощущения и эмоции, а не пытаться от них избавиться.

В книге «Рациональность: от ИИ до зомби» Элиезер Юдковский объясняет научную природу человеческой иррациональности через смесь притч, полемических эссе и личных историй. Эти поразительные описания того, как работает наш разум (и как часто он дает сбои!), затем проходят проверку по-настоящему сложными головоломками. Среди них:

споры специалистов по компьютерным наукам о будущем искусственного интеллекта (ИИ);дискуссии физиков о связи между квантовым и классическим мирами;дебаты философов о метафизике зомби и природе морали, и многое другое.

При этом «Рациональность: от ИИ до зомби» раскрывает значимость правильного мышления для человека гораздо глубже, чем любой традиционный учебник по когнитивистике или философии разума.

Об авторе и издании:
Элиезер Юдковский — специалист по теории принятия решений и исследователь в Институте машинного интеллекта (MIRI). Ранние черновики своих текстов он публиковал на площадках Overcoming Bias и Less Wrong. «Рациональность: от ИИ до зомби» объединяет шесть томов эссе Юдковского в один масштабный электронный труд. В совокупности эти цепочки связанных эссе служат глубоким и увлекательным введением в науку — и искусство — человеческой рациональности.

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски читать онлайн бесплатно

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски - читать книгу онлайн бесплатно, автор Элиезер Шломо Юдковски

собираюсь обсуждать эту тему, существует довольно многочисленное сообщество учёных, которые оспаривают реалистический взгляд на квантовую механику. Сам я не думаю, что стоит просчитывать оба пути; я чистый реалист по причинам, которые станут очевидны позже. Но читая моё введение, вы знакомитесь именно с моей точкой зрения. И это не только моя точка зрения. Вероятно, это мнение большинства физиков-теоретиков, если это вообще что-то значит (хотя я буду аргументировать свою позицию безотносительно опросов общественного мнения). Тем не менее, это не единственный взгляд, существующий в современном физическом сообществе. Я не считаю себя обязанным излагать другие точки зрения прямо сейчас, но чувствую себя обязанным предупредить читателей, что другие взгляды всё-таки существуют, и на начальных этапах введения я их представлять не буду.

Подводя итог, моя цель — научить вас думать как коренной житель квантовой вселенной, а не турист поневоле.

Примите реальность. Обнимите её покрепче.

*

230. Конфигурации и амплитуда.

Итак, Вселенная состоит не из маленьких бильярдных шаров и не из гребней и впадин в эфирном океане... Тогда из чего же сделано то, из чего всё сделано?

Рисунок 230.1

На рисунке 230.1 в точке A мы видим полупрозрачное зеркало и два детектора фотонов: Детектор 1 и Детектор 2.

Первые исследователи, проводя подобные эксперименты, не могли понять, что означают их результаты. Они направляли фотон на полупрозрачное зеркало, и в половине случаев щелкал Детектор 1, а в другой половине случаев — Детектор 2.

Те первые ученые — вы сейчас будете смеяться — думали, что полупрозрачное зеркало в половине случаев отклоняет фотон, а в другой половине случаев пропускает его сквозь себя.

Ха-ха! Как будто полупрозрачное зеркало в разных случаях ведет себя по-разному! Я хочу, чтобы вы отбросили эту мысль, потому что если вы будете цепляться за представления первых учёных, то окончательно запутаетесь. Полупрозрачное зеркало каждый раз подчиняется одному и тому же правилу.

Если бы вы писали компьютерную программу, которая воспроизводила бы этот эксперимент — не программу, которая предсказывала бы результат эксперимента, а программу, которая отражает саму лежащую в его основе реальность, — она выглядела бы примерно так:

В начале работы программы (в начале эксперимента, в начале времен) существует некий математический объект, называемый конфигурацией. Можно считать, что эта конфигурация соответствует утверждению «один фотон движется от источника фотонов к полупрозрачному зеркалу» или просто «фотон движется к точке A».

Конфигурация может хранить в себе единственное комплексное значение — «комплексное» в смысле комплексных чисел (a + bi), где i определяется как √-1. В начале программы в конфигурации «фотон движется к точке A» уже записано некоторое комплексное число. Его точное значение не важно, лишь бы оно не равнялось нулю. Пусть конфигурация «фотон движется к точке A» имеет значение (-1 + 0i).

Все это — факт на самой территории, а не описание чьих-то знаний. Конфигурация — это не суждение и не возможный вариант устройства мира. Конфигурация — это переменная в программе (можно представить ее как ячейку памяти с адресом «фотон движется к точке A»), и она реально существует на территории.

Поскольку комплексные числа, сопоставляемые конфигурациям, не являются положительными вещественными числами от 0 до 1, нет опасности спутать их с вероятностями. Конфигурация «фотон движется к точке A» имеет комплексное значение -1, которое трудно истолковать как степень уверенности. Комплексные числа — это значения внутри программы, опять же реально существующие на территории. Мы будем называть эти комплексные числа амплитудами.

Есть еще две конфигурации, которые мы назовем «фотон летит от A к Детектору 1» и «фотон летит от A к Детектору 2». У этих конфигураций пока нет комплексного значения; оно будет присвоено в ходе выполнения программы.

Мы собираемся рассчитать амплитуды для конфигураций «фотон летит от A к 1» и «фотон летит от A к 2», используя значение конфигурации «фотон движется к точке A» и правило, описывающее полупосеребренное зеркало в точке A.

Грубо говоря, правило полупрозрачного зеркала звучит так: «умножить на 1, если фотон летит прямо, и умножить на i, если фотон поворачивает под прямым углом». Это универсальное правило, связывающее амплитуду конфигурации «фотон на входе» с амплитудой, которая передается конфигурациям «фотон на выходе летит прямо» или «фотон отклоняется».1

Итак, мы подаем амплитуду конфигурации «фотон движется к точке A», равную (-1 + 0i), на полупрозрачное зеркало в точке A, и это передает амплитуду (-1 + 0i) × i = (0 - i) конфигурации «фотон летит от A к 1», а также передает амплитуду (-1 + 0i) × 1 = (-1 + 0i) конфигурации «фотон летит от A к 2».

В эксперименте на рисунке 230.1 это все конфигурации и все передаваемые амплитуды, о которых нам нужно беспокоиться, так что на этом всё. Или, если вы хотите рассматривать «Детектор 1 ловит фотон» и «Детектор 2 ловит фотон» как отдельные конфигурации, они просто унаследуют свои значения от конфигураций «от A к 1» и «от A к 2» соответственно. (На самом деле наследуемые значения следовало бы умножить на еще один комплексный множитель, соответствующий расстоянию от A до детектора, но пока мы это проигнорируем и предположим, что все пройденные в наших экспериментах расстояния случайно соответствуют комплексному множителю 1.)

Таким образом, финальное состояние программы выглядит так:

Конфигурация «фотон движется к точке A»: (-1 + 0i)

Конфигурация «фотон летит от A к 1»: (0 - i)

Конфигурация «фотон летит от A к 2»: (-1 + 0i)

и опционально

Конфигурация «Детектор 1 ловит фотон»: (0 - i)

Конфигурация «Детектор 2 ловит фотон»: (-1 + 0i).

Этот же результат — те же самые амплитуды, хранящиеся в тех же самых конфигурациях, — получается при каждом запуске программы (при каждом проведении эксперимента).

Теперь, по сложным причинам, в которые мы здесь не будем вдаваться (эти соображения лежат на более высоком уровне организации материи, чем фундаментальная квантовая механика, подобно тому, как атомы сложнее кварков), не существует простого измерительного прибора, который мог бы напрямую сообщить нам точные амплитуды каждой конфигурации. Мы не можем непосредственно наблюдать состояние программы.

Так откуда же физики знают, каковы эти амплитуды?

Но у нас все-таки есть волшебный измерительный прибор, который может показать нам квадрат модуля амплитуды конфигурации. Если исходная комплексная амплитуда равна (a + bi), мы можем получить положительное вещественное число (a2 + b2).

Перейти на страницу:
Вы автор?
Жалоба
Все книги на сайте размещаются его пользователями. Приносим свои глубочайшие извинения, если Ваша книга была опубликована без Вашего на то согласия.
Напишите нам, и мы в срочном порядке примем меры.
Комментарии / Отзывы
    Ничего не найдено.