Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 279

Тут можно читать бесплатно Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски. Жанр: Разная литература / Зарубежная образовательная литература. Так же Вы можете читать полную версию (весь текст) онлайн без регистрации и SMS на сайте 500book.net или прочесть краткое содержание, предисловие (аннотацию), описание и ознакомиться с отзывами (комментариями) о произведении.
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски
  • Категория: Разная литература / Зарубежная образовательная литература
  • Автор: Элиезер Шломо Юдковски
  • Страниц: 457
  • Добавлено: 2026-05-28 18:02:24
  • Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@yandex.ru для удаления материала


Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски краткое содержание

Прочтите описание перед тем, как прочитать онлайн книгу «Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски» бесплатно полную версию:

Что на самом деле значит быть рациональным? Это не «рациональность» в голливудском стиле, где вы отказываетесь от всех человеческих чувств в угоду Холодной и Суровой Логике. Это настоящая рациональность — та, которую изучают психологи, социологи и математики. Рациональность, которая позволяет принимать качественные решения, даже когда это тяжело; грамотно мыслить даже в условиях колоссальной неопределенности; признавать и в полной мере использовать свои неясные интуитивные ощущения и эмоции, а не пытаться от них избавиться.

В книге «Рациональность: от ИИ до зомби» Элиезер Юдковский объясняет научную природу человеческой иррациональности через смесь притч, полемических эссе и личных историй. Эти поразительные описания того, как работает наш разум (и как часто он дает сбои!), затем проходят проверку по-настоящему сложными головоломками. Среди них:

споры специалистов по компьютерным наукам о будущем искусственного интеллекта (ИИ);дискуссии физиков о связи между квантовым и классическим мирами;дебаты философов о метафизике зомби и природе морали, и многое другое.

При этом «Рациональность: от ИИ до зомби» раскрывает значимость правильного мышления для человека гораздо глубже, чем любой традиционный учебник по когнитивистике или философии разума.

Об авторе и издании:
Элиезер Юдковский — специалист по теории принятия решений и исследователь в Институте машинного интеллекта (MIRI). Ранние черновики своих текстов он публиковал на площадках Overcoming Bias и Less Wrong. «Рациональность: от ИИ до зомби» объединяет шесть томов эссе Юдковского в один масштабный электронный труд. В совокупности эти цепочки связанных эссе служат глубоким и увлекательным введением в науку — и искусство — человеческой рациональности.

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски читать онлайн бесплатно

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски - читать книгу онлайн бесплатно, автор Элиезер Шломо Юдковски

12)+ ( 12 + (-1)2)

= (4 + 1) + (1 + 1)

= 7.

Или, если говорить о нашем текущем эксперименте, потоки (1 + 0i) и (-1 + 0i) взаимно уничтожились, сложившись в 0, чей квадрат модуля равен 0, в то время как квадраты модулей частей по отдельности составили бы 1 и 1.

Если бы вместо Квадрата_Модуля наш волшебный инструмент представлял собой какую-то линейную функцию — любую функцию, для которой выполняется F(X + Y) = F(X) + F(Y) — тогда вся квантовость мгновенно исчезла бы, уступив место классической физике. (Другой классической физике, а не той иллюзии классичности, которую мы галлюцинируем изнутри более высоких уровней организации нашего собственного квантового мира.)

Если бы амплитуды были просто вероятностями, они не могли бы взаимно уничтожаться при столкновении потоков. Если бы конфигурации были просто состояниями знания, вы могли бы перестраивать их как угодно.

Но конфигурации прибиты намертво: они неделимы и не могут быть объединены без изменения законов физики.

И часть того, что прибито намертво, — это то, как конфигурации обращаются с несколькими частицами. Конфигурация гласит: «фотон здесь, фотон там», а не «этот фотон здесь, тот фотон там». «Этот фотон здесь, тот фотон там» по своей идентичности ничем не отличается от «тот фотон здесь, этот фотон там».

Результат, очевидный из сегодняшнего эксперимента, состоит в том, что физику нашей Вселенной нельзя факторизовать так, чтобы свести её к описанию частиц с индивидуальной идентичностью.

Отчасти причина того, почему людям так трудно принять совершенно нормальную квантовую физику, состоит в том, что люди каким-то странным образом упорно пытаются разложить реальность на сумму индивидуально реальных бильярдных шаров.

Ха-ха! Глупые люди.

*

232. Различные конфигурации. Эксперимент из предыдущего эссе преподнес нам два ключевых урока:

Во-первых, мы увидели, что поскольку потоки амплитуды могут взаимно уничтожаться, а наша волшебная мера квадрата модуля нелинейна, идентичность конфигураций жестко зафиксирована — вы не можете реорганизовать конфигурации так же, как перегруппировать возможные миры. То, какие конфигурации тождественны, а какие различны, имеет экспериментальные последствия; это наблюдаемый факт.

Во-вторых, мы увидели, что конфигурации описывают сразу множество частиц. Если в установку входят два фотона, это не значит, что существуют две начальные конфигурации. Вместо этого начальная конфигурация определяется как «два входящих фотона». (В идеале каждая конфигурация, о которой мы говорим, должна включать в себя каждую частицу в эксперименте — в том числе частицы, составляющие зеркала и детекторы. А в реальной вселенной каждая конфигурация касается всех частиц... повсюду.)

Отдельные конфигурации выделяются не отдельными частицами. Каждая конфигурация описывает все частицы сразу. Конфигурации делает различными то, что частицы занимают разные положения — хотя бы одна частица находится в ином состоянии.

В качестве важной демонстрации...

Рисунок 232.1

Рисунок 232.1 представляет собой тот же эксперимент, что и на Рисунке 230.2, но с одним важным изменением: между A и C помещена чувствительная штуковина S. Ключевое свойство S состоит в том, что если мимо нее пролетает фотон, S оказывается в немного ином состоянии.

Допустим, два возможных состояния S — это «Да» и «Нет». Чувствительная штуковина S начинает работу в состоянии «Нет» и переходит в состояние «Да», если мимо пролетает фотон.

Тогда начальная конфигурация такова:

«фотон движется к A; а S находится в состоянии «Нет»», (-1 + 0i).

Далее происходит действие полупрозрачного зеркала в точке A. В предыдущей версии эксперимента, без чувствительной штуковины, двумя получившимися конфигурациями были «от A к B» с амплитудой -i и «от A к C» с амплитудой -1. Однако теперь в систему введен новый элемент, а поскольку все конфигурации касаются всех частиц, любая конфигурация упоминает и этот новый элемент. Таким образом, потоки амплитуды из начальной конфигурации направлены к:

«фотон летит от A к B; а S находится в состоянии «Нет»», (0 - i)

«фотон летит от A к C; а S находится в состоянии «Да»», (-1 + 0i).

Далее происходит действие обычных зеркал в точках B и C:

«фотон летит от B к D; а S находится в состоянии «Нет»», (1 + 0i)

«фотон летит от C к D; а S находится в состоянии «Да»», (0 - i).

А затем — действие полупрозрачного зеркала в точке D на потоки амплитуды, идущие от обеих вышеупомянутых конфигураций:

«фотон летит от D к E; а S находится в состоянии «Нет»», (0 + i)

«фотон летит от D к F; а S находится в состоянии «Нет»», (1 + 0i)

«фотон летит от D к E; а S находится в состоянии «Да»», (0 - i)

«фотон летит от D к F; а S находится в состоянии «Да»», (1 + 0i).

Когда мы проводили этот эксперимент без чувствительной штуковины, потоки амплитуды (1) и (3), равные (0 + i) и (0 - i), направленные к конфигурации «от D к E», взаимно уничтожались. Для фотона, летящего к Детектору 1, амплитуды не оставалось вообще (высоко на макроуровне эксперимента мы никогда не наблюдаем попадание фотона в Детектор 1).

Но в данном случае эти два потока амплитуды (1) и (3) теперь ведут к разным конфигурациям; по крайней мере один объект, S, находится в разных состояниях в конфигурациях (1) и (3). Амплитуды не уничтожают друг друга.

Когда мы проводим нашим волшебным детектором отношения квадратов модулей над четырьмя конечными конфигурациями, мы обнаруживаем, что квадраты модулей у всех равны: по 25% вероятности на каждую. Высоко на уровне реального мира мы обнаруживаем, что у фотона равные шансы попасть как в Детектор 1, так и в Детектор 2.

Всё вышеописанное верно, даже если нам, исследователям, нет никакого дела до состояния S. В отличие от возможных миров, конфигурации нельзя перегруппировать по своей прихоти. Законы физики гласят, что эти две конфигурации различны; и дело тут не в том, как нам удобнее разделять мир на части.

Всё вышеописанное верно, даже если мы не дадим себе труда взглянуть на состояние S. С точки зрения физики конфигурации (1) и (3) различны, даже если мы об этом различии не знаем.

Всё вышеописанное верно, даже если мы вообще не знаем о существовании S. Конфигурации (1) и (3) различны независимо от того, есть ли у нас отдельные мысленные репрезентации для этих двух возможностей.

Всё вышеописанное верно, даже если мы находимся

Перейти на страницу:
Вы автор?
Жалоба
Все книги на сайте размещаются его пользователями. Приносим свои глубочайшие извинения, если Ваша книга была опубликована без Вашего на то согласия.
Напишите нам, и мы в срочном порядке примем меры.
Комментарии / Отзывы
    Ничего не найдено.