Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 219

Тут можно читать бесплатно Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски. Жанр: Разная литература / Зарубежная образовательная литература. Так же Вы можете читать полную версию (весь текст) онлайн без регистрации и SMS на сайте 500book.net или прочесть краткое содержание, предисловие (аннотацию), описание и ознакомиться с отзывами (комментариями) о произведении.
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски
  • Категория: Разная литература / Зарубежная образовательная литература
  • Автор: Элиезер Шломо Юдковски
  • Страниц: 457
  • Добавлено: 2026-05-28 18:02:24
  • Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@yandex.ru для удаления материала


Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски краткое содержание

Прочтите описание перед тем, как прочитать онлайн книгу «Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски» бесплатно полную версию:

Что на самом деле значит быть рациональным? Это не «рациональность» в голливудском стиле, где вы отказываетесь от всех человеческих чувств в угоду Холодной и Суровой Логике. Это настоящая рациональность — та, которую изучают психологи, социологи и математики. Рациональность, которая позволяет принимать качественные решения, даже когда это тяжело; грамотно мыслить даже в условиях колоссальной неопределенности; признавать и в полной мере использовать свои неясные интуитивные ощущения и эмоции, а не пытаться от них избавиться.

В книге «Рациональность: от ИИ до зомби» Элиезер Юдковский объясняет научную природу человеческой иррациональности через смесь притч, полемических эссе и личных историй. Эти поразительные описания того, как работает наш разум (и как часто он дает сбои!), затем проходят проверку по-настоящему сложными головоломками. Среди них:

споры специалистов по компьютерным наукам о будущем искусственного интеллекта (ИИ);дискуссии физиков о связи между квантовым и классическим мирами;дебаты философов о метафизике зомби и природе морали, и многое другое.

При этом «Рациональность: от ИИ до зомби» раскрывает значимость правильного мышления для человека гораздо глубже, чем любой традиционный учебник по когнитивистике или философии разума.

Об авторе и издании:
Элиезер Юдковский — специалист по теории принятия решений и исследователь в Институте машинного интеллекта (MIRI). Ранние черновики своих текстов он публиковал на площадках Overcoming Bias и Less Wrong. «Рациональность: от ИИ до зомби» объединяет шесть томов эссе Юдковского в один масштабный электронный труд. В совокупности эти цепочки связанных эссе служат глубоким и увлекательным введением в науку — и искусство — человеческой рациональности.

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски читать онлайн бесплатно

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски - читать книгу онлайн бесплатно, автор Элиезер Шломо Юдковски

более известный как закон сохранения энергии, гласит, что нельзя создать энергию из ничего: он запрещает вечные двигатели первого рода, которые работают бесконечно, не потребляя топлива или других ресурсов. Согласно современным физическим представлениям, энергия сохраняется в каждом отдельном взаимодействии частиц. Методом математической индукции мы видим, что сколь бы крупным ни было скопление частиц, оно не может производить энергию из ничего — во всяком случае, без нарушения того, что мы сейчас считаем законами физики.

Вот почему Патентное ведомство США без лишних разговоров отклонит ваше поразительно остроумное предложение по созданию системы колес и шестеренок, в которой одна пружина заводит другую по мере того, как первая раскручивается, благодаря чему вся конструкция, согласно вашим расчетам, совершает работу вечно. Существует универсальное доказательство того, что для этого как минимум одно колесо должно нарушить законы физики (в нашей стандартной модели). Так что, если вы не можете объяснить, как одно колесо нарушает законы физики, система колес тоже этого сделать не сможет.

Аналогичный аргумент применим и к «безопорному двигателю» — двигательной установке, нарушающей закон сохранения импульса. В стандартной физике импульс сохраняется для всех отдельных частиц и их взаимодействий; методом математической индукции импульс сохраняется для физических систем любого масштаба. Если вы можете представить, как две частицы сталкиваются и всегда разлетаются с тем же суммарным импульсом, с которым начали движение, то вы поймете, что масштабирование от частиц до гигантской сложной системы шестеренок ничего не изменит. Даже если в этом участвует триллион квадриллионов атомов, 0 + 0 + … + 0 = 0.

Но закон сохранения энергии как таковой не может запретить превращение тепла в работу. Вы действительно можете построить герметичный ящик, который превращает кубики льда и запасенное электричество в теплую воду. Это даже несложно. Энергия не может быть создана или уничтожена: чистое изменение энергии при переходе от (кубики льда + электричество) к (теплая вода) должно быть равно нулю. Таким образом, закон сохранения энергии как таковой не был бы нарушен, если бы вы проделали все это в обратном направлении...

Вечные двигатели второго рода, превращающие теплую воду в электрический ток и кубики льда, запрещены Вторым законом термодинамики.

Второй закон понять немного сложнее, поскольку по своей сути он байесовский.

Да, серьезно.

Главным физическим законом, лежащим в основе Второго закона термодинамики, является теорема, которую можно доказать в рамках стандартной физической модели: при эволюции любой замкнутой системы во времени объем фазового пространства сохраняется.

Допустим, вы держите мяч высоко над землей. Мы можем описать это положение дел как точку в многомерном пространстве, как минимум одним из измерений которого является «высота мяча над землей». Затем, когда вы отпускаете мяч, он начинает двигаться, а вместе с ним движется и безразмерная точка в фазовом пространстве, описывающая всю систему, включающую вас и мяч. «Фазовое пространство» на языке физики означает, что в нем есть измерения для импульса частиц, а не только для их положения — например, система из двух частиц будет иметь 12 измерений: 3 измерения для положения каждой частицы и 3 измерения для импульса каждой частицы.

Если бы у вас было многомерное пространство, каждое измерение которого описывало бы положение шестеренки в огромной их совокупности, то при вращении шестеренок одна-единственная точка совершала бы виражи и броски в фазовом пространстве довольно высокой размерности. Иными словами, точно так же, как вы можете рассматривать огромную сложную машину как одну точку в пространстве очень высокой размерности, вы можете рассматривать и законы физики, описывающие поведение этой машины во времени, как траекторию ее точки в фазовом пространстве.

Второй закон термодинамики является следствием теоремы, которую можно доказать в стандартной модели физики: если взять некоторую область фазового пространства и проследить ее эволюцию вперед во времени согласно стандартной физике, общий объем фазового пространства сохраняется.

Например, пусть существуют две системы, X и Y, где X имеет 8 возможных состояний, Y — 4 возможных состояния, а объединенная система (X, Y) — 32 возможных состояния.

Развитие объединенной системы во времени можно описать как правило, отображающее начальные точки в будущие. Например, система может начать в состоянии X7Y2, а затем развиться (согласно некоторому набору физических законов) в состояние X3Y3 минуту спустя. Иными словами: если бы X стартовала в состоянии X7, а Y стартовала в состоянии Y2, и мы наблюдали бы за ними в течение 1 минуты, мы бы увидели, как X переходит в X3, а Y переходит в Y3. Таковы законы физики.

Теперь давайте выделим подпространство S состояний объединенной системы. Пространство S будет подпространством, задаваемым условием, что X находится в состоянии X1, а Y — в состояниях от Y1 до Y4. Таким образом, общий объем S равен 4 состояниям.

И давайте предположим, что согласно законам физики, управляющим (X, Y), состояния, изначально находившиеся в S, ведут себя следующим образом:

X1Y1 → X2Y1

X1Y2 → X4Y1

X1Y3 → X6Y1

X1Y4 → X8Y1.

Вот, в двух словах, как работает холодильник.

Подсистема X изначально находилась в узкой области пространства состояний — фактически в одном-единственном состоянии X1, — а подсистема Y изначально была распределена по более широкой области пространства, от состояния Y1 до Y4. Взаимодействуя друг с другом, Y перешла в узкую область, а X оказалась в широкой области; но общий объем фазового пространства сохранился. Четыре исходных состояния отобразились в четыре конечных состояния.

Очевидно, пока законы физики с течением времени сохраняют общий объем фазового пространства, невозможно сжать Y сильнее, чем расширится X, и наоборот — для каждой подсистемы, которую вы сжимаете в более узкую область пространства состояний, какая-то другая подсистема должна расшириться в более широкую область.

Теперь допустим, что мы не уверены относительно объединенной системы (X,Y), и наша неопределенность описывается равновероятным распределением на S. То есть мы практически уверены, что X находится в состоянии X1, но Y с равной вероятностью может находиться в любом из состояний от Y1 до Y4. Если мы закроем глаза на минуту, а затем снова откроем их, мы будем ожидать увидеть Y в состоянии Y1, но X может оказаться в любом из состояний от X2 до X8. На самом деле X может находиться лишь в некоторых из состояний от X2 до X8, но просчитывать, в каких именно, было бы слишком

Перейти на страницу:
Вы автор?
Жалоба
Все книги на сайте размещаются его пользователями. Приносим свои глубочайшие извинения, если Ваша книга была опубликована без Вашего на то согласия.
Напишите нам, и мы в срочном порядке примем меры.
Комментарии / Отзывы
    Ничего не найдено.