Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 152

Тут можно читать бесплатно Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски. Жанр: Разная литература / Зарубежная образовательная литература. Так же Вы можете читать полную версию (весь текст) онлайн без регистрации и SMS на сайте 500book.net или прочесть краткое содержание, предисловие (аннотацию), описание и ознакомиться с отзывами (комментариями) о произведении.
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски
  • Категория: Разная литература / Зарубежная образовательная литература
  • Автор: Элиезер Шломо Юдковски
  • Страниц: 457
  • Добавлено: 2026-05-28 18:02:24
  • Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@yandex.ru для удаления материала


Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски краткое содержание

Прочтите описание перед тем, как прочитать онлайн книгу «Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски» бесплатно полную версию:

Что на самом деле значит быть рациональным? Это не «рациональность» в голливудском стиле, где вы отказываетесь от всех человеческих чувств в угоду Холодной и Суровой Логике. Это настоящая рациональность — та, которую изучают психологи, социологи и математики. Рациональность, которая позволяет принимать качественные решения, даже когда это тяжело; грамотно мыслить даже в условиях колоссальной неопределенности; признавать и в полной мере использовать свои неясные интуитивные ощущения и эмоции, а не пытаться от них избавиться.

В книге «Рациональность: от ИИ до зомби» Элиезер Юдковский объясняет научную природу человеческой иррациональности через смесь притч, полемических эссе и личных историй. Эти поразительные описания того, как работает наш разум (и как часто он дает сбои!), затем проходят проверку по-настоящему сложными головоломками. Среди них:

споры специалистов по компьютерным наукам о будущем искусственного интеллекта (ИИ);дискуссии физиков о связи между квантовым и классическим мирами;дебаты философов о метафизике зомби и природе морали, и многое другое.

При этом «Рациональность: от ИИ до зомби» раскрывает значимость правильного мышления для человека гораздо глубже, чем любой традиционный учебник по когнитивистике или философии разума.

Об авторе и издании:
Элиезер Юдковский — специалист по теории принятия решений и исследователь в Институте машинного интеллекта (MIRI). Ранние черновики своих текстов он публиковал на площадках Overcoming Bias и Less Wrong. «Рациональность: от ИИ до зомби» объединяет шесть томов эссе Юдковского в один масштабный электронный труд. В совокупности эти цепочки связанных эссе служат глубоким и увлекательным введением в науку — и искусство — человеческой рациональности.

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски читать онлайн бесплатно

Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски - читать книгу онлайн бесплатно, автор Элиезер Шломо Юдковски

выглядит. Его нейронные контуры, распознающие чистую кожу, знают о том, что их цель — выявление фертильности, не больше, чем атомы его руки содержат крошечные XML-теги с надписью «<цель>поднимать вещи</цель>». Женщину привлекает его уверенная улыбка и решительные манеры — признаки высокого статуса, которые в среде предков означали бы способность обеспечивать ресурсами детей. Она планирует использовать контрацепцию, но её детекторы уверенной улыбки знают об этом не больше, чем тостер знает, что его создатель предназначил его для приготовления тостов. Её не волнует философский смысл этого бунта, поскольку её мозг — креационист и яростно отрицает само существование эволюции. Его философский смысл этого бунта тоже не волнует, потому что он просто хочет переспать. Они идут в отель и раздеваются. Он надевает презерватив, потому что не хочет детей, а хочет лишь дофаминово-норадреналинового прилива от секса — прилива, который безотказно приводил к появлению потомства 50 000 лет назад, когда неизменной чертой среды предков было отсутствие презервативов. Они занимаются сексом, принимают душ и расходятся. Главное объективное последствие состоит в том, что бар, отель и производитель презервативов продолжают работать; это не было когнитивной целью в их умах и не имеет практически никакого отношения к ключевым статистическим закономерностям воспроизводства 50 000 лет назад, которые объясняют, откуда у них взялись гены, построившие их мозг, который и реализовал всё это поведение.

Чтобы правильно рассуждать об эволюционной психологии, вы должны одновременно удерживать в голове множество сложных абстрактных фактов, тесно связанных, но принципиально различных, не допуская ни малейшей путаницы или смешения понятий.

*

140. Исключительно элегантный эволюционно-психологический эксперимент.

В канадском исследовании 1989 года взрослых просили представить смерть детей разного возраста и оценить, какая из потерь вызовет у родителя сильнейшее чувство утраты. Результаты, нанесенные на график, показывают, что сила горя нарастает почти до подросткового возраста, а затем начинает снижаться. Когда эту кривую сопоставили с кривой изменения репродуктивного потенциала в течение жизненного цикла (закономерность, рассчитанная по демографическим данным Канады), корреляция оказалась довольно сильной. Но гораздо более сильной — фактически почти идеальной — была корреляция между кривой горя этих современных канадцев и кривой репродуктивного потенциала племени охотников-собирателей !кунг из Африки. Иными словами, динамика изменения силы горя оказалась почти в точности такой, какую предсказал бы дарвинист, исходя из демографических реалий в среде наших предков.

— Роберт Райт, «Моральное животное»,

в изложении Кроуфорда и др.1

Первая корреляция составила 0,64, вторая — исключительно высокие 0,92 (N = 221).

Самая очевидная неэлегантность этого исследования в описанном виде заключается в том, что его проводили, предлагая взрослым людям вообразить родительское горе, а не опрашивая реальных родителей детей определенного возраста. (Вероятно, это стоило бы дороже или позволило бы привлечь меньше испытуемых.) Тем не менее, насколько мне известно, результаты здесь хорошо согласуются с данными более детальных исследований родительского горя, в которых искали другие корреляции (то есть прямую корреляцию между родительским горем и возрастом ребенка).

Тем не менее, давайте рассмотрим некоторые элегантные аспекты этого эксперимента:

Корреляция 0,92 (!). Это может показаться подозрительно высоким показателем — неужели эволюция действительно способна на столь точную тонкую настройку? — пока вы не поймете, что это давление отбора было не просто достаточно сильным, чтобы тонко настроить родительское горе, но, собственно говоря, высечь его из небытия с самого начала.

Люди, заявляющие, будто эволюционная психология не сделала никаких априорных предсказаний, по иронии судьбы оказываются просто жертвами синдрома «никто не знает того, чего не знает наука». Без эволюционной психологии вы бы даже не подумали о проведении такого эксперимента.

Этот эксперимент иллюстрирует — столь же красиво и чисто, как никакой другой из всех, что я видел, — различие между сознательным или подсознательным скрытым мотивом и работающей адаптацией, которая в реальном времени никак не реагирует на породившее её давление отбора.

Родительское горе даже на подсознательном уровне не связано с репродуктивной ценностью — иначе оно корректировалось бы под канадские показатели репродуктивной ценности, а не под показатели племени !кунг. Горе — это адаптация, которая теперь просто существует, будучи реальной в нашем разуме и продолжая действовать по собственной инерции.

Родители не заботятся о детях ради их репродуктивного вклада. Родители заботятся о детях ради них самих; а некогнитивная, эволюционно-историческая причина, по которой подобные разумы вообще существуют во Вселенной, заключается в том, что дети несут в себе гены своих родителей.

И действительно, эволюция — это причина, по которой во Вселенной вообще существуют хоть какие-то разумы. Так что понятно, почему я хочу провести четкую границу для своего цинизма в отношении скрытых мотивов на эволюционно-когнитивной границе; иначе я с тем же успехом мог бы встать в очередь на кассу в супермаркете и заявить: «Эй! Вы правильно обрабатываете зрительную информацию, складывая мои продукты в пакет, только для того, чтобы максимизировать свою совокупную приспособленность!»

1. Думаю, 0,92 — это самая высокая корреляция, которую я когда-либо видел в эволюционно-психологических экспериментах, да и вообще одна из самых высоких, что я встречал в психологических экспериментах в целом. (Хотя я видел, например, сообщения о корреляции в 0,98, когда одну группу испытуемых спрашивали: «Насколько А похоже на Б?», а другую — «Какова вероятность А при условии Б?» применительно к вопросам вроде: «Какова вероятность вытащить 60 красных шаров и 40 белых шаров из бочки с 800 красными и 200 белыми шарами?» — иными словами, эти вопросы просто обрабатывались мозгом как один и тот же).

Поскольку все мы здесь байесовцы, мы можем учесть наши априорные убеждения и спросить себя: не объясняется ли хотя бы часть этой неожиданно высокой корреляции простым везением? Эволюционную тонкую настройку мы, пожалуй, можем принять как данность — все-таки речь идет о колоссальном давлении отбора. Оставшимися источниками подозрительно низкой дисперсии являются: (а) способна ли большая группа взрослых в среднем правильно представить относительную степень родительского горя (по всей видимости, способна) и (б) являются ли сохранившиеся !кунг типичными первобытными охотниками-собирателями в этом отношении, или же различия между племенами охотников-собирателей должны были быть слишком велики, чтобы допустить корреляцию 0,92.

Но даже с учетом любых скептических априорных убеждений, корреляция 0,92 при N = 221 — это довольно сильное свидетельство, и наши апостериорные убеждения по всем этим пунктам должны стать менее скептическими.

2. Вы можете счесть неэлегантным то, что эксперимент проводился проспективно, на воображаемом горе, а не ретроспективно, на реальном. Но именно проспективно

Перейти на страницу:
Вы автор?
Жалоба
Все книги на сайте размещаются его пользователями. Приносим свои глубочайшие извинения, если Ваша книга была опубликована без Вашего на то согласия.
Напишите нам, и мы в срочном порядке примем меры.
Комментарии / Отзывы
    Ничего не найдено.