Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 148
- Категория: Разная литература / Зарубежная образовательная литература
- Автор: Элиезер Шломо Юдковски
- Страниц: 457
- Добавлено: 2026-05-28 18:02:24
Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@yandex.ru для удаления материала
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски краткое содержание
Прочтите описание перед тем, как прочитать онлайн книгу «Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски» бесплатно полную версию:Что на самом деле значит быть рациональным? Это не «рациональность» в голливудском стиле, где вы отказываетесь от всех человеческих чувств в угоду Холодной и Суровой Логике. Это настоящая рациональность — та, которую изучают психологи, социологи и математики. Рациональность, которая позволяет принимать качественные решения, даже когда это тяжело; грамотно мыслить даже в условиях колоссальной неопределенности; признавать и в полной мере использовать свои неясные интуитивные ощущения и эмоции, а не пытаться от них избавиться.
В книге «Рациональность: от ИИ до зомби» Элиезер Юдковский объясняет научную природу человеческой иррациональности через смесь притч, полемических эссе и личных историй. Эти поразительные описания того, как работает наш разум (и как часто он дает сбои!), затем проходят проверку по-настоящему сложными головоломками. Среди них:
споры специалистов по компьютерным наукам о будущем искусственного интеллекта (ИИ);дискуссии физиков о связи между квантовым и классическим мирами;дебаты философов о метафизике зомби и природе морали, и многое другое.При этом «Рациональность: от ИИ до зомби» раскрывает значимость правильного мышления для человека гораздо глубже, чем любой традиционный учебник по когнитивистике или философии разума.
Об авторе и издании:
Элиезер Юдковский — специалист по теории принятия решений и исследователь в Институте машинного интеллекта (MIRI). Ранние черновики своих текстов он публиковал на площадках Overcoming Bias и Less Wrong. «Рациональность: от ИИ до зомби» объединяет шесть томов эссе Юдковского в один масштабный электронный труд. В совокупности эти цепочки связанных эссе служат глубоким и увлекательным введением в науку — и искусство — человеческой рациональности.
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски читать онлайн бесплатно
Очевидно, что отбор на индивидуальном уровне не приведет к индивидуальному сдерживанию в размножении. Особи, размножающиеся без удержу, естественным образом оставят больше потомства, чем особи, которые себя ограничивают.
(Индивидуальный отбор не приведет к индивидуальному отказу от возможностей размножения. Индивидуальный отбор, безусловно, может породить особей, которые, завладев всеми доступными ресурсами, используют их для производства четырех крупных яиц вместо восьми мелких — не ради сбережения общественных ресурсов, а потому, что это индивидуальный оптимум для значения (количество яиц) × (вероятность выживания яйца). Это не решает проблему общих ресурсов.)
Но предположим, что популяция вида была разделена на субпопуляции, которые были по большей части изолированы и лишь изредка скрещивались друг с другом. Тогда, несомненно, субпопуляции, которые ограничивали свое размножение, имели бы меньше шансов вымереть, отправляли бы больше посланников и создавали новые колонии для повторного заселения территорий погибших популяций.
Проблема этого сценария заключалась не в том, что он был математически невозможен. Проблема была в том, что он был возможен, но крайне трудноосуществим.
Фундаментальная проблема в том, что плодами сдержанности в размножении пользуются не только те особи, которые ограничивают себя. Если часть лисиц воздерживается от рождения лисят, поедающих кроликов, то оставшиеся в живых кролики достанутся не только тем лисятам, которые несут в себе адаптацию к ограничению размножения. Лисы, не ограничивающие себя, и их гораздо более многочисленное потомство с удовольствием съедят всех кроликов, на которых не велась охота. Единственный способ для гена самоограничения выжить под таким давлением — это если выгоды от самоограничения будут преимущественно доставаться тем, кто сам себя ограничивает.
Конкретно, требование выглядит как C∕B < FST, где C — это издержки альтруизма для донора, B — выгода от альтруизма для реципиента, а FST — пространственная структура популяции: среднее родство между случайно выбранным организмом и его случайно выбранным соседом, где под «соседом» понимается любая другая лисица, которая получает выгоду от самоограничения лисицы-альтруистки.1
Так достаточно ли малы издержки ограничения размножения и достаточно ли велика эмпирическая выгода от сокращения голода по сравнению с эмпирической пространственной структурой популяций лисиц и кроликов, чтобы аргумент в пользу группового отбора сработал?
Математика подсказывает, что это крайне маловероятно. В этой симуляции, например, издержки для альтруистов составляет 3% приспособленности, группы чистых альтруистов имеют приспособленность вдвое выше, чем группы чистых эгоистов, размер субпопуляции равен 25, а 20% всех умерших замещаются посланниками из другой группы: в результате получается полиморфизм по эгоизму и альтруизму. Если увеличить размер субпопуляции вдвое, до 50, эгоизм фиксируется; если увеличить издержки для альтруистов до 6%, эгоизм фиксируется; если снизить альтруистическую выгоду вдвое, эгоизм фиксируется или оказывается в подавляющем большинстве. Локальные группы должны быть очень маленькими, насчитывая всего около 5 особей, чтобы групповой отбор работал, когда издержки альтруизма превышает 10%. Вряд ли это похоже на правду для лисиц, ограничивающих свое размножение.
Полагаю, вы уже догадались, что сторонники группового отбора в конечном счете проиграли этот научный спор. Решающим аргументом был даже не математический расчет, а эмпирическое наблюдение: лисицы не ограничивали свое размножение (я не помню, о каком именно виде спорили; это были не лисы и кролики), и действительно, системы «хищник — жертва» постоянно рушатся. Позднее групповой селекционизм в некоторой степени возродился, но в кардинально иной форме: с математической точки зрения пространственная структура («соседство») существует, что подразумевает ненулевое давление группового отбора, которое не обязательно способно преодолеть противодействующее давление индивидуального отбора, но если его не учитывать, ваши расчеты будут неверными, и точка. А эволюционировавшие механизмы принуждения (изначально не предполагавшиеся) и вовсе меняют правила игры. Так почему же этот исторический научный спор достоин обсуждения на Overcoming Bias?
Через десять лет после этой дискуссии одному биологу пришла в голову потрясающая идея. Математические условия, при которых групповой отбор превосходит индивидуальный, были слишком экстремальными, чтобы встретиться в природе. Почему бы не создать их искусственно, в лаборатории? Майкл Дж. Уэйд именно это и сделал, многократно отбирая популяции насекомых по признаку малого числа взрослых особей в субпопуляции.2 И каков же был результат? Стали ли насекомые сдерживать свое размножение и жить в тихом мире, имея достаточно еды на всех?
Нет; взрослые особи приспособились пожирать яйца и личинок, особенно личинок женского пола.
Разумеется, отбор по признаку малого размера субпопуляций не привел бы к отбору особей, которые ограничивали собственное размножение; он привел бы к отбору тех особей, которые пожирали чужих детенышей. Особенно девочек.
Как только вы получаете этот экспериментальный результат — а задним числом он кажется совершенно очевидным, — сразу становится понятно, как первые сторонники группового отбора позволили романтизму, человеческому чувству эстетики, затуманить свои прогнозы относительно Природы.
Это архетипический пример упущенной Третьей альтернативы, возникший в результате рационализации заранее определенного вывода, которая породила ложное оправдание, после чего мотивированно остановилась. Сторонники группового отбора не приступали к задаче со свежей головой и чистым разумом, чтобы затем, случайно наткнувшись на идею группового отбора, непредвзято спрогнозировать вероятный исход. Они начали с красивой идеи о том, как популяции лисиц добровольно ограничивают свое размножение пределами, которые может выдержать популяция кроликов (Природа в идеальной гармонии); затем они стали искать причину, почему так должно происходить, и пришли к идее группового отбора; а затем, поскольку они знали, какого результата группового отбора им хотелось, они не стали искать менее красивые и эстетичные адаптации, которым групповой отбор на самом деле способствовал бы с гораздо большей вероятностью. Если бы они действительно пытались спокойно и непредвзято предсказать результат отбора на малый размер субпопуляций для устойчивости к голоду, они бы додумались до пожирания чужих детей или какого-то подобного «уродливого» исхода — задолго до того, как вообразили бы нечто столь эволюционно диковинное, как индивидуальное сдерживание размножения!
Это также иллюстрирует мысль, которую я пытался донести в эссе «Высокомерие Эйнштейна»: при огромном пространстве возможных ответов практически вся реальная работа уходит на то, чтобы выделить один возможный ответ и обратить на него внимание. Если гипотеза необоснованно привлекает ваше внимание — ваше чувство эстетики подсказывает прекрасный образ того, какой должна быть Природа, а естественный отбор при этом не предусматривает никакой Эволюционной Феи, разделяющей ваши вкусы, —
Жалоба
Напишите нам, и мы в срочном порядке примем меры.