Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 147
- Категория: Разная литература / Зарубежная образовательная литература
- Автор: Элиезер Шломо Юдковски
- Страниц: 457
- Добавлено: 2026-05-28 18:02:24
Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@yandex.ru для удаления материала
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски краткое содержание
Прочтите описание перед тем, как прочитать онлайн книгу «Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски» бесплатно полную версию:Что на самом деле значит быть рациональным? Это не «рациональность» в голливудском стиле, где вы отказываетесь от всех человеческих чувств в угоду Холодной и Суровой Логике. Это настоящая рациональность — та, которую изучают психологи, социологи и математики. Рациональность, которая позволяет принимать качественные решения, даже когда это тяжело; грамотно мыслить даже в условиях колоссальной неопределенности; признавать и в полной мере использовать свои неясные интуитивные ощущения и эмоции, а не пытаться от них избавиться.
В книге «Рациональность: от ИИ до зомби» Элиезер Юдковский объясняет научную природу человеческой иррациональности через смесь притч, полемических эссе и личных историй. Эти поразительные описания того, как работает наш разум (и как часто он дает сбои!), затем проходят проверку по-настоящему сложными головоломками. Среди них:
споры специалистов по компьютерным наукам о будущем искусственного интеллекта (ИИ);дискуссии физиков о связи между квантовым и классическим мирами;дебаты философов о метафизике зомби и природе морали, и многое другое.При этом «Рациональность: от ИИ до зомби» раскрывает значимость правильного мышления для человека гораздо глубже, чем любой традиционный учебник по когнитивистике или философии разума.
Об авторе и издании:
Элиезер Юдковский — специалист по теории принятия решений и исследователь в Институте машинного интеллекта (MIRI). Ранние черновики своих текстов он публиковал на площадках Overcoming Bias и Less Wrong. «Рациональность: от ИИ до зомби» объединяет шесть томов эссе Юдковского в один масштабный электронный труд. В совокупности эти цепочки связанных эссе служат глубоким и увлекательным введением в науку — и искусство — человеческой рациональности.
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски читать онлайн бесплатно
Дистортеры сегрегации подрывают механизмы, которые обычно гарантируют справедливость полового размножения. Например, у некоторых мышей в мужской половой хромосоме есть дистортер сегрегации, из-за которого на свет рождается только потомство мужского пола, несущее этот исказитель. Затем эти самцы оплодотворяют самок, которые рожают тоже только самцов, и так далее. Вы можете воскликнуть: «Это жульничество!», но это лишь человеческий взгляд; репродуктивная приспособленность этого аллеля чрезвычайно высока, поскольку в следующем поколении он производит вдвое больше собственных копий, чем его немутантная альтернатива. Даже по мере того, как самок становится все меньше и меньше, самцы, несущие этот ген, имеют не меньше шансов на спаривание, чем любые другие самцы, и поэтому дистортер сегрегации остается вдвое более приспособленным, чем альтернативный аллель. Предполагается, что в реальном мире групповой отбор мог сыграть роль в том, чтобы удерживать частоту этого гена на наблюдаемом сегодня низком уровне. В таком случае, если бы у мышей развилась способность летать и мигрировать на зиму, они, вероятно, образовали бы единую репродуктивную популяцию и эволюционировали бы до полного вымирания по мере фиксации дистортера сегрегации.
Около 50% всего генома кукурузы состоит из транспозонов — элементов ДНК, основная функция которых состоит в копировании себя в другие участки ДНК. Класс транспозонов под названием «P-элементы», по всей видимости, впервые появился у дрозофил только в середине двадцатого века и в течение 50 лет распространился на все популяции этого вида. «Alu-последовательность» у людей — транспозон длиной в 300 оснований — повторяется в человеческом геноме от 300 000 до миллиона раз. Это может и не уничтожить вид, но уж точно не помогает ему; транспозоны вызывают дополнительные мутации, которые, как обычно, в большинстве своем вредны, и снижают эффективную точность копирования ДНК. И всё же такие обманщики обладают чрезвычайно высокой приспособленностью.
Представьте, что у какого-то вида с половым размножением возникает идеальный механизм копирования ДНК. Поскольку большинство мутаций вредны, этот генный комплекс дает преимущество своим носителям. Теперь вы можете спросить о полезных мутациях — они ведь изредка случаются, так не окажутся ли немутирующие организмы в невыгодном положении? Но у вида с половым размножением полезная мутация, возникшая у мутирующего организма, может распространиться и на потомков немутирующих. При этом мутирующие страдают от вредных мутаций в каждом поколении, а немутирующие могут половым путем приобретать любые полезные мутации, возникающие у мутирующих, и получать от них выгоду. Таким образом, мутирующие оказываются в чистом проигрыше. Частота идеального механизма копирования ДНК возрастает до полной фиксации. Десять тысяч лет спустя наступает ледниковый период, и вид прекращает свое существование. Он эволюционировал до вымирания.
«Эффект стороннего наблюдателя» заключается в том, что, когда кто-то попадает в беду, одиночные свидетели вмешиваются охотнее, чем группы. Студенту колледжа, у которого, судя по всему, случился эпилептический припадок, одиночный свидетель помогал в 85% случаев, а группа из пяти свидетелей — лишь в 31% случаев. Я предполагаю, что даже если родственные связи в племени охотников-собирателей были достаточно сильны, чтобы создать давление отбора в пользу помощи людям, не являющимся близкими родственниками, то при наличии нескольких потенциальных помощников могла начаться генетическая гонка вооружений за то, чтобы оказаться последним, кто сделает шаг вперед. Каждый медлит в надежде, что это сделает кто-то другой. Сейчас человечество стоит перед лицом множества угроз вымирания на уровне вида, и, должен вам сказать, не так уж много людей спешат сделать шаг вперед. Если мы проиграем эту битву из-за того, что на поле боя практически никто не явился, то — подобно, вероятно, огромному числу видов, которых мы сегодня не наблюдаем вокруг, — мы просто эволюционируем до вымирания.
Раковые клетки чувствуют себя в организме отлично: они процветают, накапливают ресурсы и далеко обходят своих более послушных собратьев. Какое-то время.
Многоклеточные организмы могут существовать только потому, что у них выработались мощные внутренние механизмы, позволяющие поставить эволюцию вне закона. Если клетки начинают эволюционировать, они быстро эволюционируют до вымирания: организм погибает.
Так что не превозносите эволюцию за трогательную заботу об отдельной особи; почти все ваши предки мертвы. Не превозносите эволюцию за трогательную заботу о виде; никто еще не находил сложной адаптации, которую можно было бы истолковать исключительно как направленную на сохранение вида, да и математика указывает на то, что это практически невозможно. На самом деле, вид вполне может эволюционировать до вымирания. Возможно, человечество прямо сейчас завершает этот процесс. Эволюцию нельзя превозносить даже за заботу о генах; борьба между двумя альтернативными аллелями в одном локусе — это игра с нулевой суммой за частоту.
Приспособленность — не всегда ваш друг.
*
136. Трагедия группового селекционизма.
До 1966 года серьезные биологи нередко отстаивали эволюционные гипотезы, которые сегодня мы сочли бы магическим мышлением. Эти путаные представления сыграли важную историческую роль в развитии последующей эволюционной теории, когда ошибка порождает исправление — подобно тому, как глупость английских королей вызвала к жизни Великую хартию вольностей и конституционную демократию.
В качестве примера подобной романтики Веро Уинн-Эдвардс, Уордер Элли и Дж. Л. Бреретон, помимо прочих, полагали, что хищники добровольно ограничивают свое размножение, дабы избежать перенаселения своей среды обитания и истощения популяции жертв.
Но эволюция не открывает шлюзы для произвольных целей. Нельзя объяснить трещотку гремучей змеи тем, что она существует на благо других животных, которых иначе бы укусили. Никакая посторонняя Эволюционная Фея не решает, когда ген должен получить преимущество; эффект гена должен каким-то образом напрямую приводить к тому, чтобы этот ген стал более распространенным в следующем поколении. Понятно, почему наше человеческое эстетическое чувство, наблюдая крах популяции лисиц, съевших всех кроликов, взывает: «Надо же было что-то сделать!» Но как комплекс генов, отвечающий за ограничение размножения — подумать только! — заставит себя стать более частым в следующем поколении?
Человек, проектирующий аккуратную маленькую игрушечную экологическую систему — ради развлечения, вроде макета железной дороги, — расстроился бы, если бы его кропотливо созданные популяции лисиц и кроликов самоликвидировались из-за того, что лисы съели всех кроликов, а затем сами умерли от голода. Поэтому человек возился бы с игрушечной экологией (ограничитель размножения
Жалоба
Напишите нам, и мы в срочном порядке примем меры.