Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 207
- Категория: Разная литература / Зарубежная образовательная литература
- Автор: Элиезер Шломо Юдковски
- Страниц: 457
- Добавлено: 2026-05-28 18:02:24
Внимание! Книга может содержать контент только для совершеннолетних. Для несовершеннолетних просмотр данного контента СТРОГО ЗАПРЕЩЕН! Если в книге присутствует наличие пропаганды ЛГБТ и другого, запрещенного контента - просьба написать на почту pbn.book@yandex.ru для удаления материала
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски краткое содержание
Прочтите описание перед тем, как прочитать онлайн книгу «Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски» бесплатно полную версию:Что на самом деле значит быть рациональным? Это не «рациональность» в голливудском стиле, где вы отказываетесь от всех человеческих чувств в угоду Холодной и Суровой Логике. Это настоящая рациональность — та, которую изучают психологи, социологи и математики. Рациональность, которая позволяет принимать качественные решения, даже когда это тяжело; грамотно мыслить даже в условиях колоссальной неопределенности; признавать и в полной мере использовать свои неясные интуитивные ощущения и эмоции, а не пытаться от них избавиться.
В книге «Рациональность: от ИИ до зомби» Элиезер Юдковский объясняет научную природу человеческой иррациональности через смесь притч, полемических эссе и личных историй. Эти поразительные описания того, как работает наш разум (и как часто он дает сбои!), затем проходят проверку по-настоящему сложными головоломками. Среди них:
споры специалистов по компьютерным наукам о будущем искусственного интеллекта (ИИ);дискуссии физиков о связи между квантовым и классическим мирами;дебаты философов о метафизике зомби и природе морали, и многое другое.При этом «Рациональность: от ИИ до зомби» раскрывает значимость правильного мышления для человека гораздо глубже, чем любой традиционный учебник по когнитивистике или философии разума.
Об авторе и издании:
Элиезер Юдковский — специалист по теории принятия решений и исследователь в Институте машинного интеллекта (MIRI). Ранние черновики своих текстов он публиковал на площадках Overcoming Bias и Less Wrong. «Рациональность: от ИИ до зомби» объединяет шесть томов эссе Юдковского в один масштабный электронный труд. В совокупности эти цепочки связанных эссе служат глубоким и увлекательным введением в науку — и искусство — человеческой рациональности.
Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски читать онлайн бесплатно
Имея четыре группы A, B, C и D, очень просто вычислить всё остальное:
P(рак) = (A + B) / (A + B + C + D)
P(¬положительный|рак) = B / (A + B),
и так далее. Поскольку множество {A,B,C,D} содержит три степени свободы, из этого следует, что весь набор вероятностей, связывающих заболеваемость раком с результатами тестов, содержит всего три степени свободы. Помните, что в наших задачах нам всегда требовалось три элемента информации — априорная вероятность и две условные вероятности, — которые на самом деле и имеют между собой три степени свободы. Вообще говоря, для байесовских задач любые три величины, имеющие между собой три степени свободы, логически должны полностью определять всю задачу.
Вероятность того, что тест даст истинно положительный результат, деленная на вероятность того, что тест даст ложноположительный результат, называется отношением правдоподобия этого теста. Отношение правдоподобия для положительного результата показывает, насколько сильно положительный результат сдвинет априорную вероятность. Означает ли это, что отношение правдоподобия медицинского теста исчерпывающе описывает его полезность?
Нет, не означает! Отношение правдоподобия действительно отражает всё, что нужно знать о значении положительного результата медицинского теста, однако значение отрицательного результата теста остается неопределенным, как и то, насколько часто этот тест приносит пользу. Например, маммография с долей верных результатов в 80% для пациенток с раком груди и долей ложноположительных результатов в 9,6% для здоровых пациенток имеет такое же отношение правдоподобия, как и тест с долей верных результатов в 8% и долей ложноположительных результатов в 0,96%. Хотя у этих двух тестов одинаковое отношение правдоподобия, первый тест во всех отношениях полезнее: он чаще выявляет болезнь, а его отрицательный результат служит более весомым свидетельством здоровья.
Предположим, вы проводите последовательно два теста на рак груди — скажем, стандартную маммографию и ещё какой-то другой тест, который независим от маммографии. Поскольку мне неизвестно о существовании такого независимого от маммографии теста, для этой задачи я его выдумаю и назову «тестом деления Тэмса — Брейлора», который проверяет, не делятся ли какие-либо клетки быстрее остальных. Предположим, что тест Тэмса — Брейлора дает истинно положительный результат для 90% пациенток с раком груди и ложноположительный — для 5% пациенток без рака. Допустим, априорная распространенность рака груди составляет 1%. Если пациентка получает положительный результат и на маммографии, и на тесте Тэмса — Брейлора, то какова скорректированная вероятность того, что у нее рак груди?
Один из способов решить эту задачу — взять скорректированную вероятность для положительного результата маммографии, которую мы уже рассчитали как 7,8%, и подставить её в тест Тэмса — Брейлора в качестве новой априорной вероятности. Если мы так поступим, то увидим, что результат составит 60%.
Предположим, что априорная распространенность рака груди в некоторой демографической группе составляет 1%. Предположим, у нас как у врачей есть в арсенале три независимых теста на рак груди. Наш первый тест, тест А (маммография), имеет отношение правдоподобия 80% / 9,6% = 8,33. Второй тест, тест B, имеет отношение правдоподобия 18,0 (например, при 90% против 5%); и третий тест, тест C, имеет отношение правдоподобия 3,5 (что может получаться из 70% против 20% или из 35% против 10%; это не имеет значения). Предположим, пациентка получает положительный результат по всем трем тестам. Какова вероятность того, что у нее рак груди?
Вот забавный трюк, облегчающий расчеты. Если априорная распространенность рака груди в этой группе составляет 1%, это значит, что у 1 из 100 женщин есть рак груди, а у 99 из 100 — нет. Поэтому если мы запишем вероятность в 1% через отношение шансов, то шансы будут равны 1:99.
А отношения правдоподобия для трех тестов A, B и C будут следующими:
8,33:1 = 25:3
18,0:1 = 18:1
3,5:1 = 7,5:2.
Шансы для женщин с раком груди, получивших положительный результат по всем трем тестам, против женщин без рака груди, также получивших положительный результат по всем трем тестам, составят:
1 × 25 × 18 × 7 : 99 × 3 × 1 × 2 = 3150 : 594.
Чтобы перевести шансы обратно в вероятность, мы просто пишем:
3150 / (3150 + 594) = 84%.
Это работает всегда, независимо от того, как именно записаны отношения шансов; то есть 8,33:1 — это абсолютно то же самое, что и 25:3 или 75:9. Не имеет значения, в каком порядке проводятся тесты или в каком порядке рассчитываются результаты. Доказательство предлагается читателю в качестве упражнения.
Э. Т. Джейнс в книге «Теория вероятностей с приложениями в науке и технике» предлагает измерять степень уверенности и силу свидетельств в децибелах.5
В децибелах?
Децибелы используются для измерения экспоненциальных различий в интенсивности. Например, если звук автомобильного гудка несет в 10 000 раз больше энергии (на квадратный метр в секунду), чем звук будильника, то автомобильный гудок будет на 40 децибел громче. Пение птицы может нести в 1000 раз меньше энергии, чем звонок будильника, и, следовательно, быть на 30 децибел тише. Чтобы получить количество децибел, нужно взять десятичный логарифм и умножить его на 10:
децибелы = 10log10(интенсивность)
или
интенсивность = 10децибел/10.
Предположим, мы начинаем с априорной вероятности 1% того, что у женщины рак груди, что соответствует отношению шансов 1:99. А затем мы проводим три теста с
Жалоба
Напишите нам, и мы в срочном порядке примем меры.