Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски Страница 105

Ладно, это звучит не так уж безумно. Можно даже попытаться заявить, что испытуемые страховали эмоциональные последствия, а не финансовые — то есть покупали себе утешение.

А как вам такое? Ямагиси показал, что испытуемые считали болезнь более опасной, когда ее описывали как убивающую 1286 человек из каждых 10 000, по сравнению с болезнью, вероятность летального исхода от которой составляла 24,14%.2 Судя по всему, мысленный образ тысячи мертвых тел пугает гораздо сильнее, чем один человек, у которого шансы выжить выше, чем умереть.

Но подождите, дальше только хуже.

Предположим, руководство аэропорта должно решить, стоит ли тратить деньги на покупку нового оборудования, в то время как критики утверждают, что эти средства лучше направить на другие аспекты безопасности. Словик и соавторы представили двум группам испытуемых аргументы за и против покупки оборудования, предложив шкалу оценки от 0 (вообще бы не поддержал) до 20 (очень сильная поддержка).3 Первой группе мера была представлена как спасающая 150 жизней. Второй группе ту же меру описали как спасающую 98% из 150 жизней. Гипотеза, побудившая к проведению этого эксперимента, заключалась в том, что «спасение 150 жизней» звучит как-то неопределенно хорошо — много это или мало? — тогда как спасение 98% чего-либо очевидно воспринимается как нечто прекрасное, ведь 98% находятся очень близко к верхней границе процентной шкалы. И вот результат: спасение 150 жизней получило среднюю оценку поддержки 10,4, а спасение 98% из 150 жизней — 13,6.

Или обратимся к отчету Денеш-Радж и Эпштейна:4 испытуемым предлагали выиграть по 1 доллару за каждую случайно вытянутую из чаши красную мармеладку. Они часто предпочитали тянуть из чаши, где красных мармеладок было больше количественно, но их доля была меньше. Например, вариант «7 из 100» предпочитали варианту «1 из 10».

По словам Денеш-Радж и Эпштейна, впоследствии эти испытуемые признавались: хотя они и знали, что вероятность не в их пользу, им казалось, что шансы выше там, где красных мармеладок физически больше. Тебе, о Статистически Искушенный Читатель, это может показаться безумием, но если подумать хорошенько, то окажется, что в этом есть глубокий смысл. Разница между вероятностью в 7% и 10% — новость, конечно, неприятная, но она с лихвой компенсируется увеличением количества красных мармеладок. Вероятность хуже, да, но у вас всё равно больше шансов выиграть, понимаете? Вам стоит медитировать над этой мыслью до тех пор, пока вы не достигнете просветления относительно того, как остальная часть планеты думает о вероятностях.

Финукейн и соавторы обнаружили, что при оценке ядерных реакторов, природного газа и пищевых консервантов предоставление информации о высокой пользе заставляло людей воспринимать риски как более низкие; информация о высоких рисках заставляла их видеть меньше пользы; и так далее по всем квадрантам.5 Люди объединяют свои суждения об отдельных хороших или плохих аспектах чего-либо в общее «хорошее» или «плохое» чувство по отношению к этому объекту.

Финукейн и соавторы также обнаружили, что дефицит времени значительно усиливал эту обратную зависимость между воспринимаемым риском и воспринимаемой пользой. Это согласуется с общим выводом о том, что нехватка времени, недостаток информации или отвлекающие факторы усиливают доминирование перцептивных эвристик над аналитическим мышлением.

Ганзах обнаружил тот же эффект в сфере финансов.6 Согласно классической экономической теории, доходность и риск должны коррелировать положительно — или, иными словами, люди переплачивают за безопасные инвестиции, что снижает их доходность; акции приносят больший доход, чем облигации, но и риск по ним соответственно выше. При оценке знакомых акций суждения аналитиков о рисках и доходности коррелировали положительно, как и предсказывает теория. Но при оценке незнакомых акций аналитики были склонны судить о них так, будто они были в целом хорошими или в целом плохими — приписывая им либо низкий риск и высокую доходность, либо высокий риск и низкую доходность.

Для дальнейшего чтения я рекомендую прекрасную обзорную статью Словика «Рациональные субъекты или рациональные глупцы: значение эвристики аффекта для поведенческой экономики».7

*

1. Кристофер К. Си и Говард К. Кунройтер, «The Affection Effect in Insurance Decisions», Journal of Risk and Uncertainty 20 (2 2000): 141–159, doi:10.1023/A:1007876907268.

2. Кимихико Ямагиси, «When a 12.86% Mortality Is More Dangerous than 24.14%: Implications for Risk Communication», Applied Cognitive Psychology 11 (6 1997): 461–554.

3. Пол Словик и др., «Rational Actors or Rational Fools: Implications of the Affect Heuristic for Behavioral Economics», Journal of Socio-Economics 31, no. 4 (2002): 329–342, doi:10.1016/S1053-5357(02)00174-9.

4. Вероника Денеш-Радж и Сеймур Эпштейн, «Conflict between Intuitive and Rational Processing: When People Behave against Their Better Judgment», Journal of Personality and Social Psychology 66 (5 1994): 819–829, doi:10.1037/0022-3514.66.5.819.

5. Финукейн и др., «The Affect Heuristic in Judgments of Risks and Benefits».

6. Йоав Ганзах, «Judging Risk and Return of Financial Assets», Organizational Behavior and Human Decision Processes 83, no. 2 (2000): 353–370, doi:10.1006/obhd.2000.2914.

7. Словик и др., «Rational Actors or Rational Fools».

101. Оцениваемость (и дешевые праздничные покупки).

С приближением дорогой части сезона Хэллоублагорождества в умах наших читателей наверняка встает важный вопрос:

«Дорогой Overcoming Bias, есть ли какие-нибудь когнитивные искажения, которыми я могу воспользоваться, чтобы выглядеть щедрым, на самом деле не тратя кучу денег?»

Рад сообщить, что ответ — да! Согласно Кристоферу Си — в статье под названием «Меньше — лучше: когда менее ценные варианты ценятся выше, чем более ценные» — если вы купите кому-то шарф за 45 долларов, вас с большей вероятностью сочтут щедрым, чем если вы купите пальто за 55 долларов.1

Это частный случай более общего феномена. В более раннем эксперименте Си спрашивал испытуемых, сколько они готовы заплатить за подержанный музыкальный словарь:2

Словарь А, 1993 года издания, 10 000 словарных статей, в состоянии нового.

Словарь Б, 1993 года издания, 20 000 словарных статей, с порванной обложкой, в остальном в состоянии нового.

Подвох заключался в том, что некоторые испытуемые видели оба словаря рядом друг с другом, тогда как другие видели только один словарь...

Испытуемые, видевшие только один из этих вариантов, были готовы заплатить в среднем 24 доллара за словарь А и в среднем 20 долларов за словарь Б. Испытуемые, которые видели оба