Перед вами два ящика: в одном всегда лежит 1 000 долларов, а во втором — либо миллион, либо ничего, и это зависит от того, что предсказал о вашем выборе почти безошибочный Предсказатель. Вы берёте только второй ящик или оба — и именно здесь рушится всё, что вы знали о рациональности.
История возникновения парадокса
В 1960 году физик Уильям Ньюком, работавший в Ливерморской национальной лаборатории имени Лоуренса, придумал задачу, которая, казалось бы, не должна была пережить обеденный перерыв. Он обсуждал её с коллегами как любопытную головоломку — не более. Но задача оказалась вирусной задолго до появления интернета.
Философ Роберт Нозик узнал о ней и в 1969 году опубликовал статью «Newcomb’s Problem and Two Principles of Choice» в сборнике «Essays in Honor of Carl G. Hempel». Нозик не решил парадокс. Он честно признался, что задача «разрывает» его: оба варианта ответа кажутся абсолютно убедительными. И именно это признание сделало парадокс знаменитым.
Мартин Гарднер, легендарный популяризатор математики, опубликовал разбор парадокса Ньюкома в своей колонке «Mathematical Games» журнала Scientific American в 1973 году. После этой публикации редакция получила больше писем, чем по любой другой теме за всю историю колонки. Читатели яростно спорили друг с другом, и каждая сторона была уверена, что оппоненты просто не понимают элементарной логики.
| Дата | Событие | Значение |
|---|---|---|
| 1960 | Уильям Ньюком формулирует задачу | Появление парадокса в устной форме среди физиков |
| 1969 | Роберт Нозик публикует первый академический разбор | Парадокс входит в философский дискурс |
| 1973 | Мартин Гарднер пишет о нём в Scientific American | Массовая известность, тысячи писем в редакцию |
| 1985 | Дэвид Льюис публикует анализ через каузальную теорию решений | Формирование лагеря «двухъящичников» |
| 2000-е | Парадокс становится стандартной темой в теории принятия решений | Включение в университетские курсы по философии и экономике |
Примечательно, что сам Ньюком не был философом. Он занимался физикой и теорией самовоспроизводящихся автоматов фон Неймана. Парадокс родился на стыке физической интуиции о детерминизме и философских вопросов о свободе воли — и, возможно, именно поэтому он оказался таким неразрешимым.
В чём именно заключается противоречие
Давайте разберём условия предельно точно. Перед вами стоят два ящика:
- Ящик A (прозрачный) — в нём всегда лежит 1 000 долларов. Вы это видите.
- Ящик B (непрозрачный) — в нём либо 1 000 000 долларов, либо пусто.
У вас ровно два варианта действий:
- Взять только ящик B (одноящичный выбор)
- Взять оба ящика — A и B (двухъящичный выбор)
Но вот ключевой элемент: существует Предсказатель. Он уже сделал свой прогноз вашего выбора до того, как вы подошли к ящикам. Если Предсказатель предсказал, что вы возьмёте только B, он положил туда миллион. Если предсказал, что вы возьмёте оба — оставил B пустым. Точность предсказаний Предсказателя составляет, скажем, 99% (или даже выше — в некоторых формулировках она стремится к 100%).
Деньги уже лежат в ящиках. Предсказание уже сделано. Ничего не изменится от вашего выбора физически. И вот тут начинается катастрофа для рационального мышления.
| Ваш выбор | Предсказатель угадал (99%) | Предсказатель ошибся (1%) |
|---|---|---|
| Только ящик B | Получаете 1 000 000 $ | Получаете 0 $ |
| Оба ящика | Получаете 1 000 $ (B пуст) | Получаете 1 001 000 $ |
Аргумент за один ящик (B): Предсказатель почти никогда не ошибается. Те, кто берёт один ящик, получают миллион. Те, кто берёт оба — получают тысячу. Статистика однозначна. Бери один ящик и уходи миллионером.
Аргумент за оба ящика: Стоп. Деньги уже в ящиках. Предсказание уже сделано. Что бы ни лежало в ящике B — миллион или ничего — оно уже там. Ваш выбор не может телепатически изменить содержимое закрытого ящика. Если в B лежит миллион, взяв оба, вы получите 1 001 000 вместо 1 000 000. Если B пуст, взяв оба, вы получите хотя бы 1 000 вместо нуля. В любом возможном состоянии мира стратегия «брать оба ящика» приносит ровно на 1 000 долларов больше. Это же принцип доминирования — фундамент теории игр!
Оба аргумента безупречны. И они приводят к противоположным выводам. В этом и состоит парадокс.
Представьте, что вы стоите перед ящиками и в последний момент решаете сменить стратегию. Вы пришли с намерением взять только B, но протягиваете руку к обоим. Что произошло? Предсказатель предсказывал ваше намерение или ваше действие? А если вы подбросите монетку прямо на месте — что тогда лежит в ящике B?
Попытки решения
За полвека существования парадокса сформировались два непримиримых лагеря, каждый из которых вооружён собственной теорией принятия решений. И ни один из них не сдался.
Эвиденциальная теория решений (Evidential Decision Theory, EDT)
Эта школа мысли утверждает: выбирай действие, которое даёт наилучшие ожидания с учётом того, что твой выбор является свидетельством (evidence) определённого состояния мира. Раз Предсказатель почти безошибочен, ваш выбор одного ящика — свидетельство того, что в B лежит миллион. Значит, берите один ящик.
Эту позицию поддерживали, среди прочих, философы Ричард Джеффри и Аллан Гиббард.
Каузальная теория решений (Causal Decision Theory, CDT)
Эта школа настаивает: оценивай действия по их причинным последствиям, а не по корреляциям. Ваше действие не может причинно повлиять на содержимое уже закрытого ящика. Следовательно, берите оба — вы причинно гарантируете себе дополнительные 1 000 долларов.
Эту позицию защищали Дэвид Льюис, Роберт Нозик (хотя с оговорками) и Аллан Джиббард с Уильямом Харпером.
| Подход | Ключевые сторонники | Рекомендация | Главный аргумент |
|---|---|---|---|
| Эвиденциальная теория решений (EDT) | Ричард Джеффри, Аллан Гиббард (ранние работы) | Брать один ящик | Ваш выбор — лучшее свидетельство того, что в ящике |
| Каузальная теория решений (CDT) | Дэвид Льюис, Роберт Нозик, Уильям Харпер | Брать оба ящика | Действие не может причинно изменить уже свершившийся факт |
| Функциональная теория решений (FDT) | Элиезер Юдковский, Найт Соарес (MIRI) | Брать один ящик | Вы выбираете не действие, а алгоритм; Предсказатель моделировал именно ваш алгоритм |
| Суперрациональность | Дуглас Хофштадтер | Брать один ящик | Рациональный агент учитывает, что его рассуждения предсказуемы |
Функциональная теория решений (Functional Decision Theory)
В 2010-х годах исследователи из Института исследования машинного интеллекта (MIRI) — Элиезер Юдковский и Найт Соарес — предложили принципиально новый взгляд. Их идея: вы выбираете не изолированное действие в конкретный момент, а тип алгоритма, который порождает это действие. Предсказатель моделировал именно ваш алгоритм принятия решений. Если ваш алгоритм — «брать один ящик», то модель Предсказателя выдала тот же результат, и миллион был положен в ящик. Вы не меняете содержимое ящика своим выбором — вы были тем типом агента, который берёт один ящик, ещё до того, как подошли к столу.
Позиция Дугласа Хофштадтера
Автор знаменитой книги «Гёдель, Эшер, Бах» предложил концепцию суперрациональности. Суперрациональный агент понимает, что его процесс мышления — это объект, который может быть смоделирован. Если вы достаточно умны, чтобы осознать, что Предсказатель достаточно умён, чтобы предсказать вас, — берите один ящик.
Попытка «разрушить» парадокс
Некоторые философы, включая самого Нозика в поздних работах, пытались аргументировать, что парадокс просто содержит внутреннее противоречие в условиях. Если Предсказатель настолько точен, утверждали они, то свобода выбора — иллюзия, и задача бессмысленна. Но это не объяснение, а капитуляция: даже при точности предсказания 90% (далеко не детерминизм) ожидаемые выигрыши по-прежнему указывают на один ящик, а принцип доминирования — на два.
Где этот парадокс встречается в реальной жизни, науке и математике
Может показаться, что парадокс Ньюкома — чисто умозрительная конструкция. Но его структура проявляется в удивительно многих реальных ситуациях.
Теория игр и дилемма заключённого
Парадокс Ньюкома тесно связан с дилеммой заключённого — и это не просто аналогия. Дэвид Льюис прямо заявил, что задача Ньюкома — это «дилемма заключённого против копии самого себя». Если оба игрока — одинаковые рациональные агенты, каждый знает, что другой примет то же решение. В такой ситуации сотрудничество (аналог одного ящика) оказывается выгоднее предательства (аналог двух ящиков), несмотря на то что предательство доминирует в классическом анализе.
Искусственный интеллект и безопасность
Для разработчиков ИИ парадокс Ньюкома — не абстракция, а инженерная проблема. Какую теорию решений «зашить» в автономную систему? Если ИИ использует каузальную теорию, он всегда будет «брать оба ящика» — то есть выбирать стратегию, оптимальную в изоляции, но проигрышную в средах, где его поведение предсказуемо. Именно поэтому исследователи из MIRI разрабатывали FDT — им нужна теория решений, которая позволяет создавать ИИ, способный быть надёжным партнёром, зная, что его алгоритмы могут быть смоделированы.
Генетика и эволюционная биология
Представьте ген, который одновременно вызывает склонность к определённому поведению и повышает риск заболевания. Вы не можете «взять оба ящика» — изменить поведение, сохранив генетическую предрасположенность. Ваш выбор поведения коррелирует с наличием гена, но не вызывает его. Структура та же: корреляция без причинности, и два принципа рациональности дают разные рекомендации.
Экономика и стратегическое планирование
В переговорах, аукционах и стратегических взаимодействиях ваша репутация играет роль Предсказателя. Контрагенты принимают решения на основе прогноза вашего поведения. Если вы известны как жёсткий переговорщик (одноящичник), вам предлагают лучшие условия. Если как оппортунист (двухъящичник) — вас ограничивают. Ваш «тип» определяет, что лежит в вашем ящике B, задолго до начала конкретных переговоров.
| Область | Аналог Предсказателя | Аналог двух ящиков | Суть конфликта |
|---|---|---|---|
| Дилемма заключённого | Идентичный оппонент | Сотрудничать vs. предать | Доминирование vs. коррелированное ожидание |
| Безопасность ИИ | Моделирование алгоритма агента | Надёжность vs. оппортунизм | Какую теорию решений зашить в систему |
| Генетика поведения | Генотип, коррелирующий с поведением | Менять поведение vs. принять генетическую данность | Корреляция без причинности |
| Переговоры и репутация | Прогноз контрагентов о вашем типе | Жёсткая стратегия vs. оппортунизм | Тип агента определяет предложенные условия |
| Детерминизм и свобода воли | Законы физики / Лапласов демон | Действовать vs. осознать предопределённость | Если всё предсказуемо, имеет ли выбор значение? |
Допустим, вы — руководитель компании, и ваш конкурент нанял аналитиков, которые с 95% точностью предсказывают вашу стратегию на следующий квартал. Зная это, вы: (а) действуете так, чтобы их прогноз был в вашу пользу, или (б) пытаетесь обмануть предсказание? Если (б), то не станет ли ваша попытка обмана предсказуемой?
Интересные факты и связанные парадоксы
- Опросы разделяют людей примерно пополам. В масштабных опросах (включая неформальные опросы среди профессиональных философов) около 55-60% выбирают один ящик, а 40-45% — два. Ни одна сторона не имеет подавляющего преимущества. Что характерно, среди экономистов и специалистов по теории игр двухъящичников значительно больше, а среди философов-метафизиков и исследователей ИИ преобладают одноящичники.
- Нозик менял позицию. Роберт Нозик, популяризировавший парадокс, изначально склонялся к двум ящикам, затем — к одному, а в итоге признался, что не может занять окончательную позицию. Он называл задачу Ньюкома «бомбой замедленного действия» для теории рациональности.
- Вариация с прозрачным ящиком B. Если ящик B прозрачен и вы видите миллион внутри, возьмёте ли вы только B? Каузальная теория решений говорит: берите оба, миллион уже там. Но если Предсказатель знал, что вы увидите миллион и всё равно возьмёте оба — он не положил бы миллион. Прозрачный ящик делает парадокс ещё более болезненным, потому что вы буквально видите деньги и должны от них отказаться, чтобы их получить.
- Связь с парадоксом Кавка (Kavka’s Toxin Puzzle). В 1983 году Грегори Кавка предложил задачу: вам предлагают миллион долларов, если в полночь вы искренне намеритесь выпить безвредный, но неприятный токсин утром. Вам не нужно его пить — только намериться. Но если вы знаете, что утром сможете передумать, можете ли вы искренне намериться? Структура та же: награда зависит от вашего типа (намерения), а не от действия.
- Парадокс курильщика (Smoking Lesion). Представьте, что существует генетическое повреждение, которое одновременно вызывает рак и желание курить. Курение при этом не вызывает рак — только коррелирует с ним через ген. Должны ли вы бросить курить? EDT говорит: да, потому что некурение — свидетельство отсутствия гена. CDT говорит: нет, курение не причина рака. Это прямой аналог задачи Ньюкома, и он показывает, что EDT может давать контринтуитивные рекомендации в определённых сценариях.
- Парадокс в культуре. Задача Ньюкома стала настолько популярной в рационалистском сообществе (LessWrong, Slate Star Codex), что превратилась в своеобразный маркер идентичности. Вопрос «Ты одноящичник или двухъящичник?» воспринимается как вопрос о мировоззрении — примерно как «Ты детерминист или либертарианец?» в философии сознания.
- Связь с проблемой Соломона (Solomon’s Problem). Жан-Пьер Дюпюи и другие философы указывали на библейскую аналогию: царь Соломон, зная пророчество о своих действиях, пытался его нарушить — и тем самым выполнил. Неспособность «перехитрить» предсказание — это ровно то, с чем сталкивается двухъящичник в задаче Ньюкома.
| Связанный парадокс | Автор и год | Общий элемент с парадоксом Ньюкома |
|---|---|---|
| Дилемма заключённого | Мерилл Флад и Мелвин Дрешер, 1950 | Доминирующая стратегия vs. кооперативный исход |
| Парадокс Кавка (Kavka’s Toxin) | Грегори Кавка, 1983 | Награда зависит от намерения, а не от действия |
| Парадокс курильщика | Аллан Гиббард, Уильям Харпер, 1978 | Корреляция без причинности; EDT vs. CDT |
| Парадокс неожиданной казни | Неизвестен (1940-е) | Самореференция предсказания и попытка его нарушить |
| Парадокс Ньюкома с прозрачным ящиком | Вариации разных авторов, 1980-е | Усиленная форма: вы видите содержимое, но должны игнорировать его |
Любопытно, что парадокс Ньюкома подрывает не конкретную теорию, а само представление о том, что существует единственно правильный способ быть рациональным. Два столпа рационального выбора — принцип доминирования и принцип максимизации ожидаемой полезности — работают безупречно по отдельности и приходят к противоположным ответам в одной и той же задаче. Ни один из них не содержит ошибки. Возможно, ошибку содержит наша уверенность в том, что рациональность — это одна вещь, а не множество конкурирующих, несовместимых стратегий мышления, каждая из которых оптимальна в своём мире.