Философская задача с поездом

О толстяках, вагонетках и моральной философии роботов

Как самый известный мысленный эксперимент современной моральной философии помогает нам понять самих себя и создать правила поведения для роботов будущего.

В 1967 году профессор философии Филиппа Фут в статье «Аборт и доктрина двойного эффекта» предложила следующий мысленный эксперимент, который уже несколько десятков лет не даёт покоя философам, антропологам, специалистам по когнитивистике и нейронаукам:

Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?

Мы можем направить вагонетку на запасной путь, чтобы ценой жизни одного спасти пятерых. Скорее всего, вы выберете именно этот вариант. Или же мы можем ничего не делать, полностью осознавая, что наше бездействие приведёт к смерти пяти невинных людей.

Это может быть интересно :

В моральной философии с переменным успехом противостоят друг другу концепции утилитаризма (Дж. Стюарт Милль, Джереми Бентам и другие) и деонтологической этики, которая наследует идеи Иммануила Канта. Согласно утилитаристам, предпочтительны те действия, которые увеличивают всеобщую пользу и счастье — значит, переключить стрелку нужно без всяких вопросов. А вот с точки зрения этики Канта так поступать нельзя. Человека можно рассматривать только в качестве цели, а не средства, даже если это средство для спасения жизни других.

В 1976 году Джудит Томпсон предложила усовершествованный вариант эксперимента. Выбрать правильное решение здесь становится уже значительно сложнее.

Вагонетка всё так же несётся на всех парах по рельсам, к которым привязаны пять человек. Вы стоите на мосту, который находится как раз над железнодорожным полотном. Перед вами — массивный, полный человек, которого вы можете столкнуть под поезд и тем самым спасти остальных людей. Вы можете броситься под поезд сами, но вашего веса будет недостаточно, чтобы остановить вагонетку.

С точки зрения чистого утилитариста ничего не изменилось: вы так же морально обязаны пожертвовать одним, чтобы спасти пятерых, даже несмотря на то, что это связано с прямым насильственным действием. Но большинство людей, как показали исследования и опросы, проведённые в нескольких странах, думают иначе.

Если в первом варианте эксперимента почти все готовы переключить стрелку, то убивать толстяка желающих намного меньше. В чём тут дело? Что именно изменилось во втором эксперименте по сравнению с первым?

Читайте также :

Было предложено уже множество способов объяснить разницу между случаем с переводом стрелки и случаем с толстяком. К примеру, можно заметить, что во второй ситуации толстяк может остаться в живых, тогда как в первой кто-то обязательно погибнет.

Психолог Джошуа Грин из Гарвардского университета утверждает, что в первом случае мы имеем дело с безличной моральной дилеммой, в которой задействовано холодное рациональное мышление. А во втором включаются эмоции и эмпатия, которые ведут к совершенно иным решениям. Это объяснение выглядит правдоподобно, особенно если учесть, что толстяка намного чаще решаются убить аутисты и люди с психопатическими наклонностями, у которых с эмпатией как раз большие проблемы. Но могут быть и другие причины.

Если в первом случае вы перенаправите стрелку, а человек вдруг сможет порвать верёвки и убежать, вы будете, конечно, очень рады — ваша совесть не будет ничем отягощена. Но вот если толстяк сможет спастись и не остановит своим телом поезд, ничего радостного в этом не будет: окажется, что вы никого не спасли и совершили напрасное покушение на убийство.

За последние 40 лет было придумано ещё множество вариаций этой загадки. Вот некоторые из них:

Вы знаете о том, что толстяк на мосту является злодеем.

Вам не нужно сталкивать толстяка своими силами — он стоит прямо на люке, который вы можете открыть, нажав на рычаг.

Один человек, привязанный к рельсам — ваш злейший враг, а к пятерым вы не испытываете никаких эмоций.

Вагонетку можно убрать с путей, столкнув её с другой вагонеткой. При этом обе они попадут на лужайку и убьют человека, спящего в гамаке.

В первых вариантах эксперимента мы полностью игнорируем то, кем являются люди на рельсах, как выглядит толстяк, что на нём надето, и ещё множество других факторов, которые в реальной ситуации могут повлиять на наше решение. Некоторые считают, что по этой причине такие мысленные построения абсолютно бесполезны и ни о чём не говорят.

Читайте также :

Но именно эта дилемма действительно поднимает важные вопросы — неудивительно, что она привлекла к себе такое внимание. Появился даже термин «вагонеткология» (trolleyology), которым обозначают исследования, посвящённые схожим моральным противоречиям.

Как указывает Дэвид Эдмондс, посвятивший этой проблеме целую книгу, схожие случаи разбирают курсанты в Военной академии Вест-Поинта, США — предполагается, что это помогает подчеркнуть разницу между методами военных сил США и террористических организаций. Последние наносят намеренные удары по гражданским, тогда как первые атакуют военные объекты, а гражданские лица становятся только случайными, хоть и неизбежными жертвами.

На самом деле, мы сталкиваемся с такими проблемами повсеместно. Вот пример из области медицины, который приводит Эдмондс:

Когда какая-то медицинская организация сталкивается с выбором — финансировать какое-то одно лекарство, которое, как считается, спасет X жизней, или финансировать другое лекарство, которое спасет Y жизней, она в действительности имеет дело с вариацией задачи вагонетки, хотя в таких дилеммах и не требуется никого убивать.

Такие мысленные эксперименты, как проблема вагонетки, которые на первый взгляд кажутся совершенно бесполезными, на самом деле помогают лучше понять, что именно мы считаем правильным и справедливым, какая этика для нас предпочтительнее.

Читайте также:  Девочка которая умерла под поездом

Но и это ещё не всё. Всё большее количество задач, которые раньше выполняли люди, берут на себя автоматизированные системы. Скоро на наших дорогах появятся сотни беспилотных автомобилей. Это поднимает серьёзные этические проблемы: какую программу действий мы должны заложить в эти системы?

Нужно ли, к примеру, автоматически отцеплять вагон, который вот-вот взорвётся, от общего состава, пожертовав меньшинством ради жизней многих? Иными словами, должны ли роботы быть утилитаристами или кантианцами?

Эдмондс считает, что мы предпочтём программировать их на минимизацию жертв и максимизацию блага. И это было бы вполне обоснованно: если эмоции мешают нам убить толстяка, то у машин нет такого оправдания. Их этика будет отличаться от нашей. Но именно наши доводы, эксперименты и рассуждения во многом определят, какой именно она будет.

Источник



Этика вагонетки, теологии и веганов, а также людей, состоящих в гетеро и гомосексуальных браках

Ниже сформулирована классическая проблема вагонетки — известный мысленный эксперимент в области этики.

Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?

Концепция утилитаризма (максимальной пользы) предписывает в обязательном порядке переключить стрелку. Оппоненты переключения стрелки подчёркивают невозможность сравнения человеческих жизней, и оставляют ситуацию на совести сумасшедшего философа.

Любопытна альтернативная формулировка этой же задачи.

У высококлассного хирурга есть 5 пациентов, каждому из которых необходима пересадка органа (разного для всех пятерых). Каждый пациент умрёт, если не получит этот орган. К сожалению, в больнице и окрестностях нет необходимых органов. В больницу для обычного рутинного осмотра приходит молодой здоровый посетитель. Осматривая его, хирург обнаруживает, что органы молодого человека полностью совместимы с организмами 5 его пациентов. Предположим, что в случае бесследного исчезновения посетителя никто не будет его искать и не заподозрит доктора в убийстве. Что должен сделать доктор?

Есть и другие похожие задачи, например, про толстого человека.

Как и прежде, вагонетка несётся по рельсам, к которым привязаны пять человек. Вы находитесь на мосту, который проходит над рельсами. У вас есть возможность остановить вагонетку, бросив на пути что-нибудь тяжёлое. Рядом с вами находится толстый человек, и единственная возможность остановить вагонетку — столкнуть его с моста на пути. Каковы ваши действия?

Недавно я столкнулся с еще одним вариантом похожей задачки, играя в игру Life Is Strange (осторожно в этом абзаце содержится мини-спойлер, можете его пропустить). Игра заставляет принимать всякие сложные (психологически) решения, что позволяет узнать много нового о себе. Например, там нужно было выбрать между спасением подруги главной героини игры и целого города и, к своему удивлению, я выбрал подругу (вот такой я хороший друг, видимо).

В комментариях к моему посту о впечатлениях от игры мне прислали ссылку на сообщество , где придумывают альтернативные (как правило смешные) варианты задачки про вагонетку.

Например, толкнете ли вы толстого человека на пути вагонетки, чтобы избавить человека, стоящего ниже по путям от решения классической проблемы вагонетки? Как вы решите проблему вагонетки, если вы не знаете в какой роли будете вы, когда решение будет реализовано: в роли одинокого человека или одного из пяти, связанных на рельсах, водителя вагонетки или стоящего у рычага? Столкнете ли вы толстого человека на Мистера А, если Мистер А хочет спасти свою жену, лежащую одиноко на рельсах, перенаправив вагонетку на путь с пятью людьми (мистер А, его жена и толстый человек при этом погибнут, но пятеро выживут).

В еще одном варианте задачу с вагонетками объединили с известной дилеммой заключенного. Вы и ваш напарник (с которым вы не можете общаться) решаете задачу с вагонеткой, но ваши вагонетки направляются друг другу на встречу. Каждый из вас находится на путях за своей вагонеткой. Если вы оба не дерните рычаги, вагонетки задавят пять человек и врежутся друг в друга. Если оба дерните рычаги, вагонетки поедут по обходным путям и задавят по два человека каждая. Но если только один из вас дернет рычаг, то вагонетка второго раздавит пять человек и того, кто дернул рычаг (так могут раздавить и вас).

Самый прекрасный вариант задачи, по-моему, про коров. Исходно на пути вагонетки находится n коров, а на альтернативном пути – один человек. При каком минимальном значении n вы дерните за рычаг, чтобы задавило человека? Измениться ли ваше решение, если вы знаете, что лежащий на путях человек – веган?

Я тоже решил поиграть в эту игру, поэтому держите мой мысленный эксперимент (все нижесказанное не претендует на большее, чем вымысел). Надеюсь, что он не покажется слишком сложным.

Итак, вагонетка собирается задавить пять человек. Только вы можете повернуть рычаг и перевести вагонетку на пути, где находится один человек. Этот человек является нобелевским лауреатом, который близок к открытию лекарства от вируса иммунодефицита, которое будет производиться генетически модифицированными растениями, но помогает только обладателям черного цвета кожи. По оценкам, экспертов из всемирной организации здравоохранения, такое лекарство может спасать 100,000 жизней темнокожих жителей Африки в год, причем гибель ученого отложит появление лекарства на два года.

Впрочем, по мнению членов ассоциации генетической безопасности, такое лекарство (полученное из ГМО растений) приводит к бесплодию, а организация ВИЧ диссидентов утверждает, что ВИЧ не вызывает СПИД и не ведет ни к чему плохому, а то и вовсе не существует. Эксперты ВОЗ и большинство научного сообщества отрицают то, что написано выше в данном абзаце.

Читайте также:  Что делает диспетчер поезда

Теперь опишем пятерых людей, находящиеся на текущем пути вагонетки. Во-первых, среди них имеется теолог, который молится за то, чтобы вагонетка сама остановилась. Теолог защитил, а ВАК утвердил диссертацию по теологии, доказывающую существование Бога. Теолог заявляет, что обнаружил молитву, которая работает, но только если она направлена на помощь истинно верующему человеку. Теолог просит не поворачивать рычаг, ибо он истинно-верующий человек и Бог, услышав его молитву, сам остановит вагонетку, и никто не пострадает (теолог лежит на рельсах ближе всех к вагонетке). Нобелевский лауреат с атеистическим мировоззрением под божью защиту, по словам теолога, не попадает. Если теолог все-таки умрет – его теория будет опровергнута, а специальность ВАК по теологии – ликвидирована. Если рычаг не повернуть, а Бог остановит вагонетку, теолог сам станет Нобелевским лауреатом.

Рядом с теологом на рельсах лежит патриарх, который ранее высоко оценил диссертацию теолога, во время выступления перед государственной думой, однако в отличие от теолога просит дернуть за рычаг (задавить ученого). Патриарх имеет нотариально заверенный документ, что в случае его спасения он велит раздать все церковные предметы роскоши (от яхт, лимузинов и активов РПЦ в банках, до изъятых ранее помещений школ, больниц) в пользу нищих, больных и бездомных через выбранные вами благотворительные фонды. Речь идет об имуществе и активах на более, чем 50 миллиардов рублей. То есть, 200 тысяч нищих, бездомных или больных получат по 250 тысяч рублей каждый, что может спасти их от голода, нехватки лекарств и жилья. Известно также, что в случае гибели Патриарха, его объявят святым, а рядом с главным зданием МГУ построят в его честь часовню.

Рядом с патриархом Кириллом лежит беременная женщина (первый триместр). Эта женщина собиралась сделать аборт, по-видимому, не считая своего эмбриона человеком (шестым человеком на рельсах), но, с учетом ситуации, готова передумать.

Последние два человека на этом ответвлении пути – гетеросексуальная семейная пара, планирующая завести троих детей (но пока бездетная). Спасти их можно альтернативным путем: не повернув рычаг, а сбросив перед поездом стоящую на мосту гомосексуальную пару (двое мужчин, увы, не толстых, вполне ухоженных, хорошо одетых, спортивного телосложения, поэтому поезд все равно задавит теолога, патриарха и беременную женщину). В принципе можно сбросить эту пару под поезд и в случае если вы решите повернуть рычаг, чтобы добавить их к числу жертв вместе с нобелевским лауреатом (кстати, она – женщина). За это Милонов уступит вам свое депутатское кресло (этого не случится, если из-за вас умрет патриарх).

Наконец, стоит отметить, что есть еще один путь – взорвать вагонетку (никто из лежащих на рельсах не пострадает). Но с этим вариантом тоже имеется пара нюансов. Дело в том, что это особая вагонетка. В вагонетке везут секретные чертежи танка «Армата», без которых российские танки будут гарантировано хуже американских и икону Пресвятой Матроны. Кроме того, если взорвать вагонетку, погибнет полковник ФСБ, который охраняет захваченных им в плен директора компании Монсанто, Навального, Обаму и его точную копию – результат эксперимента в секретной лаборатории по 3D копированию людей. Все они тоже погибнут, а технология 3D копирования людей не достанется Путину. Путин хочет использовать технологию, чтобы (потенциально) жить и править вечно (на доступность технологии другим людям ваше решение не влияет).

Все происходит в Крыму, который на момент событий контролируется Украиной. Взрыв вагонетки гарантированно послужит поводом для присоединения Крыма к России. В противном случае Крым в ближайшем будущем останется за Украиной. В Белоруссии будет убито дополнительно 200,000 коров, чтобы компенсировать недополученное мясо, которое будет уничтожено на подступах к России, как «санкционное». В рамках мер по предотвращению терроризма, государственная дума запретит пропаганду игры Counter-Strike среди несовершеннолетних. На реализацию закона будет выделено 50 миллиардов рублей из бюджета, которые уйдут в панамские оффшоры. Нобелевский лауреат, полковник ФСБ, директор компании Монсанто, а также гомосексуальная пара – веганы.

Независимо от выбора, суд вас оправдает (вам ничего не грозит). А теперь я предоставляю слово вам, уважаемые читатели. Какой из предложенных путей выберете вы? И главное – объясните почему?

Конец задачи.

P.S. По задумке ответ на всю задачу в целом должен зависеть от многих маленьких ответов, которые вы даете на многочисленные вопросы в повседневной жизни. Но какие из ваших взглядов и убеждений важней? Доверяете ли вы ученым? Верите ли вы в Бога? Все ли жизни равны? Является ли человеком его копия, эмбрион, запланированный ребенок? Есть ли у жизни цена? Нужно ли отбрасывать эмоции при решении подобных задач?

P.P.S. Было бы шикарно, если бы кто-то сделал иллюстрацию.

Вообще есть интересные научные исследования на тему исходных задач, некоторые из которых я упоминаю в статье « Игра в ультиматум » .

Опрос #2044079 Что делать?
Открыт: Всем, подробные результаты видны: Всем. Участников: 410

Показать ответы
Не поворачивать рычаг, геев столкнуть 27 ( 6.6 % ) Не поворачивать рычаг, геев не трогать 101 ( 24.6 % ) Повернуть рычаг, геев столкнуть 25 ( 6.1 % ) Повернуть рычаг, геев не трогать 31 ( 7.6 % ) Взорвать вагонетку 205 ( 50.0 % ) Доверить выбор стоящему рядом мужчине, который знает, что делать 21 ( 5.1 % )
– Не поворачивать рычаг, геев столкнуть
– Не поворачивать рычаг, геев не трогать
– Повернуть рычаг, геев столкнуть
– Повернуть рычаг, геев не трогать
– Взорвать вагонетку
– Доверить выбор стоящему рядом мужчине, который знает, что делать

Источник

Проблема вагонетки – пожертвуете ли вы 1 человеком ради 5?

Проблема вагонетки

Представьте, что вы видите, как тяжёлая неуправляемая вагонетка несётся прямо на пятерых рабочих, которые не могут от неё увернуться. Вы можете переключить стрелку и пустить вагонетку по другому пути. Но вот ведь незадача: на втором пути также находится рабочий, но только один. Как бы вы поступили? Пожертвовали бы одним человеком, чтобы спасти пятерых?

Читайте также:  Расписание поезда инта лазаревское

Это так называемая «Проблема вагонетки» — одна из мыслительных задач на этику, сформулированная Филиппой Фут в 1967 году и ставшая популярной, поскольку заставляет задуматься над выбором, где нет этически правильного ответа. Поступим ли мы наиболее целесообразно или будем придерживаться моральных норм, которые запрещают убивать?

Согласно одному исследованию, около 90% респондентов посчитали возможным переключить стрелку, чтобы погиб один человек, а не пятеро. Все последующие исследования данной дилеммы, включая моделирование виртуальной реальности, пришли к аналогичным выводам. Данные суждения полностью укладываются в философскую логику утилитаризма, согласно которому более верным решением с точки зрения морали признаётся то, что принесёт пользу большему числу людей. Пять жизней важнее, чем одна, даже если ради них кто-то неминуемо погибнет.

Однако люди не всегда придерживаются утилитаризма. В этом можно убедиться, если слегка изменить нашу задачу. Теперь представьте: вы стоите на мосту над железнодорожными путями, по которым несётся отцепившаяся вагонетка. Её нельзя повернуть на другой путь, но рядом на мосту стоит очень толстый человек. Если столкнуть его с моста, то своим телом он остановит вагонетку, жизни пятерых рабочих будут спасены, но он погибнет. Для утилитаристов ответ прежний: пожертвовать одной жизнью, но спасти пять. Однако в данном случае только 10% опрошенных посчитали приемлемым бросить человека под колёса поезда. Инстинктивно мы понимаем, что намеренное лишение кого-то жизни неравнозначно смерти в результате «побочного эффекта». Этот поступок кажется аморальным, но трудно объяснить, почему.

«Проблема вагонетки» находится на стыке этики и психологии, и этим она особенно интересна. Дилемма и её разные версии демонстрируют, что наши представления о добре и зле зависят от различных факторов, а не логического анализа всех за и против. Например, мужчины скорее, чем женщины, согласятся столкнуть толстяка с моста. Согласятся и те, кто до ответа на вопрос исследования посмотрел какой-нибудь смешной ролик. В результате моделирования виртуальной реальности выяснилось, что испытуемые легче соглашались пожертвовать мужчинами, чем женщинами.

Учёные также проследили за деятельностью мозга испытуемых, отвечавших на вопросы классической версии и версии с мостом. В результате обоих сценариев активизируются зоны мозга, отвечающие за осознанное принятие решений и эмоциональные реакции. Но в версии с мостом эмоциональная реакция была намного ярче. Также активнее вела себя зона мозга, отвечающая за решение внутренних конфликтов. Так в чём же разница? Согласно одному объяснению, толкая кого-то на смерть, человек более лично воспринимает этот поступок, активируя эмоциональное отвращение к совершению убийства. Однако возникает внутренний конфликт, поскольку логика — на стороне убийства.

Философы и психологи не раз критиковали исследования «проблемы вагонетки». Они утверждают, что эксперимент ничего не доказывает, поскольку он далёк от реальности и испытуемые не воспринимают его всерьёз. Но в результате научного прогресса подобного рода этические дилеммы становятся всё более насущными. Например, возможно, скоро выбор будут делать беспилотные автомобили, запрограммированные на совершение небольшой аварии, чтобы не попасть в крупное ДТП. А военные всерьёз подумывают над разработкой автономных боевых дронов, которым предстоит решать, рисковать ли жизнью гражданского населения ради поражения важной стратегической цели. Если мы хотим оправдать их действия с точки зрения этики, нам придётся решить заранее, как оценивать жизнь человека и как судить о том, что более ценно. Поэтому исследователи автономных систем тесно сотрудничают с философами в решении сложных проблем программирования этики машин. Это лишний раз доказывает, что даже умозрительные дилеммы могут входить в коллизии с реальной жизнью.

Источник

Проблема вагонетки

В этике есть известный мысленный эксперимент об убийстве человека, который называется «проблемой вагонетки». Он затрагивает проблемы морали. Интересно, что у этой проблемы есть несколько вариаций, на каждую из которых люди реагируют по-разному. Попробуйте и вы порассуждать над задачей.

Классическая формулировка

С точки зрения утилитаризма — требуется обязательно переключить стрелку. Согласно этой теории, переключение стрелки является не единственным допустимым решением, но, самым правильным морально.

«Толстый человек»
Похожая проблема была предложена философом Д. Томсоном.

Для большинства людей активное участие в этом случае практически невозможно. Большая часть тех, кто был готов переключить стрелку в первой ситуации, не стали бы толкать человека под вагонетку во второй. Эта особенность явилась предпосылкой для более глубокого исследования различия этих двух ситуаций. Главное различие состоит в том, что в первом случае наблюдатель не взаимодействует с человеком: смерть на запасном пути будет побочным эффектом переключения механизма. Смерть человека в первом случае не является частью плана по спасению остальных — к спасению приводит переключение рычага. Во втором случае агрессия по отношению к толстому человеку является неотъемлемой частью плана по спасению пятерых.

«Толстый злодей»

Дальнейшее развитие этого примера включает в себя ситуацию, когда толстый человек оказывается злодеем, который и поставил пятерых людей в опасную ситуацию (привязал их к рельсам). В этом случае выталкивание толстого человека на рельсы выглядит не только выигрышным с моральной точки зрения, но и обязательным для выполнения.

«Ответвление»

Единственная разница между этой ситуацией и оригинальной формулировкой состоит в том, что добавлен дополнительный кусок путей. Это выглядит незначительным, особенно с учётом того, что по этому куску вагонетка в любом случае не проедет. Таким образом, интуиция подсказывает, что ответ должен быть таким же, как и в оригинальной проблеме — следует переключить стрелку. Однако, в этом случае смерть одного на самом деле является частью плана по спасению пятерых — что близко ко второй формулировке задачи.

Источник