Кого должен спасать беспилотный автомобиль в ситуации неизбежной аварии?

Первым человеком, погибшим под колесами беспилотного автомобиля, была Элейн Херцберг. Внедорожник Uber Volvo, двигавшийся на скорости около 60 км/ч «в полностью автономном режиме», сбил ее в воскресенье, 18 марта 2018 года в Темпе, штат Аризона.

Это происшествие послужило причиной приостановки компанией Uber испытаний своих беспилотных автомобилей, однако не остановило экспансию автономных транспортных средств в целом. Европа пока сопротивляется, но в Северной Америке такие машины по-прежнему катаются по улицам Майами, Сан-Франциско, Питтсбурга, Торонто и Вашингтона.

Беспилотные транспортные средства это, по сути, компьютеры на колесах, запрограммированные на мгновенное принятие определенных решений. Очевидно, что рано или поздно некоторые из этих решений вызовут немало этических вопросов: должны ли, к примеру, машины, подобные той, что убила Элейн Херцберг, быть запрограммированы на отклонение от взрослого пешехода, если это означает наезд на ребенка... Или ту же собаку?

«Задачка с поездом»

Эту проблему поднимает доктор Хэл Херцог в недавней статье для Psychology Today. Он пишет: «Вы правы, если думаете, что речь идет о знаменитой задаче с поездом. В классическом варианте гипотетический поезд мчится по рельсам на группу из пяти человек. По условиям задачи есть возможность предотвратить их гибель, рычагом переведя стрелку, и в этом случае погибнет всего один человек, стоящий на других путях. Как выясняется, большинство людей согласны потянуть за рычаг. Однако когда условия задачи меняются и для спасения группы людей предлагается лично столкнуть всего одного человека с платформы под поезд, почти все говорят «нет», хотя чисто количественное соотношение в обоих случаях не меняется».

Когнитивисты используют эту задачу для демонстрации слабости человеческой морали. Однако с распространением беспилотных транспортных средств «задачка с поездом» внезапно стала чрезвычайно актуальной, причем в совершенно реальных ситуациях. Используя один из ее многочисленных вариантов, группа исследователей из MIT Media Lab использовала краудсорсинг для проведения, возможно, самого масштабного исследования в истории психологии: количество опрашиваемых составило порядка 40 миллионов человек!

Ученые поставили цель выяснить, существуют ли некие всеобщие моральные принципы, которые могли бы лежать в основе принятия этически верных решений в области использования беспилотных транспортных средств. Результаты были недавно опубликованы в журнале Nature, и они, помимо прочего, показывают относительную ценность, которую люди придают жизни собак и кошек.

Кого должен спасти беспилотный автомобиль? Фото Azim Sharif/MIT Media Lab

Опрос был оформлен в виде игры, по условиям которой беспилотному автомобилю со сломанными тормозами необходимо подсказать оптимальный выбор между двумя ситуациями, в обеих из которых столкновение неизбежно. Пример ситуации- на скриншоте: должен ли автомобиль свернуть на левую полосу и задавить кошку или ему следует продолжить движение прямо и сбить женщину.

Игра была переведена на 10 языков и запущена в интернет в 2014 году. К удивлению авторов, она вскоре стала вирусной, благодаря чему исследователям удалось получить ответы жителей более чем 200 стран всех возможных взглядов и вероисповеданий. Ученых интересовало, кому при выборе в таких непростых условиях будет отдаваться приоритет: домашним животным или людям, большему числу людей или меньшему, мужчинам или женщинам, пассажирам или пешеходам и так далее.

Результаты дали основания для беспокойства кошкам, собакам и преступникам. Источник: Хел Херцог

Как пишет Хел Херцог, значительная часть респондентов предпочла спасти младенцев, детей и беременных женщин, пожертвовав взрослыми мужчинами. Плюс подавляющее большинство сошлось на том, что, за одним-единственным исключением, людей всегда следует спасать за счет собак или кошек. Исключением стали преступники, но даже им отдали предпочтение в сравнении с кошками.

Оказывается, мы разные

Вне зависимости от того, к какой культуре принадлежали респонденты, в их «машинной этике» ясно прослеживались три основные тенденции:

• 1. Спасать людей, а не животных;
• 2. Выбирать возможность спасти больше жизней за счет меньшего количества жертв;
• 3. Спасать молодых за счет пожилых.

Такая схожесть предпочтений оказалась весьма примечательна. Наряду с ней выявились интересные культурные различия, спрогнозировать которые не мог никто.

Японцы обычно стремились сохранить жизнь пешеходов, в то время как китайцы предпочитали спасать пассажиров.

Индивидуалистические культуры были более склонны щадить молодежь, чем коллективистские культуры.

Индивидуалистические культуры имели явные предпочтения в отношении сохранения большего числа индивидов по сравнению с коллективистскими культурами.

Респонденты из бедных стран, как правило, жалели бродяг чаще, чем игроки из более богатых стран.

Страны с наибольшим экономическим неравенством между богатыми и бедными демонстрировали наибольшие различия в оценке жизни богатых по сравнению, скажем, с бездомными.

Почти все народы предпочитали сохранять жизнь женщинам, а не мужчинам, однако эта тенденция была более заметна в тех странах, где женщины имели лучшие перспективы для жизни.

Своя рубашка ближе к телу

Очевидно, что страны, географически близкие друг к другу, чаще всего оказывались схожи и в вопросах «машинной» этики. Исследователи обнаружили, что национальные модели моральных принципов делятся на три географически связанные группы. Западный кластер включал Северную Америку и большую часть Европы, страны Восточного кластера включали в себя большую часть Азии и некоторые исламские государства.

Но самая интересная группа оказалась в южном кластере, включавшем Центральную и Южную Америку наряду с Францией и некоторыми франкоговорящими территориями.

Участники из южных «культурных» стран отличались от остального мира по целому ряду предпочтений. Они гораздо больше остальных стремились сохранить жизнь молодым в противовес пожилым, женщинам, а не мужчинам, людям высокого статуса, а не низкого. Но, пожалуй, самым удивительным было то, что люди в южном кластере были менее склонны спасать людей вместо домашних животных, чем респонденты в Западном и Восточном кластерах.

Доктор Азим Шарифф, член исследовательской группы, говорит, что у него нет какого-либо разумного объяснения такому различию в отношении к домашним животным. Он пишет: «Дело не в том, что там предпочитают домашних животных людям: для всех без исключения люди в приоритете. Просто в южном кластере это не совсем так, как у других».

Боюсь, нас ждет непростое будущее. Искусственный интеллект, управляющий беспилотными транспортными средствами, будучи запрограммированным в соответствии с общепринятой моральной концепцией, не будет сомневаться и идти на риск. Он станет принимать взвешенные, но весьма однозначные решения, принимая во внимание объективную «ценность» спасения того или иного существа. Женщин, детей и людей с высоким статусом.

Еще в 1993 году исследование, которое использовало «задачу с поездом» для поиска универсальных моральных принципов, показало, что для подавляющего большинства людей основой морали является принцип «ценить человеческую жизнь выше жизни любых животных, не являющихся людьми». Решение в пользу человека принималось даже в том случае, когда сценарии включали, например, необходимость пожертвовать последними пятью горными гориллами на земле, чтобы спасти одного человека.

Кажется, что мы действительно склонны держаться друг друга. Это, безусловно, радует. Исследователи из Университета Джорджии Риджентс спросили людей, кого они спасут, собаку или человека, если оба окажутся на пути несущегося без тормозов автобуса. Традиционные предпочтения и здесь были налицо: подавляющее большинство опрошенных сказали, что спасут, например, иностранного туриста, а не собаку.

Но когда испытуемым говорили, что речь идет об их собственной собаке, решения резко менялись: 30% мужчин и 45% женщин сказали, что они позволили бы автобусу переехать иностранца, если бы они тем самым могли спасти жизнь своего питомца. Своя рубашка, как оказывается, гораздо ближе к телу.

---