Кого сбивать автомобилю с автопилотом — ребенка или бабушку?
26.10.2018 р. в 17:30, «AvtoVod»
В 2014 году исследователи из Массачусетского технологического университета запустили эксперимент, который должен был прояснить, как действовать автопилоту в случае неизбежного столкновения.
Идея состояла в том, чтобы создать игровую платформу, которая использовала бы решения людей в вопросе кому автономные автомобили (без водителя) должны отдавать приоритет в дилемме «Проблема вагонетки», то есть в том случае, когда избежать ДТП невозможно. Например, если стоит выбор - сбить пешехода, который нарушает ПДД (переходит на красный) или врезаться в человека на тротуаре, который ни в чем не виноват. В процессе полученные данные позволяли понять коллективные этические приоритеты разных культур.
Исследователи даже и представить себе не могли массовую популярность, которую обретет эксперимент. Спустя четыре года после того, как платформа вышла в свет, испытуемые из 233 стран зарегистрировали 40 миллионов решений, что сделало этот эксперимент одним из крупнейших исследований глобальных моральных предпочтений, когда-либо проводившихся.
Новая статья, опубликованная в Nature предоставляет вниманию читателя анализ этих данных и показывает, насколько межкультурные этики расходятся, в зависимости от экономики и географического положения.
Классическая «Проблема вагонетки» выглядит следующим образом:
Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?
«Машина морали» использовала эту идею, чтобы проверить девять различных вариантов: кому отдаст предпочтение автопилот автомобиля — людям или домашними животными, пассажирам или пешеходам, большему количеству жизней или меньшему, женщинам или мужчинам, молодым или пожилым, натренированным или болезненным, богатым или бедным, законопослушным или преступникам? И, наконец, должен ли вообще автомобиль свернуть (принять меры) вместо того, чтобы следовать выбранному курсу?
Однако, вместо того, чтобы предоставлять испытуемым индивидуальные сравнения, эксперимент озадачил участников различными комбинациями, например, должен ли автономный автомобиль продолжать ехать прямо и убить трех пожилых пешеходов или свернуть на тротуар и убить трех юношей.
Исследователи обнаружили, что предпочтения в разных странах сильно отличаются, но они очень тесно связаны с культурой и экономикой. Например, участники из коллективистских культур, таких как Китай и Япония, с меньшей вероятностью предпочтут молодых старикам — возможно, исследователи выдвинули эту гипотезу, основываясь на большом уважении к пожилым людям в этих странах.
Страны с более индивидуалистическими культурами, которые с большей вероятностью спасут юношей
Участники из бедных стран с низким уровнем образования более терпимы к личностям, перебегающим дорогу в неположенном месте, чем к законопослушным пешеходам. А участники из стран с высоким уровнем экономического неравенства продемонстрировали больший разрыв между своим отношением к лицам с высоким и низким социальным статусом.
Также результаты показали, что испытуемые из индивидуалистических культур, таких как Великобритания и США, отдали предпочтение сохранению большего количества жизней, учитывая все варианты — возможно, по мнению авторов, из-за большего акцента на ценности каждого человека.
Страны с более индивидуалистическими культурами, скорее всего, пощадят больше жизней
Страны в непосредственной близости друг от друга также демонстрировали похожие моральные предпочтения с тремя доминирующими кластерами — на Западе, Востоке и Юге.
Ученые признали, что результаты могут быть искажены, учитывая, что участники исследования пришли самостоятельно и, вероятнее всего, были пользователями Интернета, обладающими высоким социальным статусом и с техническими навыками. Но те, кто интересуется ездой на автомобилях с автопилотом имеют эти же характеристики.
Исследование важно для стран, которые в настоящее время испытывают автомобили с автопилотом, поскольку предпочтения могут играть определенную роль в разработке дизайна и регулирования движения этих транспортных средств. Например, китайские потребители с большей готовностью сядут в автомобиль, который отдаст предпочтение безопасности пассажира, а не пешехода.
Выбор между пешеходами и пассажирами
Но авторы исследования подчеркнули, что результаты не должны диктовать как действовать автопилоту самоуправляющихся автомобилей в разных странах.
Эдмонд Авад в качестве примера привел сравнение по социальному статусу:
«Похоже на то, что люди сочли в значительной степени важным сохранить жизнь человека с более высоким статусом», — сказал он. «Почему не выбрать большее количество, вместо того, чтобы думать как ты можешь использовать в своих целях спасенного тобой влиятельного человека»
Результаты, по его словам, должны использоваться производителями и правительством как основа для понимания того, как общественность будет реагировать на этику различных дизайнерских и политических решений.
Авад надеется, что результаты также помогут технологам глубже задуматься над этикой ИИ за пределами самоуправляющихся автомобилей.
«Мы использовали Проблему вагонетки, потому что это очень хороший способ собрать подобные данные, но мы надеемся, что обсуждение этики выйдет за рамки этой темы. Дискуссия должна перейти к анализу рисков — о том кто подвергается большему или меньшему риску, вместо того, чтобы выбирать кому умереть».
В последние два года все чаще стали говорить об этике Искусственного Интеллекта. Все больше исследователей начинают осознавать, что выбор ИИ может иметь разные этические последствия для отдельных групп людей.
