Какой моральный выбор должен сделать искусственный интеллект, управляющий беспилотным автомобилем в случае неотвратимой аварии? Задавить пешехода, преходящего дорогу в неположенном месте, или вывернуть на тротуар и сбить нескольких человек сразу? А если на дороге перед автомобилем инвалид или беременная женщина. Или близкий друг, или ребенок пассажира?
Над этими вопросами не первый год бьются все разработчики беспилотных автомобилей – от Audi и Toyota до Tesla и «Яндекса».
Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) придумали специальный онлайн-тест, пройти который мог любой желающий.
Каждому участнику опроса предлагалась дюжина гипотетических дорожных ситуаций – вроде тех, что приведены выше – в которых водителю необходимо сделать моральный выбор, неизбежно влекущий за собой смертельный исход. Например, насмерть сбить трех пожилых пешеходов на автостраде или направить машину в бетонный забор, убив находящихся в ней троих пассажиров.
Экспертам нужно было четко понять, кого спасут с наибольшей вероятностью – молодых или пожилых? Бедных или богатых? Одного ребенка или нескольких взрослых?
В результате ученые сделали несколько важных выводов. Первый: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали «западными», «восточными» и «южными».
«Западники» чаще предпочитали спасать более молодых людей, а «восточники» – более пожилых. Представители «южных» стран чаще отдавали предпочтение женщинам и детям, а также людям, обладающим более высоким социальным статусом.
На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей «западных» стран по сравнению с «восточными».
Зато «восточные» жители почти не принимали в расчет разницу в количестве спасенных жизней.
Второй вывод: ответы зависят от пола и возраста участников эксперимента.
Третий: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов.
Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндия и Япония) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.
В итоге, с одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой стороны, люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.
Источник: Би-би-си
распечатать статью
