05/04/2019

Какой моральный выбор должен сделать искусственный интеллект, управляющий беспилотным автомобилем в случае неотвратимой аварии? Задавить пешехода, преходящего дорогу в неположенном месте, или вывернуть на тротуар и сбить нескольких человек сразу? А если на дороге перед автомобилем инвалид или беременная женщина. Или близкий друг, или ребенок пассажира?

Над этими вопросами не первый год бьются все разработчики беспилотных автомобилей – от Audi и Toyota до Tesla и «Яндекса».

Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) придумали специальный онлайн-тест, пройти который мог любой желающий.

Каждому участнику опроса предлагалась дюжина гипотетических дорожных ситуаций – вроде тех, что приведены выше – в которых водителю необходимо сделать моральный выбор, неизбежно влекущий за собой смертельный исход. Например, насмерть сбить трех пожилых пешеходов на автостраде или направить машину в бетонный забор, убив находящихся в ней троих пассажиров.

Экспертам нужно было четко понять, кого спасут с наибольшей вероятностью – молодых или пожилых? Бедных или богатых? Одного ребенка или нескольких взрослых?

В результате ученые сделали несколько важных выводов. Первый: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали «западными», «восточными» и «южными».

«Западники» чаще предпочитали спасать более молодых людей, а «восточники» – более пожилых. Представители «южных» стран чаще отдавали предпочтение женщинам и детям, а также людям, обладающим более высоким социальным статусом.

На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей «западных» стран по сравнению с «восточными».

Зато «восточные» жители почти не принимали в расчет разницу в количестве спасенных жизней.

Второй вывод: ответы зависят от пола и возраста участников эксперимента.

Третий: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов.

Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндия и Япония) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.

В итоге, с одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой стороны, люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.

Источник: Би-би-си