Три закона робототехники Айзека Азимова гласят следующее. Робот не должен вредить человеку. Он также должен подчиняться приказам, за исключением тех, которые противоречат первому закону. И последний: он должен защищать себя (что не всегда удаётся сделать устройствам на АЭС "Фукусима") в той мере, в которой это не противоречит первому или второму законам.
Но что делать, если, скажем, самоуправляемый автомобиль должен сделать выбор, жизнь кого он должен уберечь в ДТП: своего владельца, пассажира или пешехода?
Недавно опубликованное исследование показывает, что общественность использует противоречивый подход к безопасности автономных транспортных средств, которые в скором времени могут появиться на дорогах всего мира.
Получается, что сфера самоуправляемых машин, к которой сегодня приковано большое внимание, может встать перед социальной дилеммой, потому что сегодня потребности немногих перевешивают потребности многих людей. Исследователи MIT пишут, что люди, которые потенциально готовы купить автомобиль-робот, хотят, чтобы автономные машины не вредили пешеходам и сделали дороги безопасными. Но никто при этом не готов отказаться от своей собственной безопасности.
Эта головоломка может по-настоящему усложнить процесс внедрения самоуправляемых машин в жизнь человека, полагают учёные.
Исследователь Азим Шерифф (Azime Shariff), профессор психологии и социального поведения Калифорнийского университета, предложил представить такую ситуацию: самоуправляемая машина может избежать столкновения с несколькими пешеходами, выбежавшими на дорогу, но тогда ей нужно врезаться в стену или вылететь с моста, что поставит под угрозу жизнь пассажиров.
Специалист задал респондентам в Интернете следующий вопрос: Ччто если автономное транспортное средство запрограммировано на то, чтобы спасти жизнь пассажира и, соответственно, врезаться в пешеходов? "Насколько охотно люди будут покупать такую машину и отдадут ли добровольно свою собственную жизнь в руки робота?", — рассуждает Шерифф.
Он и его коллеги опубликовали результаты онлайн-опроса общественности, которые показали, что люди в основном пользуется утилитарным подходом в этической проблеме. Люди предпочли бы, чтобы автономные транспортные средства минимизировали потери в опасной ситуации. Иными словами, если внутри автомобиля находится один пассажир, что машина должна попытаться спасти десяток пешеходов. Но в то же время респонденты отметили, что они не хотели бы приобрести машину, запрограммированную таким образом.
"Когда мы спросили людей, хотели бы они приобрести для себя такой автомобиль, они ответили, что идея такого транспорта замечательна. Было бы прекрасно, по мнению опрошенных, чтобы другие люди приобрели его себе, но никто не хотел бы сам стать владельцем такого авто", — говорит соавтор исследования Жан-Франсуа Бонфон (Jean-François Bonnefon), психолог из Тулузской школы экономики при Национальном центре научных исследований.
По сути, люди хотят, чтобы автомобили были как можно более дружелюбно настроены к пешеходам, но (!) за исключением тех транспортных средств, в которых они сами будут ездить. "Большинство людей хотят жить в мире, где автомобили будут минимизировать потери, — говорит Ияд Рахван (Iyad Rahwan), учёный из Массачусетского технологического института. – Но каждый хочет, чтобы их собственный автомобиль защищал любой ценой прежде всего своих владельцев".
Проблема с самоуправляемыми машинами и вопрос, кого они должны защищать, уже рассматривалась ранее авиаторами. В частности, технология, которая предотвращает неправильное решение пилота (или попытку его самоубийства), известна как "управляемый полёт, предупреждающий столкновения с наземными препятствиями".
Однако такая система не реализуется крупными коммерческими авиакомпаниями, по данным Эллы Аткинс (Ella Atkins), профессора аэрокосмической инженерии из Университета Мичигана.
Исследователи заключают, что в настоящее время не существует алгоритмов и способов их разработки, которые могли бы примирить нравственные ценности и личную корысть каждого отдельного человека.
По их мнению, возникшую этическую проблему обязательно должны рассмотреть автопроизводители и все регулирующие органы.
Результаты исследования были опубликованы в научном издании Science.
