Почему для беспилотных авто не хватает трех законов робототехники

Уже намерены прорваться на дороги роботы-автомобили. Эти беспилотники проехали десятки тысяч километров в разных странах мира, а рекорд поставил автомобиль-робот, преодолев 5630 километров из Сан-Франциско в Нью-Йорк. Конечно, на случай всяческих неурядиц рядом постоянно находился водитель, но работы для него практически не нашлось. Около 99 процентов всего проделанного пути машиной управлял автомат. Словом, новый мир на пороге, и для жизни в нем человеку надо срочно создавать новые правила, в том числе и для самих роботов. Уже первые попытки их разработать выявили неожиданные проблемы. Прежде всего это касается роботов-автомобилей, которые потенциально могут быть наиболее опасны для человека. Анализ показал, что вариантов, с которыми столкнется робот, такое множество, что заложить в его мозг какой-то универсальный на все случаи жизни "моральный код" практически невозможно. Тремя знаменитыми законами робототехники Айзека Азимова тут не обойтись. Такой вывод следует из эксперимента Moral Machine ученых Массачусетского технологического института. Прямо скажем, масштаб этого исследования впечатляет. Ученые опросили 2,3 миллиона человек из более 200 стран, задав вопрос, какими моральными принципами должны руководствоваться беспилотные автомобили в аварийных ситуациях, когда человеческих жертв избежать невозможно и нужно выбрать меньшее из зол. Мнения людей оказались разными в зависимости от моральных норм и ценностей, принятых в разных странах и даже регионах. Ученые в анкетах предложили разные варианты. У беспилотника внезапно отказали тормоза, а перед ним кто-то переходит дорогу: либо "законно" - на зеленый или по зебре, либо "незаконно" - на красный свет. Искусственный интеллект стоит перед множеством выборов. Кого спасать? Большую или маленькую группу людей, пассажиров машины или пешеходов, мужчин или женщин, старых или молодых, бездомных или начальников, пожертвовать теми, кто нарушал правила и шел на "красный", спасать людей или животных. В разных странах очень разные представления, как должны вести себя роботы в критических ситуациях Некоторые ответы довольно очевидны. Если смотреть усредненные показатели, то явное предпочтение отдано людям, а не животным, большим группам, а не маленьким. Примерно так же проголосовали за спасение молодых, законопослушных, переходящих дорогу на зеленый свет и высокостатусных людей. Менее весомым был перевес принадлежности к женскому полу. Кроме того, респонденты оказались более склонны делать выбор в пользу пешеходов, а не пассажиров. Но это картина в среднем, а если копнуть чуть глубже, то тут начинается самое интересное: как по разным ситуациям "проголосовали" жители разных стран и регионов? После подведения итогов все страны условно распались на три группы - Западную, Восточную и Южную. В Западную включены США, Канада и многие европейские страны -- католические, протестантские и православные. В Восточной преобладают страны либо с конфуцианской, либо с мусульманской традицией. Южная состоит из стран Латинской Америки. Как показывают опросы, для каждой из трех групп характерны очень разные представления, как должны вести себя беспилотные машины в критических ситуациях. Например, в Южной преобладает мнение о необходимости спасать прежде всего детей и женщин, тогда как жители Восточной отдают предпочтение законопослушным пешеходам и не ставят жизнь молодых намного выше жизни старших. Если в стране преобладает высокая ценность индивидуума, то побеждает мнение, что беспилотный автомобиль обязательно должен минимизировать число жертв. Зато жители стран с сильными коллективистскими установками спокойнее относятся к числу жертв аварии. Кроме того, для "коллективистов" характерно почтительное отношение к старшим. Может быть, поэтому у них слабее требование отдавать предпочтение спасению детей. В странах с высоким ВВП и верховенством права люди хотят спасать прежде всего тех, кто переходит дорогу на зеленый свет, а не на красный. Иными словами, люди, привыкшие к бедности и плохой работе социальных институтов, склонны смотреть сквозь пальцы на нарушение правил и не придавать этому большого значения при решении вопросов жизни и смерти. А в странах с высоким уровнем экономического неравенства сильнее выражена склонность в аварийной ситуации отдавать предпочтение спасению людей с высоким статусом. Может быть, это связано с тем, что жители стран, сумевших добиться более равного распределения благ между людьми, выше ценят равенство прав и поэтому не считают, что задавить бездомного - это лучше, чем задавить начальника. Столь существенные различия между индивидуалистическими и коллективистскими культурами наверняка создадут большие проблемы для разработчиков универсальной машинной этики.