Представьте, что вы едете по улице, и вдруг на дорогу выходят два человека — ребенок и взрослый. Удар по одному из них неизбежен. У тебя ужасный выбор. Что вы делаете?
А теперь представьте, что машина без водителя. Что происходит тогда? Должна ли решать машина?
До сих пор никто не верил, что автономные автомобили — роботизированные транспортные средства, работающие без человеческого контроля — могут делать моральный и этический выбор, и этот вопрос был центральным в продолжающихся дебатах об их использовании. Но немецкие ученые сейчас думают иначе. Они считают, что в конечном итоге можно будет внедрить элементы морали и этики в беспилотные автомобили.
Безусловно, большинство людей-водителей никогда не столкнутся с такой мучительной дилеммой. Тем не менее, «учитывая, что на дорогах много миллионов автомобилей, такие ситуации время от времени случаются», — сказал Леон Зютфельд, научный сотрудник Института когнитивных наук Оснабрюкского университета и ведущий автор нового исследования, посвященного моделированию этики для беспилотных автомобилей . . Статья, опубликованная в журнале Frontiers in Behavioral Neuroscience , была написана в соавторстве с Гордоном Пипа, Питером Кенигом и Ричардом Гастом из института.
Концепция беспилотных автомобилей стала популярной как способ борьбы с изменением климата , поскольку эти автономные транспортные средства управляются более эффективно, чем большинство людей. Они избегают резкого ускорения и торможения — двух привычек, приводящих к трате топлива. Кроме того, парк беспилотных автомобилей может двигаться близко друг к другу по шоссе, чтобы уменьшить сопротивление и тем самым сэкономить топливо. Беспилотные автомобили также будут стимулировать совместное использование автомобилей, уменьшая количество автомобилей на дорогах и, возможно, делая ненужным частное владение автомобилем.
Повышенная безопасность также позволяет экономить энергию. «Ожидается, что [беспилотные автомобили] будут вызывать меньше аварий, а это означает, что необходимо производить меньше автомобилей, чтобы заменить разбитые», — сказал Сютфельд, что обеспечит еще одну экономию энергии. «Эта технология может помочь [борьбе с изменением климата] во многих отношениях».
Исследование предполагает, что автомобили можно запрограммировать так, чтобы они моделировали моральное поведение человека, предполагающее выбор, решая, какое из множества возможных столкновений будет лучшим вариантом. Ученые поместили людей в иммерсивную виртуальную реальность, чтобы изучить поведение в смоделированных сценариях дорожного движения. Затем они использовали данные для разработки алгоритмов для беспилотных автомобилей, которые могли бы позволить им справляться с потенциально трагическими трудностями на дороге так же, как это сделали бы люди.
Участники «ехали» на машине по типичному пригородному району в туманный день, когда внезапно столкнулись с животным , человеком или неодушевленным предметом, например мусорным баком, и должны были решить, что или кого пощадить. Например, взрослый или ребенок? Человек или животное? Собака или другое животное? В исследовании дети справились лучше, чем взрослые. Собака была самым ценным животным, остальные — коза, олень и кабан.
«Когда речь заходит о людях и животных, большинство людей наверняка согласятся с тем, что благополучие людей должно стоять на первом месте», — сказал Зютфельд. Но «с точки зрения беспилотного автомобиля все вероятностно. Большинство ситуаций не так однозначны, как «должен ли я убить собаку или человека?» Более вероятно: «Должен ли я убить собаку почти наверняка или, в качестве альтернативы, пощадить собаку, но с 5-процентной вероятностью легкого ранения человека?» Придерживаться строгих правил, например всегда принимать решения в пользу человека, многим может показаться неправильным».
В игру вступают и другие переменные. Например, виноват ли человек? Искал ли взрослый автомобили, прежде чем выйти на улицу? Погнался ли ребенок за мячиком на улицу, не задумываясь? Кроме того, сколько людей находится в опасности?
Федеральное министерство транспорта и цифровой инфраструктуры Германии попыталось ответить на эти вопросы в недавнем отчете . Он определил 20 этических принципов для беспилотных автомобилей, некоторые из которых противоречат выбору, сделанному людьми в эксперименте Зютфельда. Например, в отчете министерства говорится, что ребенок, выбежавший на дорогу, более виноват и менее достоин спасения, чем взрослый, стоящий на тротуаре в качестве невмешательства. Более того, он объявляет неприемлемым учитывать возраст потенциальной жертвы.
«Большинство людей — по крайней мере, в Европе и, весьма вероятно, также в культурах Северной Америки — предпочтут ребенка взрослому или пожилому человеку», — сказал Зютфельд. «Мы могли бы обсудить, хотим ли мы, чтобы автомобили вели себя как люди, или хотим ли мы, чтобы они соответствовали категорическим правилам, таким как те, которые содержатся в отчете комитета по этике».
Питер Кениг, соавтор исследования, считает, что их исследование создает больше проблем, чем решает, как это иногда случается в науке. «Теперь, когда мы знаем, как реализовать человеческие этические решения в машинах, мы, как общество, по-прежнему стоим перед двойной дилеммой», — сказал он. «Во-первых, мы должны решить, следует ли включать моральные ценности в принципы поведения машин, а во-вторых, если да, то должны ли машины вести себя так же, как люди?»
Исследование не ставит перед собой задачу ответить на эти вопросы, а лишь демонстрирует, что можно смоделировать принятие этических и моральных решений в беспилотных автомобилях, используя подсказки о том, как будут действовать люди. Авторы пытаются заложить основу для дополнительных исследований и дальнейших дискуссий.
«Это было бы довольно просто внедрить, поскольку технология здесь, безусловно, не является ограничивающим фактором», — сказал Зютфельд. «Вопрос в том, как мы, как общество, хотим, чтобы автомобили справились с такой ситуацией, и как должны быть написаны законы. Что должно быть разрешено, а что нет? Чтобы прийти к обоснованному мнению, безусловно, очень полезно знать, как на самом деле ведут себя люди, когда сталкиваются с таким решением».
Марлен Саймонс пишет для Nexus Media , синдицированной ленты новостей, посвященной климату, энергетике, политике, искусству и культуре.
