Дилемма автопилота. Этическая сторона вопроса "Кто приоритет?"

[gisekit915]

Представьте себе будущее, где на дорогах уже встречаются автомобили с автопилотом 5-ого уровня. Это там где человек вообще никак не участвует, а ездит сама машина. Так вот её нужно обучить как поступать в тех или иный ситуациях. Иногда ситуации бывают безвыходные. Когда нужно решить или/или. Так вот сама суть дилемма:

Через пару секунд будет неизбежное ДТП. С летальным исходом. Этого никак не избежать. Автопилоту нужно выбрать кто останется жив, а кто погибнет. Либо водитель, либо прохожий.

Как производители будут решать эту дилемму? Ведь для ИИ нужно дать инструкцию. Допустим все производители будут делать приоритет жизни своего клиента (то есть водителя, купившего машину). Тем более в машине могут находиться ещё пассажиры.
Но если тот прохожий это беременная женщина, к примеру?
Как предусмотреть все нюансы? Как разработать систему ценностей, которую сомжет использовать ИИ автопилота, если мы люди между собой можем не соглашаться в таких вопросах? Будет интересно почитать ваши развернутые размышления