Возможность выбирать: в кого будут биться робокары?
Наши взаимоотношения с электронными машинами не всегда удаётся свести к цифрам. Коллизии, возникающие в пограничных областях информационных технологий, часто имеют и нравственный аспект: вспомните проблему человеческого отношения к роботам, феномен апскирта или осложнения, вызываемые лёгкостью копирования информации в цифровом виде. И этим список, конечно, не ограничивается. Теперь уже очевидно, что не сегодня завтра нам предстоит столкнуться с ещё одной дилеммой, где технологическая грань противостоит моральной. В центре её — робоавтомобиль и простой вроде бы вопрос: если столкновение с другими участниками движения неминуемо, но имеется возможность совершить последний манёвр, как должен поступить бортовой компьютер?
via http://www.computerra.ru/99206/robofreedom/
Вообразите следующую дорожную ситуацию. Вы катите по хайвею в новеньком робокаре — и вдруг оказываетесь в безвыходном положении, когда аварии не избежать. Увы, какой бы совершенной ни была электронная и механическая часть, такое случается: желаете вы того или нет, кинетическую энергию придётся гасить в следующие доли секунды. И — надо же такому произойти — у вас (точнее, у вашего робоавто) есть выбор: выкрутить баранку влево и врезаться в сравнительно тяжёлый внедорожник либо выкрутить вправо и ударить относительно лёгкий «компакт». Для простоты предположим, что движутся они в том же направлении, что и мы; наша масса средняя, и оцениваем мы только энергию удара, не задумываясь о пассажирах.
Водители из плоти и крови в подобные ситуации, естественно, тоже попадают, но человек действует здесь интуитивно — и обвинять его, что в последние миллисекунды он поступил так, а не иначе, никому и в голову не приходит: мы физически не успеваем продумать действие. Иное дело компьютер. Он не ограничен несколькими решениями в секунду, не страдает от туннельного зрения в критические моменты, избавлен от страха. Он видит картину во всей полноте и имеет возможность выбирать, куда направить колёса. А значит, будет действовать так, как его запрограммируют конструкторы.
Что ж, последствия столкновения можно предсказать с достаточной точностью. Массы транспортных средств известны, скорости — тоже (когда же «случится» всеобщий V2V, речь пойдёт даже не о приблизительных оценках, а о точных цифрах, плюс дополнительно будет известно, какое ТС оснащено лучшими средствами защиты, и прочее подобное), а физика диктует, что при столкновении с телом большей массы энергия движения будет погашена эффективней. Вывод? Тормозить нужно о внедорожник.
Не спешите указывать на очевидный просчёт. Да, вы совершенно правы: по статистике, наши шансы погибнуть после столкновения с внедорожником в разы выше, чем после столкновения с «компактом». Однако повторю: наш мысленный эксперимент сильно упрощён, это своего рода сферический конь в вакууме, нужный, чтобы проиллюстрировать возникающую принципиально новую проблему. Суть её вот в чём. Если бы мы управляли автомобилем самостоятельно, вероятности подвергнуться удару с нашей стороны для внедорожника и «компакта» были бы (статистически) равны. Иначе говоря, бал правила бы случайность. А вот для робопилота внедорожник оказывается предпочтительной целью. Понравится ли такая «дискриминация» производителям внедорожников? Понравится ли она их покупателям и пассажирам?
Усложнение опыта — путём изменения состава участников движения и добавления в уравнение человеческих жизней — повлияет на стратегию робокара, но не устранит дискриминацию. Скажем, если робопилот беспокоится за жизни своих пассажиров, будет логично бить машину меньшей массы. И, получается, конструкторы робоавто умышленно заложат в свои продукты идею убийства менее защищённых участников движения.
Ещё более неприглядной картинка выходит, если заменить внедорожник и «компакт» мотоциклистами: один пусть будет в шлеме, другой — без него. Бить, естественно, лучше того, который в шлеме — но тогда получается, что само по себе ношение шлема увеличивает риск попасть под колёса!
А представьте, что перед робокаром оказался случайный пешеход. Сбить его и наверняка убить — или тормозить о бордюр и другие автомобили, рискуя жизнью людей в салоне?
Эту головоломку можно крутить и так и эдак, но какой бы стороной мы её ни повернули, в конце концов получим один и тот же вопрос: кто дал конструкторам робоавто право решать, кем и чем пожертвовать? Тему эту поднял на днях в журнале Wired исследователь из США, занятый, в частности, робоэтикой. Но поднималась она и до него, так что к настоящему моменту накопилась хорошая подборка аргументов за и против. Главный контраргумент: исходить нужно не из этических соображений, а только и исключительно из правил дорожного движения.
Логика в этом есть: раз уж автомобиль имеет возможность манёвра, он должен прежде всего соблюсти правила, запрещающие, к примеру, выезд на левую полосу, когда она занята. К сожалению, в ситуациях, подобных рассмотренным выше, ориентироваться на правила будет плохой идеей. Что если, оценив все мгновенные факторы, робопилот решит, что наилучшим с точки зрения минимизации вреда будет вариант, требующий нарушения правил? Разве можно будет конструкторов за это осудить?
Такое рассуждение приводит к пониманию, что действия робоавтомобиля в критических ситуациях, скорее всего, будут диктоваться математикой — а именно решением системы уравнений, с поиском точки минимальных повреждений для техники и людей. Однако это лишь подтверждает ранее сделанный вывод: исход дорожно-транспортного происшествия с участием робокара не будет случайным! Кто-то из его участников неизбежно окажется в систематически менее выгодном положении по сравнению с другими.
И тогда... Мотоциклиста без шлема (из примера выше) можно будет обвинить в провоцировании смерти или увечий мотоциклиста в шлеме (и всё равно безопасней станет ездить без шлемов). Программистов, писавших софт для робокара, который затормозил о «компакт», обвинят в преднамеренном убийстве пассажиров «компакта». Если же робоавтомобили будут предпочитать биться о более тяжёлые и лучше защищённые авто, могут пострадать продажи внедорожников и ультрабезопасных седанов, ибо пропадёт стимул к их развитию.
Всего этого можно избежать, если запретить робопилоту принимать «осознанные» решения перед столкновением. Но в таком случае не будут продаваться уже сами робокары: кто же купит автомобиль, который не ценит жизнь своих пассажиров, не ставит её выше чужих?
via http://www.computerra.ru/99206/robofreedom/
Вообразите следующую дорожную ситуацию. Вы катите по хайвею в новеньком робокаре — и вдруг оказываетесь в безвыходном положении, когда аварии не избежать. Увы, какой бы совершенной ни была электронная и механическая часть, такое случается: желаете вы того или нет, кинетическую энергию придётся гасить в следующие доли секунды. И — надо же такому произойти — у вас (точнее, у вашего робоавто) есть выбор: выкрутить баранку влево и врезаться в сравнительно тяжёлый внедорожник либо выкрутить вправо и ударить относительно лёгкий «компакт». Для простоты предположим, что движутся они в том же направлении, что и мы; наша масса средняя, и оцениваем мы только энергию удара, не задумываясь о пассажирах.
Водители из плоти и крови в подобные ситуации, естественно, тоже попадают, но человек действует здесь интуитивно — и обвинять его, что в последние миллисекунды он поступил так, а не иначе, никому и в голову не приходит: мы физически не успеваем продумать действие. Иное дело компьютер. Он не ограничен несколькими решениями в секунду, не страдает от туннельного зрения в критические моменты, избавлен от страха. Он видит картину во всей полноте и имеет возможность выбирать, куда направить колёса. А значит, будет действовать так, как его запрограммируют конструкторы.
Что ж, последствия столкновения можно предсказать с достаточной точностью. Массы транспортных средств известны, скорости — тоже (когда же «случится» всеобщий V2V, речь пойдёт даже не о приблизительных оценках, а о точных цифрах, плюс дополнительно будет известно, какое ТС оснащено лучшими средствами защиты, и прочее подобное), а физика диктует, что при столкновении с телом большей массы энергия движения будет погашена эффективней. Вывод? Тормозить нужно о внедорожник.
Не спешите указывать на очевидный просчёт. Да, вы совершенно правы: по статистике, наши шансы погибнуть после столкновения с внедорожником в разы выше, чем после столкновения с «компактом». Однако повторю: наш мысленный эксперимент сильно упрощён, это своего рода сферический конь в вакууме, нужный, чтобы проиллюстрировать возникающую принципиально новую проблему. Суть её вот в чём. Если бы мы управляли автомобилем самостоятельно, вероятности подвергнуться удару с нашей стороны для внедорожника и «компакта» были бы (статистически) равны. Иначе говоря, бал правила бы случайность. А вот для робопилота внедорожник оказывается предпочтительной целью. Понравится ли такая «дискриминация» производителям внедорожников? Понравится ли она их покупателям и пассажирам?
Усложнение опыта — путём изменения состава участников движения и добавления в уравнение человеческих жизней — повлияет на стратегию робокара, но не устранит дискриминацию. Скажем, если робопилот беспокоится за жизни своих пассажиров, будет логично бить машину меньшей массы. И, получается, конструкторы робоавто умышленно заложат в свои продукты идею убийства менее защищённых участников движения.
Ещё более неприглядной картинка выходит, если заменить внедорожник и «компакт» мотоциклистами: один пусть будет в шлеме, другой — без него. Бить, естественно, лучше того, который в шлеме — но тогда получается, что само по себе ношение шлема увеличивает риск попасть под колёса!
А представьте, что перед робокаром оказался случайный пешеход. Сбить его и наверняка убить — или тормозить о бордюр и другие автомобили, рискуя жизнью людей в салоне?
Эту головоломку можно крутить и так и эдак, но какой бы стороной мы её ни повернули, в конце концов получим один и тот же вопрос: кто дал конструкторам робоавто право решать, кем и чем пожертвовать? Тему эту поднял на днях в журнале Wired исследователь из США, занятый, в частности, робоэтикой. Но поднималась она и до него, так что к настоящему моменту накопилась хорошая подборка аргументов за и против. Главный контраргумент: исходить нужно не из этических соображений, а только и исключительно из правил дорожного движения.
Логика в этом есть: раз уж автомобиль имеет возможность манёвра, он должен прежде всего соблюсти правила, запрещающие, к примеру, выезд на левую полосу, когда она занята. К сожалению, в ситуациях, подобных рассмотренным выше, ориентироваться на правила будет плохой идеей. Что если, оценив все мгновенные факторы, робопилот решит, что наилучшим с точки зрения минимизации вреда будет вариант, требующий нарушения правил? Разве можно будет конструкторов за это осудить?
Такое рассуждение приводит к пониманию, что действия робоавтомобиля в критических ситуациях, скорее всего, будут диктоваться математикой — а именно решением системы уравнений, с поиском точки минимальных повреждений для техники и людей. Однако это лишь подтверждает ранее сделанный вывод: исход дорожно-транспортного происшествия с участием робокара не будет случайным! Кто-то из его участников неизбежно окажется в систематически менее выгодном положении по сравнению с другими.
И тогда... Мотоциклиста без шлема (из примера выше) можно будет обвинить в провоцировании смерти или увечий мотоциклиста в шлеме (и всё равно безопасней станет ездить без шлемов). Программистов, писавших софт для робокара, который затормозил о «компакт», обвинят в преднамеренном убийстве пассажиров «компакта». Если же робоавтомобили будут предпочитать биться о более тяжёлые и лучше защищённые авто, могут пострадать продажи внедорожников и ультрабезопасных седанов, ибо пропадёт стимул к их развитию.
Всего этого можно избежать, если запретить робопилоту принимать «осознанные» решения перед столкновением. Но в таком случае не будут продаваться уже сами робокары: кто же купит автомобиль, который не ценит жизнь своих пассажиров, не ставит её выше чужих?
Короч, проблема в составлении целевой функции. Во сколько оценить жизнь водителя робокара? А если с ним пассажиры? А если это дети? А кто там с другой стороны? А каковы вероятности, что они погибнут? Одни и ту же ситуацию можно разрешить убив одного и оставив в живых всех остальных или покалечив всех, но оставив их в живых.
А человек не сможет всего взвесить. Не успеет.
2. Человек-программист за компьютером решает, кому умереть в момент аварии?
Мне кажется, что разница не большая. Решает человек.
А инженер заранее выстраивает приоритеты и ценность жизней других участников движения по сравнению с ценностью жизни водителя-робокара.
Инженер же заранее взвешивает и дает оценку жизням.
Например - Выстрел титановых крюков в асфальт для использования их как якоря
Таким образом мы убьем асфальт, но все будут живы.
Сейчас такую схему реализовать нельзя, тк любой идиот будет пользоваться ей когда захочет, а вот если все решения принимает CPU то тут уже можно разрешать такое.
Всю жизнь об этом думаю!!!
- он чего-то не заметил или не верно оценил
- кто-то по соседству совершил указанную выше ошибку
С компом может произойти то же самое. Ну и недостаток вычислительной мощности тоже не исключаю
Даже если ПО сумеет составить нужный маневр за мили секунды, у нее может не остаться времени на их совершение. Взять, к примеру, внезапные фуры. С ними и опытные водители редко справляются.
Мне кажется, что эту систему актуально использовать лишь в городской черте. При этом машине нужна своя зона безопасности - с ней у компа будет пространство для маневра. Плюс появится возможность контролировать поток со всех сторон.
Я не помню точно дорожную ситуацию в видео, но если справа от машины отбойник, а слева выскакивает фура, то водитель машины вряд ли что-то хорошее придумает. А компьютер в такой ситуации как тогда поступит?
Это как таже ESP и ABS. Фичи ограниченного применения. Тем не менее, люди за них доплачивают, потому что в некоторых ситуациях они выручают. Но, конечно же, можно разогнаться так, что ABS не поможет. Точно так же, можно пустить машину в такой занос, что никакая ESP не справится.
Но для корректной работы все равно потребуется много данных, которые необходимо смоделировать в различных ситуациях.
Так что это чисто философский вопрос.
А это чисто философская проблема. чтобы порассуждать :)
А значит, ничто не мешает создать систему, по которой эти роботы будут все взаимодействовать между собой. И в случае аварийной ситуации один робот будет тормозить, а робот перед ним наоборот будет ускоряться. Или еще что-либо в этом роде. Как в этом видео: http://youtu.be/YQIMGV5vtd4?t=40s
Пешеходы и животные все-таки не появляются ниоткуда. Допустим одна за другой едут три робомашины. Первая замечает бегущую собаку и "расшаривает" эту информацию в радиусе скажем 500 метров. Вторая машина проезжает мимо собаки и отмечает, что та начала движение в сторону дороги и тоже пихает эту информацию в сеть с прогнозом траектории собаки. И в итоге третья машина, увидев, что прогнозируемая траектория собаки ведет под колеса, заранее снижает скорость. Ничего сложного :)
Большинство форс-мажоров можно предсказать имея на руках достаточно информации и вычислительной мощности.
Ну и еще раз: нафантазировать можно многое и занятие это интересное, но как оно получится на самом деле - поживем увидим ))
1.10 ПДД, по которому робот просто тормозит в пол http://quto.ru/journal/help/3841/
Потом когда неоднократно произойдут ситуации в которых робот маневрами кого-то мог спасти отойдя от буквы правил - уже начнут менять ПДД. Но только после долгих тестов, дебатов и т.п. И только после изменения ПДД будут подстраивать вслед за ними поведение роботов.
Нет никаких причин полагать, что программисты будут закладывать в свои робокары какие-то примитивные шаблоны поведения такие как бить всегда тех, кто легче или тех, кто тяжелее; в шлеме или без шлема. Робокары будут с достаточной точностью копировать поведение живых людей, но с присущей роботам ювелирной точностью.
Я могу предсказать как будут действовать робокары. В первую очередь они будут заботиться о сохранности собственных пассажиров. Потому как робокары едут не нарушая правил, с этической стороны справедливо причинить больший ущерб виновнику ДТП, чем невиновному. В свою очередь другие автомобили, которым предстоит принять удар на себя, могут отреагировать на опасное приближение робокара и выбрать манёвр уклонения, либо иным образом приготовиться к удару. Это может сделать как человек, так и робот. Если сталкиваются 2 робокара, они могут соединиться по беспроводному протоколу и согласовать свои манёвры заранее, чтобы избежать возможных коллизий. Ну, знаете, когда выехавший на встречку для обгона фуры автомобиль уходит от лобового столкновения на встречную обочину, а встречный автомобиль делает то же самое, и они сталкиваются на обочине.
По умолчанию робокары будут действовать строго по ПДД: 1) При возникновении опасности для движения -- принимать все возможные меры для снижения скорости, т.е. двигаться прямолинейно с отрицательным ускорением на пределе возможностей без потери управления. 2) Если дистанции не хватает для полной остановки перед объектом опасности при прямолинейном движении, и есть возможность безопасного маневрирования в рамках ПДД, то маневрировать. 3) Если возможности безопасного маневрирования в рамках ПДД нет, но есть возможность нарушить ПДД так, что ущерб от его нарушения будет ниже, чем ущерб, который неминуемо возникнет при его соблюдении, то будет выбран вариант, нарушающий ПДД, но ведущий к меньшему ущербу. В этом 3-ем варианте робокар может выезжать на встречку, если она свободна или перестраиваться в соседний ряд, не уступив дорогу попутному ТС, вынудив его изменить направление движения или скорость.
В российском КоАПе есть статья 2.7 "Крайняя необходимость", которая как раз освобождает водителей от ответственности за отхождение от ПДД, если это привело к меньшим потерям:
"Не является административным правонарушением причинение лицом вреда охраняемым законом интересам в состоянии крайней необходимости, то есть для устранения опасности, непосредственно угрожающей личности и правам данного лица или других лиц, а также охраняемым законом интересам общества или государства, если эта опасность не могла быть устранена иными средствами и если причиненный вред является менее значительным, чем предотвращенный вред.". То есть если вы в ситуации неизбежного ДТП при соблюдении правил, пересекли двойную сплошную и выехали на встречку, тем самым избежав ДТП, то вас не могут лишить прав за выезд на встречку, т.к. вы действовали в условиях крайней необходимости. Точно такими же принципами будут руководствоваться и робокары.