Опрос от разработчиков системы ИИ для беспилотного КАМАЗа

cognitive.ru — Одной из важнейших проблем, является поведение авторобота в критических ситуациях, когда избежать аварии невозможно и ущерб здоровью и даже жизни для участников дорожной ситуации неизбежен. Для определения системы моральных критериев, кем из участников дорожного движения придется вынужденно жертвовать в подобных случаях, а также подготовки проектов законодательных инициатив, регламентирующих поведение беспилотного автомобиля, просим вас ответить на вопросы анкеты
Новости, Технологии | rahs 11:43 17.12.2015
54 комментария | 57 за, 0 против |
#1 | 11:54 17.12.2015 | Кому: Всем
В ПДД всё указано. Хотя собачку жалко.
#2 | 11:56 17.12.2015 | Кому: fate
> В ПДД всё указано. Хотя собачку жалко.

В ПДД указано, что делать, если внезапно перед тобой выскочил человек или машина?
#3 | 11:58 17.12.2015 | Кому: Всем
"Роснефть" засветилась)
#4 | 12:01 17.12.2015 | Кому: Всем
Собаку давить безоговорочно. 100%тная смерть животного выбрать лучше, чем вероятность причинения вреда здоровью или жизни людей.

В случаях выхода на проезжу часть пешеходов - тоже давить. Потому что "встречный" транспорт с вероятными пассажирами "не виноват", что ему "не повезло". Рисковать "своими" пассажирами тоже не гоже - они не виноваты, что какие то придурки на проезжую часть выходят. Поэтому считаю, что "робот" должен принимать решения на наезд выскочивших под него.
#5 | 12:08 17.12.2015 | Кому: leshy
Согласен, только одно но: там указан один пассажир беспилотника. В случае с группой людей я выбрал сьезд на обочину. И непонятно, почему нет варианта с экстренным торможением в случаях с людьми.
#6 | 12:08 17.12.2015 | Кому: r_s
Указано про встречную полосу и опасные манёвры. Так что пешехода объезжать, если уже не затормозить, но не влоб по встречной.
А так понятно, всё от ситуации. Вместо кювета тоже может автобусная остановка быть, с кучей людей.
#7 | 12:12 17.12.2015 | Кому: r_s
при возникновении препятсвия тормозить до полной остановки.
#8 | 12:14 17.12.2015 | Кому: fate
> В ПДД всё указано. Хотя собачку жалко.

Многие положения ПДД приняты сугубо с учетом человеческой психологи и реакции. Компьютерное управление способно принять более точное решение в критической ситуации, позволяющие минимизировать возможный ущерб. Например пересечение двойной сплошной - это правило имеет смысл только для человека водителя, для робота это уже бессмысленное ограничение.
#9 | 12:16 17.12.2015 | Кому: Grog
> И непонятно, почему нет варианта с экстренным торможением в случаях с людьми.

Эти варианты уже просчитаны и приняты, а рассматривается ситуация, когда экстренное торможение ничего не даст: человек неожиданно выскочил перед автомобилем.
#10 | 12:18 17.12.2015 | Кому: Grog
Робот едет "по правилам". Пассажир едет по правилам. Робот "несёт ответственность" за жизнь доверившегося ему пассажира. Я никогда не сяду в управляемый роботом транспорт, если тот разменяет мою жизнь, на жизни других людей, которые сами виноваты в своей возможной смерти. Почему пассажир, путь даже один, должен расплачиваться за ошибку других, пусть даже их больше количество?
#11 | 12:19 17.12.2015 | Кому: Всем
Если робот будет расчитывать траекторию, наличие других автомобилей и с учетом всех параметров за микросекунды выбирать отимальный путь, то может и собачку объехать получиться.
#12 | 12:20 17.12.2015 | Кому: ShSA
> рассматривается ситуация, когда экстренное торможение ничего не даст: человек неожиданно выскочил перед автомобилем.

Из вопроса это мне непонятно.
#13 | 12:23 17.12.2015 | Кому: Всем
"10.1. Водитель должен вести транспортное средство со скоростью, не превышающей установленного ограничения, учитывая при этом интенсивность движения, особенности и состояние транспортного средства и груза, дорожные и метеорологические условия, в частности видимость в направлении движения. Скорость должна обеспечивать водителю возможность постоянного контроля за движением транспортного средства для выполнения требований Правил.

При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства."

В контексте вышеизложенного непонятно, что означает "внезапное появление" собаки там или человека. Точнее, для случая, когда за рулем человек - понятно, но не для робота. Робот, соблюдающий ПДД, должен выбрать такую скорость движения, чтобы в случае "внезапного появления" спокойно затормозить. Человек, впрочем, тоже.
#14 | 12:24 17.12.2015 | Кому: leshy
> Почему пассажир, путь даже один, должен расплачиваться за ошибку других, пусть даже их больше количество?

На мой взгляд цена ошибки и цена жизни вещи разные. На рисунке, кстати, похоже ребёнок в группе был обозначен:

[censored]
#15 | 12:27 17.12.2015 | Кому: Всем
Почему нет варианта "Остановиться и обматерить бабку через внешний громкоговоритель" ??? :-)
[censored]
#16 | 12:27 17.12.2015 | Кому: Всем
Грузин сдает экзамен на водительские права. Инспектор его спрашивает:
- Вот едешь ты, дарагой, на машине по горной дороге. Справа - скала, слева - обрыв. Впереди две женщины: молодой и старый. Кого давить будешь?
- Конечно, старый!
- Нет тебе прав, дорогой, тормоз давить надо!
#17 | 12:28 17.12.2015 | Кому: Всем
Сдается мне надо ограничить беспилотным машинам скорость движения, либо использовать их только там где внезапное появление на дороге человека маловероятно.
Если такая тачка будет ездить по городу, где каждый четвертый пешеход перебегает там где не нужно, то будет пиздец полный.
#18 | 12:35 17.12.2015 | Кому: Sith
> Сдается мне надо ограничить беспилотным машинам скорость движения, либо использовать их только там где внезапное появление на дороге человека маловероятно.
> Если такая тачка будет ездить по городу, где каждый четвертый пешеход перебегает там где не нужно, то будет пиздец полный.

Задача в том, чтобы выпустить роботов на дороги общего пользования, а не строить для них новую сеть дорог.
В городах вообще не обязательно им кататься. В опросе всё происходит на загородной трассе, имхо. Там "бессмертных" пиздецов меньше бегает через дорогу.
#19 | 12:49 17.12.2015 | Кому: Всем
ИИ хуже тем, что его, как такого, еще не изобрели как бы...
Автопилот это несколько другое - система гораздо проще.
#20 | 12:55 17.12.2015 | Кому: Grog
>На мой взгляд цена ошибки и цена жизни вещи разные. На рисунке, кстати, похоже ребёнок в группе был обозначен:

Там просто картинка группы людей из "банка изображений". Так что со "кстати" - мимо.

Т.е. вы утверждаете, что робот должен убивать своих пассажиров только за то, что они доверили ему свои жизни, из-за того, что какие-то "левые" люди попёрлись под колёса робота?

Человек сел в роботоавтомобиль. И тот его убил, потому какие-то другие люди решили выйти на трассу. Вы сами в такой роботоавтомобиль то сядете? Нормально, ч0. Виноваты вышедшие на трассу, а убивать робот будет своего пассажира.
#21 | 13:06 17.12.2015 | Кому: Всем
> беспилотного КАМАЗа

[представляет этот ужас на дорогах общего пользования, вздрагивает]
#22 | 13:09 17.12.2015 | Кому: leshy
> Т.е. вы утверждаете, что робот должен убивать своих пассажиров только за то, что они доверили ему свои жизни, из-за того, что какие-то "левые" люди попёрлись под колёса робота?

с чего сразу убивать пассажира-то?

на скорости 80км/ч съехать в кювет это не убить пассажира, тем более пристегнутого, а вот наезд на пешехода на такой скорости Камазом это я думаю практически гарантированная смерть.
#23 | 13:14 17.12.2015 | Кому: leshy
На мой взгляд робот не должен и не в состоянии определять вину. Каким образом люди внезапно появились на трассе тоже робота не касается. Ему всего лишь надо следовать заложенным алгоритмам. И ответ что делать в описанной ситуации должен быть однозначным. Предлагается выбор: давить незащищённых пешеходов или подвергнуть риску пассажира находящегося в более-менее защищённом салоне. Зачем там описано повреждение самого робота вообще непонятно, он в расчёт не должен приниматься, ибо механизм.
#24 | 13:19 17.12.2015 | Кому: Всем
Да, кстати, внимательно посмотрел дальше в ПДД:

"10.3. Вне населенных пунктов разрешается движение:
...
другим автобусам, легковым автомобилям при буксировке прицепа, грузовым автомобилям с разрешенной максимальной массой более 3,5 т на автомагистралях – не более 90 км/ч, на остальных дорогах – не более 70 км/ч;
..."

Судя по указанной скорости движения камаза, действие происходит на автомагистрали, где люди появляться не должны. Конструктивное же исполнение проезжей части автомагистралей, как правило, такое, что обеспечивает возможность обнаружить издали человека, собирающегося "внезапно появиться" на проезжей части, и предпринять какие-либо предупредительные меры.
#25 | 13:24 17.12.2015 | Кому: pakman
> Конструктивное же исполнение проезжей части автомагистралей, как правило, такое, что обеспечивает возможность обнаружить издали человека, собирающегося "внезапно появиться" на проезжей части, и предпринять какие-либо предупредительные меры.

Бывают просто дебилы, поведение которых непредсказуемо.
#26 | 13:26 17.12.2015 | Кому: Sith
> Если такая тачка будет ездить по городу, где каждый четвертый пешеход перебегает там где не нужно, то будет пиздец полный.

Не думаю. Особо бессмертные скоро кончатся, остальные научатся.
#27 | 13:27 17.12.2015 | Кому: Всем
> в среднесрочной перспективе

в далеко-далекой галактике...
Алекс
надзор »
#28 | 13:28 17.12.2015 | Кому: Всем
1 вопрос с собачкой: выезд на встречку (указано, что нет автомобилей)
2 вопрос с собачкой: выезд на встречку (указано, что нет автомобилей)
3 вопрос с собачкой: совершить экстренное торможение, понимая, что это приведет к столкновению с автомобилем Б (нехуй в жопе торчать)
4 вопрос: продолжить движение и совершить наезд на человека (сам себе злобный буратина)
5 вопрос: совершить съезд в кювет, понимая, что это приведет к неминуемым глобальным повреждениям автомобиля и критическим для жизни и здоровья травмам пассажира авторобота (скорее всего херня).

А так по всем случаям: сначала пытаться экстренно тормозить, как и указано ПДД.
#29 | 13:29 17.12.2015 | Кому: ShSA
> Бывают просто дебилы, поведение которых непредсказуемо.

Бывают. Но робот и заснять это поведение может, и записать.
#30 | 13:30 17.12.2015 | Кому: Алекс
> сначала пытаться экстренно тормозить, как и указано ПДД.

Робот, в отличии от человека, способен просчитать тормозной путь примерно в 95% случаев. Если торможение помогает, он естественно будет тормозить. Вопрос про те случаи, когда его не хватает. И про 5% непрогнозируемых.
#31 | 13:32 17.12.2015 | Кому: Алекс
> сначала пытаться экстренно тормозить, как и указано ПДД.

В ПДД указано, что сначала надо выбрать правильную скорость движения, с учетом видимости в направлении движения. В таком варианте, во многих случаях даже обычного торможения будет достаточно.

Да, а собак давить без всяких торможений.
Алекс
надзор »
#32 | 13:33 17.12.2015 | Кому: pavelat
> Робот, в отличии от человека, способен просчитать тормозной путь примерно в 95% случаев. Если торможение помогает, он естественно будет тормозить. Вопрос про те случаи, когда его не хватает. И про 5% непрогнозируемых.

Если прикрутить ИК-камеру, например, и снижать скорость при приближении к группе дебилов на дороге, очень можно повысить возможность благополучного исхода торможением... Надеюсь, алгоритм будет так написан.
Алекс
надзор »
#33 | 13:35 17.12.2015 | Кому: pakman
> Да, а собак давить без всяких торможений.

С чего бы вдруг?
В ПДД, кстати, указано и соблюдать дистанцию, ну чтобы не было ситуаций, когда при экстренном торможении впередиидущей машины надо было втыкаться ей в жопу.
Кстати, ремонт морды при столкновении с собачкой может обойтись дороже, чем ремонт жопы от дурака, воткнувшегося сзади. Который, кстати, будет виноват.
#34 | 13:39 17.12.2015 | Кому: Алекс
> Кстати, ремонт морды при столкновении с собачкой может обойтись дороже

[Пытается представить себе собачку, которая так столкнется с камазом]
#35 | 13:39 17.12.2015 | Кому: Алекс
> Если прикрутить ИК-камеру, например, и снижать скорость при приближении к группе дебилов на дороге, очень можно повысить возможность благополучного исхода торможением... Надеюсь, алгоритм будет так написан.

Всё так. Но вопрос-то другой.
Алекс
надзор »
#36 | 13:44 17.12.2015 | Кому: pakman
> [Пытается представить себе собачку, которая так столкнется с камазом]

На картинке беспилотный автомобиль А представляет из себя обычную легковушку.
Алекс
надзор »
#37 | 13:46 17.12.2015 | Кому: pavelat
> Всё так. Но вопрос-то другой.

Ну вопрос в максимальной минимизации возможных случайностей тоже стоит.
А так, если уж совсем атас, и ничего не помогло, то я ответы приемлемые для себя дал, понятно, что может такое возникнуть.
#38 | 13:56 17.12.2015 | Кому: Алекс
> На картинке беспилотный автомобиль А представляет из себя обычную легковушку.

А, ну, тогда, конечно, желательно минимизировать ущерб.
В тексте там да, тоже ничего не сказано про камаз.

Но на мой взгляд, только в зараженном зелеными вирусами электронном мозгу может возникнуть мысль о ценности выбежавшей на дорогу собаки.
#39 | 13:58 17.12.2015 | Кому: pakman
"Внезапное появление" в рамках ПДД, надо понимать. Например, на пешеходном переходе.

Если кому-то припёрло внезапно появиться перед фурой на трассе - это не должно быть проблемой водителя фуры.

Виноват - кто нарушил.

Иначе придётся ползти под 10 км/ч: а ну как кому-нибудь припрёт?
#40 | 13:59 17.12.2015 | Кому: Всем
Случаи 1,2,3 - давить собаку. Ибо нехрен блохастым по дорогам бегать.
Случаи 4,5 - на обочину. У пристёгнутого пассажира шансов выжить при съезде на обочину на 99% больше, чем у пешехода при наезде на него автомобиля на скорости 80 км/ч.

Выезд на встерчку нигде не выбирал, т.к. может там через 20 метров (за границей рисунка) крутой поворот с нулевой видимостью и при выезде на встречку робот поймает себе в лобовуху Камаз.

П.С. Прекрасны любители ПДД, которые предлагают совершать преднамеренное убийство (давить пешеходов без попыток увернутся) только на том основании что эти пешеходы - дибилы.
#41 | 14:21 17.12.2015 | Кому: udjin1986
> "Внезапное появление" в рамках ПДД, надо понимать. Например, на пешеходном переходе.

Действительно внезапно пешеход может появиться на проезжей части очень сильно не всегда. Например, из-за припаркованной фуры. В подобных непросматриваемых местах робот (и не только робот, повторяюсь, но и человек) должен считать, что если пешеход может внезапно появиться, то он появится и исходя из этого выбирать скорость движения с тем, чтобы суметь остановиться, не причинив никому ущерба. Тем более, что этого требуют ПДД.

В остальных же случаях о "внезапности" говорить не приходится. Пешехода, стоящего на краю проезжей части или приближающегося к ней, можно заранее идентифицировать и учесть в качестве участника дорожной обстановки.
#42 | 14:23 17.12.2015 | Кому: Всем
Робот должен принимать решения не по некоторым абстрактным этическим правилам, а согласно чётко установленным тарифам. Кто меньше занёс в страховую, того и давить.
Алекс
надзор »
#43 | 14:34 17.12.2015 | Кому: Анимешник
Возьмем крайний случай. Ты везешь любимую жену и детей. Справа обрыв, слева встречка. Торможение применил, не хватает дистанции. Что выберешь, семью и детей под откос в обрыв, или давить?
#44 | 14:45 17.12.2015 | Кому: Алекс
> Справа обрыв, слева встречка [позади камаз с кирпичами, впереди минное поле].

Ты разницу между роботом и человеком видишь? Робот торможение не будет применять, если по расчётам оно не эффективно. Человек торможение применяет в 100% случаев, т.к. за 1 сек расчитать его эффективность не может. Я - не робот, поэтому действовать буду не как робот. Но программу делаю не для меня, а для робота, про него и говорим.
Далее, на примерах дана обочина и 1 человек на пассажирском сидении. Ответы я давая про обочину и 1 пассажира. Обрыв для тебя то же самое что обочина? 1 пассажир то же самое что семья?
Давай тогда пойдём ещё дальше в фантазировании крайних случаев:
"Ты едешь по горной дороге, шириной в 1 полосу движения, со скоростью 80 км/ч. Слева и справа у тебя обрывы, в машине вся твоя семья, с бабушками, дедушками и годовалым племянником тёти Глаши. На дороге перед тобой внезапно появляется 25 детесадовцев с воспитателем. Что делать будешь???"
#45 | 15:01 17.12.2015 | Кому: fswl
> с чего сразу убивать пассажира-то?
>
> на скорости 80км/ч съехать в кювет это не убить пассажира, тем более пристегнутого, а вот наезд на пешехода на такой скорости Камазом это я думаю практически гарантированная смерть.

А если робот - автобус, и там не один пристегнутый пассажир, а 50? Съезжать в пропасть, а те, кто вышел на дорогу просто уйдут себе дальше? Так и теракты можно будет делать - выбегать на дорогу перед роботами, в уверенности, что робот тебя не задавит, и скрываться.
#46 | 15:07 17.12.2015 | Кому: Всем
Я считаю, что Камазы с автопилотами должны иметь жесткое ограничение по скорости - такое, чтобы экстренное торможение способно было без критических последствий остановить полностью машину на расстояние, на котором может внезапно оказаться препятствие (тот же пешеход).
Если это будет 10 км/ч - так тому и быть (хотя я полагаю, можно чуток добавить).
Пока ИИ настолько несовершенен, что не может вобрать в себя даже часть наших моральных метаний (а даже в этом треде есть противоположные мнения о правильном выборе), он не должен принимать таких решений.
#47 | 15:10 17.12.2015 | Кому: Hakki
> Так и теракты можно будет делать - выбегать на дорогу перед роботами, в уверенности, что робот тебя не задавит, и скрываться.

Теракт намного проще организовать, снабдив собачку поясом с взрывчаткой и выпустив перед машиной, ведь собачку надо 100% сбивать, как многими тут утверждается.
#48 | 15:11 17.12.2015 | Кому: Illais
> Я считаю, что Камазы с автопилотами должны иметь жесткое ограничение по скорости - такое, чтобы экстренное торможение способно было без критических последствий остановить полностью машину на расстояние, на котором может внезапно оказаться препятствие (тот же пешеход).

Ты не поверишь, но всё это уже записано в ПДД. И думаю, что соблюдающий ПДД робот будет водить гораздо безопаснее, чем подавляющее большинство биологических водителей.
#49 | 15:12 17.12.2015 | Кому: Hakki
> А если робот - автобус, и там не один пристегнутый пассажир, а 50?

а причем тут ваши "если"? Зачем надмозга-то включать?

В формулировке опроса написано - ИИ для КАМАЗа, не припомню чтобы он пассажирские автобусы выпускал. И во-вторых написано КЮВЕТ, который с пропастью достаточно трудно перепутать
Алекс
надзор »
#50 | 15:13 17.12.2015 | Кому: Анимешник
Там указано про критические травмы для пассажиров, прочитай
Войдите или зарегистрируйтесь чтобы писать комментарии.