Первое уголовное дело из-за аварии с автопилотом

latimes.com — Прокуратура Калифорнии обвинила 27-летнего водителя Tesla Model S в непредумышленном убийстве двух человек в 2019 году. Авария произошла, когда автомобиль на автопилоте выехал на перекресток на красный свет и врезался в Honda Civic. #A_robot_may_not_harm_humanity
Новости, Компьютеры | Сeб.Перейро 21:32 19.01.2022
15 комментариев | 41 за, 1 против |
#1 | 21:32 19.01.2022 | Кому: Всем
Сам обвиняемый свою вину отрицает. Родственники погибших, в свою очередь, подали в суд не только на водителя, но и на Tesla — по их словам, компания «продает неисправные автомобили, которые могут внезапно ускоряться и в которых отсутствует эффективная система автоматического экстренного торможения».

≈===============
Три зако́на роботехники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942).

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
<...>
#2 | 21:35 19.01.2022 | Кому: Всем
29 декабря 2019 года Honda Civic подъехала к пересечению бульвара Артезия и Вермонт-авеню в Гардене. Было сразу после полуночи. Светофор был зеленым.

Когда автомобиль проезжал перекресток, Tesla Model S 2016 года выпуска на автопилоте выехала с автострады, проехала на красный свет и врезалась в Civic. Водитель Civic, Жильберто Алькасар Лопес, и его пассажирка, Мария Гуадалупе Ньевес-Лопес, были убиты мгновенно.

Почти два года спустя прокуроры округа Лос-Анджелес предъявили два обвинения в непредумышленном убийстве водителя Tesla, 27-летнего Кевина Джорджа Азиза Риада. Эксперты считают, что это первое уголовное преследование в Соединенных Штатах водителя, обвиняемого в причинении смертельного исхода при использовании частично автоматизированной системы помощи водителю.

Таким образом, этот случай представляет собой важную веху во все более запутанном мире автоматизированного вождения


“Это тревожный сигнал для водителей", - сказал Ален Корнхаузер, директор программы самостоятельного вождения автомобилей Принстонского университета. “Это, безусловно, заставляет нас внезапно перестать быть настолько самодовольными в использовании этих вещей, что мы забываем о том факте, что именно мы несем ответственность — не только за нашу собственную безопасность, но и за безопасность других”.

В то время как автоматизированные возможности предназначены для оказания помощи водителям, системы с такими названиями, как Автопилот, Суперкруиз и Пропилот, могут ввести потребителей в заблуждение, заставив их поверить, что автомобили способны на гораздо большее, чем они есть на самом деле, сказал Корнхаузер.

Тем не менее, даже когда полностью автономные автомобили тестируются на дорогах общего пользования, автопроизводители, технологические компании, организации, устанавливающие технические стандарты, регулирующие органы и законодатели не смогли разъяснить общественности — а в некоторых случаях и друг другу — в чем заключаются технические различия или кто несет юридическую ответственность, когда люди получают травмы или погибают.

Риад, водитель лимузина, не признал себя виновным и освобожден под залог, пока дело находится на рассмотрении. Его адвокат не ответил на запрос о комментариях во вторник.

Если Риада признают виновным, “это вызовет дрожь у каждого, у кого есть одна из этих машин, и он поймет: ‘Эй, я тот, кто несет ответственность”, - сказал Корнхаузер. “Точно так же, как когда я водил ”Шевроле" 55—го года - я отвечаю за то, чтобы он оставался между белыми линиями".

После смертельного столкновения в Гардене Национальное управление безопасности дорожного движения начало расследование аварии, чтобы определить, что пошло не так. Хотя в судебных документах, поданных в Лос-Анджелесе, Автопилот не упоминается по имени, ожидается, что агентство вскоре опубликует результаты, свидетельствующие о том, что технология была задействована.

Парад подобных исследований в последующие годы продолжал ставить под сомнение безопасность и надежность функций автоматического вождения, включая более масштабное расследование 765 000 автомобилей Tesla, построенных в период с 2014 по 2021 год.

В прошлом году NHTSA приказало десяткам автомобильных и технологических компаний сообщать данные об авариях на автоматизированных транспортных средствах, чтобы лучше контролировать их безопасность.

Сегодня ни один коммерчески доступный автомобиль не может полностью самоуправляться.

“Независимо от того, включена ли автоматизированная система вождения [уровня 2] или нет, каждое доступное транспортное средство требует, чтобы водитель-человек всегда контролировал управление, и все законы штата возлагают ответственность на водителя-человека за эксплуатацию своих транспортных средств”, - сказал представитель NHTSA. “Некоторые расширенные функции помощи при вождении могут повысить безопасность, помогая водителям избегать аварий и снижать тяжесть возникающих аварий, но, как и в случае со всеми технологиями и оборудованием на автомобилях, водители должны использовать их правильно и ответственно”.

Исход этого дела может создать прецедент для отрасли, бездействующей на стыке передовых технологий и элементарной человеческой ошибки.
Брайант Уокер Смит, профессор Университета Южной Каролины и эксперт в области законов, связанных с автоматизированными транспортными средствами, сказал, что, хотя компании обычно сталкиваются с гражданской ответственностью, они “редко сталкиваются с уголовной ответственностью за проектные решения”.

Тем не менее, Смит не согласен с утверждением, что водители — и только водители — несут ответственность на уровне автоматизации 2 или ниже. Например, если бы подушка безопасности ухоженного автомобиля внезапно взорвалась и привела к аварии, водитель не был бы виновен, сказал он.

“И наоборот, если автопроизводитель продаст опасный автомобиль, он может понести гражданскую ответственность. И, по крайней мере теоретически, им может грозить уголовная ответственность. Это, однако, редкая перспектива”, - сказал он, отметив, что, когда штат Индиана привлек Ford к ответственности за аварию с участием его модели Pinto более четырех десятилетий назад, компания была оправдана.

С представителем Tesla, которая распустила свой отдел по связям со СМИ, связаться для комментариев не удалось.

Многим экспертам по правовым вопросам ясно, что ответственность за системы 2—го уровня, такие как Автопилот, лежит непосредственно на водителе, а не на компаниях, которые продают технологии, которые могут заставить потребителей поверить, что функции более эффективны, чем они есть на самом деле.

Но Калифорнийский департамент автотранспортных средств борется с путаницей в отношении функции полного самостоятельного вождения Tesla, передовой версии автопилота, предназначенной для того, чтобы в конечном итоге сделать именно то, что говорится в названии: обеспечить полную автономию до такой степени, что для вождения вообще не требуется человек.

Но в то время как другие разработчики автономных автомобилей, такие как Waymo и Argo, используют обученных водителей-испытателей, которые следуют строгим правилам безопасности, Tesla проводит тестирование с использованием собственных клиентов, взимая с владельцев автомобилей 12 000 долларов за эту привилегию.
И в то время как другие автономные технологические компании обязаны сообщать о сбоях и системных сбоях в Департамент транспортных средств в соответствии с его системой разрешений на испытания, агентство позволяет Tesla отказаться от этих правил.

После давления со стороны законодателей штата, вызванного страшными видеороликами на YouTube и Twitter, указывающими на низкую производительность полного самостоятельного вождения, DMV в начале этого месяца заявила, что “пересматривает” свою позицию в отношении технологии Tesla.

Агентство также проводит проверку, чтобы определить, нарушает ли Tesla другое регулирование DMV с помощью своих полностью автономных систем, которое запрещает компаниям продавать свои автомобили как автономные, когда они не являются таковыми.
Этот обзор начался восемь месяцев назад; DMV описал его в электронном письме в “Таймс” как "продолжающийся".

На фоне неразберихи с автоматизированными автомобилями менее туманны реальные трагедии, возникающие в результате несчастных случаев.

В 2020 году власти Аризоны предъявили обвинения в убийстве по неосторожности водителю внедорожника Uber, который сбил и убил пешехода во время испытания полностью автономных возможностей. Считается, что жертва этого столкновения, Элейн Херцберг, стала первой жертвой самоуправляемого транспортного средства.
В Лос-Анджелесе семьи Лопес и Ньевес-Лопес подали судебные иски против Riad и Tesla.
Арсен Сарапинян, адвокат семьи Ньевес, заявил во вторник, что они внимательно следят за уголовным делом, ожидая результатов отчета о расследовании NHTSA и надеясь на справедливость.

Но Сарапинян сказал: “ни незавершенное уголовное дело, ни гражданский иск не вернут г-жу Ньевес или г-на Лопеса”.

Дополнительно кому интересно может быть по линзами ниже
[censored]
#3 | 21:42 19.01.2022 | Кому: Всем
Непонятно об чём вообще речь. В Тесле нет никакого полноценного автопилота с искусственным интеллектом. Тем более его там не было 6 лет назад.
#4 | 21:57 19.01.2022 | Кому: максимум 20 символов
> В Тесле нет никакого полноценного автопилота с искусственным интеллектом. Тем более его там не было 6 лет назад.

Tesla Model S в непредумышленном убийстве двух человек в 2019 году.
#5 | 21:59 19.01.2022 | Кому: Сeб.Перейро
> в Лос-Анджелесе семьи Лопес и Ньевес-Лопес подали судебные иски против Riad и Tesla.
Надо было еще и к Хонде претензии заявить.
> Водитель Civic, Жильберто Алькасар Лопес, и его пассажирка, Мария Гуадалупе Ньевес-Лопес, были убиты мгновенно
Они свои машинки что, из картона делают?
#6 | 23:07 19.01.2022 | Кому: Всем
[censored]
Балаган лимитед
Олександр Паляниця »
#7 | 23:48 19.01.2022 | Кому: Всем
У Теслы, как и у всех остальных, нет никакого автопилота, есть множество электронных помощников.
За поведение автомобиля по-прежнему отвечает водитель. Если причиной аварии была некая неисправность, это будет несложно установить. В Тесле есть практически бортовой самописец. Да, там есть система слежения за разметкой, знаками, светофором (проехал на красный свет) и т.п., но штука в том, что она отключаема по желанию водителя.
Думаю, суд разберется.
Ставлю на то, что водитель - дятел, и он виновен.
При любых проблемах с техникой в 95% случаев виноват тупой пользователь.
VSChe
надзор »
#8 | 03:19 20.01.2022 | Кому: Балаган лимитед
Тутты несколько не прав. Производитель виноват в том, как он продаёт свое авто. А там в рекламе прям орут - он ездит сам ого-го. Вы можете расслабиться и наслаждаться поездкой и пр. Да и общий информационный шум подчёркивает автопилотищм Теслы. Именно вот это введение в заблуждение и рисуют автопроизводителю. А водила дятел свой срок получит конечно.
#9 | 03:58 20.01.2022 | Кому: VSChe
> автопилотищм Теслы. Именно вот это введение в заблуждение и рисуют автопроизводителю.

Приходит новый русский в автосалон:
— Так! Тачку мне крутую!
Подходит продавец:
— Вот, рекомендую! Форд Фокус
— Ух ты! А в чем фокус?
— Садитесь-покажу.
Выезжают на улицу. Продавец разгоняет до двухсот:
— Видите тот столб? Закройте глаза. Сейчас мы проедем сквозь него!
Новый русский закрывает глаза, продавец объезжает столб:
— Все, можете открыть глаза.
— Круто!!Беру!
НР Приезжает к братве. Все залезают в машину, едут.
НР выжимает 200:
— Это машина-Фокус! Видите вон ту стенку? Всем закрыть глаза! Щас мы насквозь проскочим!
Все закрывают глаза, машина вламывается в стену. НР выползает еле живой:
— Козлы, вашу мать!!! Кто глаза открыл?
#10 | 04:18 20.01.2022 | Кому: Всем
По идее полиция там арестовывает водителей, которые не держат руки на руле на теслах. Если полиция трактует это как нарушение ПДД, почему суд еще думает кто виноват в смерти?
duke
дурачок »
#11 | 05:16 20.01.2022 | Кому: Сeб.Перейро
> Три зако́на роботехники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942).
>
> 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Это фантастика!
#12 | 06:10 20.01.2022 | Кому: duke
> Это фантастика!

Неоправдавшиеся ожидания докомпьютерной эпохи, да.
Алекс
надзор »
#13 | 08:48 20.01.2022 | Кому: VSChe
Тут он прав. Тесла требует наличия рук на руле во время вождения. И сообщает что надо всегда быть готовым к купированию действий автопилота. Там даже система есть, контроля рук. Правда долбоебы придумали класть бутылку на руль, чтобы система думала, что руки на руле. Виноват ли в этом автопилот Тесла, до сих пор не вышедшая из статуса бета? Сильно сомневаюсь.
#14 | 09:57 20.01.2022 | Кому: Алекс
Хочешь сказать, что Тесла не смогла придумать как отличить руки (или другие части тела водителя) на руле от простого груза? Они же сооовсем не в курсе отличий. Серьёзно? Ни датчиков тепла, ни электрических, вот вообще никаких идей, кроме тупого, в лоб, наличия некоего динамометрического датчика.
#15 | 11:03 20.01.2022 | Кому: Сeб.Перейро
> > Это фантастика!
>
> Неоправдавшиеся ожидания докомпьютерной эпохи, да.

Самая что ни на есть оправдавшиеся. Рассказы Азимова, в которых упоминаются три закона,они в основном про то, как роботы их обходят или понимают так, как человек не планировал. Прямо как современное программирование!
Войдите или зарегистрируйтесь чтобы писать комментарии.