Первое уголовное дело из-за аварии с автопилотом

latimes.com — Прокуратура Калифорнии обвинила 27-летнего водителя Tesla Model S в непредумышленном убийстве двух человек в 2019 году. Авария произошла, когда автомобиль на автопилоте выехал на перекресток на красный свет и врезался в Honda Civic. #A_robot_may_not_harm_humanity
Новости, Компьютеры | Сeб.Перейро 21:32 19.01.2022
3 комментария | 41 за, 1 против |
#1 | 21:32 19.01.2022 | Кому: Всем
Сам обвиняемый свою вину отрицает. Родственники погибших, в свою очередь, подали в суд не только на водителя, но и на Tesla — по их словам, компания «продает неисправные автомобили, которые могут внезапно ускоряться и в которых отсутствует эффективная система автоматического экстренного торможения».

≈===============
Три зако́на роботехники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942).

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
<...>
#2 | 21:35 19.01.2022 | Кому: Всем
29 декабря 2019 года Honda Civic подъехала к пересечению бульвара Артезия и Вермонт-авеню в Гардене. Было сразу после полуночи. Светофор был зеленым.

Когда автомобиль проезжал перекресток, Tesla Model S 2016 года выпуска на автопилоте выехала с автострады, проехала на красный свет и врезалась в Civic. Водитель Civic, Жильберто Алькасар Лопес, и его пассажирка, Мария Гуадалупе Ньевес-Лопес, были убиты мгновенно.

Почти два года спустя прокуроры округа Лос-Анджелес предъявили два обвинения в непредумышленном убийстве водителя Tesla, 27-летнего Кевина Джорджа Азиза Риада. Эксперты считают, что это первое уголовное преследование в Соединенных Штатах водителя, обвиняемого в причинении смертельного исхода при использовании частично автоматизированной системы помощи водителю.

Таким образом, этот случай представляет собой важную веху во все более запутанном мире автоматизированного вождения


“Это тревожный сигнал для водителей", - сказал Ален Корнхаузер, директор программы самостоятельного вождения автомобилей Принстонского университета. “Это, безусловно, заставляет нас внезапно перестать быть настолько самодовольными в использовании этих вещей, что мы забываем о том факте, что именно мы несем ответственность — не только за нашу собственную безопасность, но и за безопасность других”.

В то время как автоматизированные возможности предназначены для оказания помощи водителям, системы с такими названиями, как Автопилот, Суперкруиз и Пропилот, могут ввести потребителей в заблуждение, заставив их поверить, что автомобили способны на гораздо большее, чем они есть на самом деле, сказал Корнхаузер.

Тем не менее, даже когда полностью автономные автомобили тестируются на дорогах общего пользования, автопроизводители, технологические компании, организации, устанавливающие технические стандарты, регулирующие органы и законодатели не смогли разъяснить общественности — а в некоторых случаях и друг другу — в чем заключаются технические различия или кто несет юридическую ответственность, когда люди получают травмы или погибают.

Риад, водитель лимузина, не признал себя виновным и освобожден под залог, пока дело находится на рассмотрении. Его адвокат не ответил на запрос о комментариях во вторник.

Если Риада признают виновным, “это вызовет дрожь у каждого, у кого есть одна из этих машин, и он поймет: ‘Эй, я тот, кто несет ответственность”, - сказал Корнхаузер. “Точно так же, как когда я водил ”Шевроле" 55—го года - я отвечаю за то, чтобы он оставался между белыми линиями".

После смертельного столкновения в Гардене Национальное управление безопасности дорожного движения начало расследование аварии, чтобы определить, что пошло не так. Хотя в судебных документах, поданных в Лос-Анджелесе, Автопилот не упоминается по имени, ожидается, что агентство вскоре опубликует результаты, свидетельствующие о том, что технология была задействована.

Парад подобных исследований в последующие годы продолжал ставить под сомнение безопасность и надежность функций автоматического вождения, включая более масштабное расследование 765 000 автомобилей Tesla, построенных в период с 2014 по 2021 год.

В прошлом году NHTSA приказало десяткам автомобильных и технологических компаний сообщать данные об авариях на автоматизированных транспортных средствах, чтобы лучше контролировать их безопасность.

Сегодня ни один коммерчески доступный автомобиль не может полностью самоуправляться.

“Независимо от того, включена ли автоматизированная система вождения [уровня 2] или нет, каждое доступное транспортное средство требует, чтобы водитель-человек всегда контролировал управление, и все законы штата возлагают ответственность на водителя-человека за эксплуатацию своих транспортных средств”, - сказал представитель NHTSA. “Некоторые расширенные функции помощи при вождении могут повысить безопасность, помогая водителям избегать аварий и снижать тяжесть возникающих аварий, но, как и в случае со всеми технологиями и оборудованием на автомобилях, водители должны использовать их правильно и ответственно”.

Исход этого дела может создать прецедент для отрасли, бездействующей на стыке передовых технологий и элементарной человеческой ошибки.
Брайант Уокер Смит, профессор Университета Южной Каролины и эксперт в области законов, связанных с автоматизированными транспортными средствами, сказал, что, хотя компании обычно сталкиваются с гражданской ответственностью, они “редко сталкиваются с уголовной ответственностью за проектные решения”.

Тем не менее, Смит не согласен с утверждением, что водители — и только водители — несут ответственность на уровне автоматизации 2 или ниже. Например, если бы подушка безопасности ухоженного автомобиля внезапно взорвалась и привела к аварии, водитель не был бы виновен, сказал он.

“И наоборот, если автопроизводитель продаст опасный автомобиль, он может понести гражданскую ответственность. И, по крайней мере теоретически, им может грозить уголовная ответственность. Это, однако, редкая перспектива”, - сказал он, отметив, что, когда штат Индиана привлек Ford к ответственности за аварию с участием его модели Pinto более четырех десятилетий назад, компания была оправдана.

С представителем Tesla, которая распустила свой отдел по связям со СМИ, связаться для комментариев не удалось.

Многим экспертам по правовым вопросам ясно, что ответственность за системы 2—го уровня, такие как Автопилот, лежит непосредственно на водителе, а не на компаниях, которые продают технологии, которые могут заставить потребителей поверить, что функции более эффективны, чем они есть на самом деле.

Но Калифорнийский департамент автотранспортных средств борется с путаницей в отношении функции полного самостоятельного вождения Tesla, передовой версии автопилота, предназначенной для того, чтобы в конечном итоге сделать именно то, что говорится в названии: обеспечить полную автономию до такой степени, что для вождения вообще не требуется человек.

Но в то время как другие разработчики автономных автомобилей, такие как Waymo и Argo, используют обученных водителей-испытателей, которые следуют строгим правилам безопасности, Tesla проводит тестирование с использованием собственных клиентов, взимая с владельцев автомобилей 12 000 долларов за эту привилегию.
И в то время как другие автономные технологические компании обязаны сообщать о сбоях и системных сбоях в Департамент транспортных средств в соответствии с его системой разрешений на испытания, агентство позволяет Tesla отказаться от этих правил.

После давления со стороны законодателей штата, вызванного страшными видеороликами на YouTube и Twitter, указывающими на низкую производительность полного самостоятельного вождения, DMV в начале этого месяца заявила, что “пересматривает” свою позицию в отношении технологии Tesla.

Агентство также проводит проверку, чтобы определить, нарушает ли Tesla другое регулирование DMV с помощью своих полностью автономных систем, которое запрещает компаниям продавать свои автомобили как автономные, когда они не являются таковыми.
Этот обзор начался восемь месяцев назад; DMV описал его в электронном письме в “Таймс” как "продолжающийся".

На фоне неразберихи с автоматизированными автомобилями менее туманны реальные трагедии, возникающие в результате несчастных случаев.

В 2020 году власти Аризоны предъявили обвинения в убийстве по неосторожности водителю внедорожника Uber, который сбил и убил пешехода во время испытания полностью автономных возможностей. Считается, что жертва этого столкновения, Элейн Херцберг, стала первой жертвой самоуправляемого транспортного средства.
В Лос-Анджелесе семьи Лопес и Ньевес-Лопес подали судебные иски против Riad и Tesla.
Арсен Сарапинян, адвокат семьи Ньевес, заявил во вторник, что они внимательно следят за уголовным делом, ожидая результатов отчета о расследовании NHTSA и надеясь на справедливость.

Но Сарапинян сказал: “ни незавершенное уголовное дело, ни гражданский иск не вернут г-жу Ньевес или г-на Лопеса”.

Дополнительно кому интересно может быть по линзами ниже
[censored]
#3 | 06:10 20.01.2022 | Кому: duke
> Это фантастика!

Неоправдавшиеся ожидания докомпьютерной эпохи, да.
Войдите или зарегистрируйтесь чтобы писать комментарии.