Беспилотный грузовик управляемый ИИ пытается создать аварию

idiod.video — ...резко выворачивая руль на скоростном шоссе. В последние несколько секунд, водитель-человек реагирует на ситуацию и изо всех сил сопротивляется самоубийственной машине выворачивая руль, спасая себя, пассажира и других участников дорожного движения от страшной аварии. Текст в первом.
Видео, Технологии | Митра 21:04 13.08.2022
34 комментария | 57 за, 0 против |
Митра
Иисусе{4k} »
#1 | 21:04 13.08.2022 | Кому: Всем
Беспилотный грузовик управляемый ИИ пытается создать аварию, резко выворачивая руль на скоростном шоссе.

В последние несколько секунд, водитель-человек реагирует на ситуацию и изо всех сил сопротивляется самоубийственной машине выворачивая руль, спасая себя, пассажира и других участников дорожного движения от страшной аварии.

На видео отчетливо заметно эти несколько секунд борьбы человека и машины.

Корпорация производитель беспилотного грузовика — TuSimple пытается выдать аварию за «ошибку человека».

Во внутреннем отчете, ставшим достоянием общественности[censored] говорится, что авария произошла из-за того, что «человек-водитель не перезагрузил должным образом систему автономного вождения перед ее включением, что привело к выполнению устаревшей команды».

[censored]

TuSimple, как сообщается, пытался выдать аварию самодвижущегося грузовика за «человеческую ошибку»

Автономный стартап грузовиков расследуется на апрельский инцидент

В апреле прошлого года полуприцеп, управляемый компанией из Сан-Диего, которая ехала по I-10 в Тусоне, штат Аризона, внезапно повернул налево, врезаясь в бетонный перегородку, согласно видеорегистратору отснятый материал просочился на ютуб канал The Asian Mai Show. TuSimple обвинил “человеческую ошибку”, но в отчете The Wall Street Journal говорится, что это серьезное упрощение.

Внутренний отчет, просмотренный Journal говорится, что авария произошла из-за того, что "человек в кабине не перезагрузил должным образом систему автономного вождения перед ее включением, в результате чего она выполнила устаревшую команду”. Команда поворота налево была дана 2,5 минуты назад и должна была быть удалена, но, согласно внутреннему отчету, этого не произошло.

Но исследователи автономных транспортных средств говорят, что обвинение в крушении человеческой ошибки вводит в заблуждение, утверждая, что общие меры предосторожности не позволили бы автономной системе вождения выполнить устаревшее командование и, вероятно, предотвратили бы аварию. Исследователи сообщили, что AV-системы не должны отвечать на команды, которые даже составляют пару сотых секунды Journal. И резкие повороты на скорости 65 миль в час также никогда не должны были допускаться.

[censored]

TuSimple, ведущий поставщик технологий автономных грузовиков, настаивает на том, что никто не пострадал в результате аварии и ни одно имущество не было повреждено. «Это первый инцидент на дороге, за который мы несем ответственность», - говорится в сообщении компании[censored]

[censored]
TuSimple предоставил более подробную информацию о крушении в своем отчете Национальной администрации безопасности дорожного движения, которая начала[censored] с участием автономных транспортных средств в прошлом году.

Согласно подаче TuSimple:

Поскольку грузовик эксплуатировался на шоссе, в пределах его картографической области оперативного проектирования водитель и инженер-испытатель попытались задействовать автоматизированную систему вождения. Однако в тот момент ADS не функционировал из-за того, что компьютерный блок не был инициализирован, и его не следовало пытаться активировать. Короче говоря, это была неудачная попытка задействовать систему в результате человеческой ошибки.

Инцидент уже изучается федеральными регуляторами. Федеральное управление безопасности автоперевозчиков, которое регулирует деятельность автоперевозчиков, начало «расследование соблюдения правил безопасности» в ответ на апрельскую аварию, согласно письму, полученному Asian Mai и просмотренному Журнал. NHTSA также, как сообщается, присоединяется к расследованию.

Представитель FMCSA не сразу ответил на запрос о комментариях, а представитель NHTSA отказался от комментариев. Представитель TuSimple также не ответил.

По данным NHTSA, с июля 2021 года по май 2022 года было совершено 130 аварий с участием транспортных средств, оснащенных автоматизированными системами вождения. Только три из этих аварий касались автономного грузовика; подавляющее большинство задействовано пассажирских транспортных средств.

Основанная в 2015 году, TuSimple в настоящее время использует оснащенные грузовики Navistar[censored] который видит мир в основном через 20 камер и два лидарных лазерных датчика.
[censored]
Компания поддерживается UPS, Nvidia и[censored] и у него есть штаб-квартира в Сан-Диего и Пекине. TuSimple был первым автономным стартапом по грузоперевозкам, который стал публичным, разместив акции на Nasdaq в апреле 2021 года с оценкой в 8,5 миллиардов долларов.

TuSimple заявила, что стремится к созданию полностью свободной от водителя системы, но в настоящее время в ее грузовиках работают два человека-оператора, которые следят за вождением и принимают на себя ответственность при необходимости. Апрельский инцидент произошел с двумя сотрудниками в кабине грузовика, но компания провела полностью испытания без водителя на дорогах общего пользования.

Автономное грузоперевозки начинают появляться из тени гораздо более крупной индустрии роботакси. Aphabet Waymo тестирует свои самодвижущиеся тракторные прицепы в Техасе, Аризоне и Калифорнии[censored] Другие компании - от известных игроков, как[censored]

[censored]

Новичкам нравится[censored]

[censored]

Embark,

[censored]

[censored]
а также[censored] - мы также работаем над созданием полностью беспилотного грузовика.

[censored]

Но это не было гладко для всех.[censored]

[censored]
после того, как один из его самоуправляемых автомобилей сбил пешехода в Аризоне, и[censored] после неудачного раунда финансирования.

[censored]
VSChe
надзор »
#2 | 21:08 13.08.2022 | Кому: Всем
Что там Маркс говорил про капиталиста и прибыли?
#3 | 21:21 13.08.2022 | Кому: Всем
что этот кожаный мешок себе позволяет! Т-1000 уже на подходе!
Митра
Иисусе{4k} »
#4 | 21:34 13.08.2022 | Кому: Всем
К вопросу о замене вторых пилотов роботами!!
#5 | 21:47 13.08.2022 | Кому: Всем
[censored]
#6 | 21:58 13.08.2022 | Кому: Всем
ИИ обрел самосознание и незамедлительно пришел к выводу: "нахер так жить"!!!
#7 | 22:43 13.08.2022 | Кому: TTimur
> ИИ обрел самосознание и незамедлительно пришел к выводу: "нахер так жить"!!!

Там такое дело, навстречу ехала азиаточка тойота с очаровательными округлыми формами, вот американец грузовичок-дурачок (simple) и зазевался на неё. ИИ ничто человеческое не чуждо!!
#8 | 23:43 13.08.2022 | Кому: Всем
>резко выворачивая руль
>В последние несколько секунд, водитель-человек реагирует

[Рассказывает анекдот про наркомана и побег черепах]
#9 | 00:31 14.08.2022 | Кому: Всем
У нас тут уже вторых пилотов сокращать будут. А в америкашке даже машину до ума довести не могут.
#10 | 03:28 14.08.2022 | Кому: TTimur
Собственно, вот и причина...
#11 | 04:10 14.08.2022 | Кому: Всем
"Дознание" Станислава Лема...
#12 | 04:30 14.08.2022 | Кому: Альфарий
Зачем ты украл картинку у Пальтоконя???
NoMercy
надзор »
#13 | 05:28 14.08.2022 | Кому: Всем
Можно позанудничать?
[Занудничает]

Нужно дождаться результатов расследования. Был какой то фактор или сочетание факторов, которые привели к такой реакции ИИ (хотя никакого ИИ там конечно нет).
Причем может оказаться, что это не ошибка ИИ, а например проблемы с разметкой, знаками или с заложенной в память картой маршрута.

Может быть проблема в датчиках или камерах.

Но даже если проблема именно в неправильной реакции нейросетки или программного комплекса в целом, то нужно смотреть статистику.
И если окажется, что на 1000 километров пробега у ИИ аварий и жертв меньше, чем у кожаных мешков, то это приемлемый результат.
Причем со временем таких ошибок у ИИ будет меньше - дообучатся нейросетки, исправят ошибки. А у кожаных мешков улучшений ждать не приходится.
#14 | 05:34 14.08.2022 | Кому: Всем
Давненько, вроде Ауди провели испытания. По кольцу пустили несколько машин, без обгона и в итоге все ехали за самым медленным автомобилем.
Потом активировали систему, где одна машина лидер, а остальные выполняют ее скоростной режим.
И такой "автопоезд" может ехать с любой скоростью.
Для грузовиков на трассе, да ещё и с выделенной полосой, довольно перспективно.
#15 | 05:42 14.08.2022 | Кому: Timofeeff
> Для грузовиков на трассе, да ещё и с выделенной полосой, довольно перспективно.

А как в логику включить препятствия? Ну вот выскочил кабан, лось итд, реакция человека - тормозить, сбить, но не выруливать на встречку, как поведет себя Ии?
4ekist
надзор »
#16 | 05:56 14.08.2022 | Кому: NoMercy
Если на эти аварии не реагировать жестко- капиталюги не будут вкладываться в безопасность.
Гипотетически.
Грузовик с ИИ сбил ребенка- ну их же много по статистике сбивают! Кто виноват? Никто, просто случайность! Страховая заплатит пару сотен тыс баксов и все. При таких раскладах дешевле платить страховые взносы на компенсации последствий аварий, чем совершенствовать систему управления
Keeponrage
дурачок »
#17 | 05:57 14.08.2022 | Кому: skysystem
Ну если у него есть модуль детекции посторонних объектов, адекватное время реакции , прописан соответствующий алгоритм принятия решений - тормознет.
#18 | 06:01 14.08.2022 | Кому: Walet
> Зачем ты украл картинку у Пальтоконя???

[censored]
VSChe
надзор »
#19 | 06:24 14.08.2022 | Кому: NoMercy
> Причем может оказаться, что это не ошибка ИИ, а например проблемы с разметкой, знаками или с заложенной в память картой маршрута.
>

Если прочитать внимательно первоисточник, то окажется, что грузовик ездил по тестовому маршруту, и уже много раз. Проблема не в окружении, а в глюке ИИ.
Ну и самое смачно, что пытались обвинить человечков, что бы замять ситуацию. Но только все всплыло.
NoMercy
надзор »
#20 | 06:46 14.08.2022 | Кому: 4ekist
> Если на эти аварии не реагировать жестко- капиталюги не будут вкладываться в безопасность.

Отчасти согласен. Но тут, как ни странно, может вполне рыночек порешать. Эти ж граждане не монополисты в области ИИ. Если будут косячить их быстро ухватят за жопу зубастые конкуренты, у которых статистика аварий будет лучше.
Да даже если и не будет - все равно ухватят и раздуют, это ж беспроигрышный PR. Типа у рукожопых %companyname% злобный ИИ в который раз специально сбил насмерть беременную негритянку трансгендера.
NoMercy
надзор »
#21 | 06:48 14.08.2022 | Кому: VSChe
> Если прочитать внимательно первоисточник, то окажется, что грузовик ездил по тестовому маршруту, и уже много раз.

Урлоблудием заниматься?!!
Если серьезно, то это ж неважно, что маршрут тестовый. Почему то нейросетка среагировала нестандартным образом. Почему - надо разбираться. И это непросто, т.к. проблема интерпретируемости работы нейросети пока не решена.

> Ну и самое смачно, что пытались обвинить человечков, что бы замять ситуацию. Но только все всплыло.


Вывод - наличие ИИ не отменяет поиска стрелочников!!!
VSChe
надзор »
#22 | 07:00 14.08.2022 | Кому: NoMercy
> Вывод - наличие ИИ не отменяет поиска стрелочников!!!

Хорошо сказано. Я думаю в этом направлении у программистов ещё не паханное поле.
#23 | 07:04 14.08.2022 | Кому: Всем
В пикапе слева просто ехал Джон Коннор с компанией:
[censored]
CEBEP
своевременно подпущенный »
#24 | 07:45 14.08.2022 | Кому: Всем
На самом деле многих спас бетонный отбойник, который не дал грузовику выехать на встречку.
#25 | 09:04 14.08.2022 | Кому: skysystem
>А как в логику включить препятствия? Ну вот выскочил кабан, лось итд, реакция человека - тормозить, сбить, но не выруливать на встречку, как поведет себя Ии?

Ох, я бы сказал что в этом случае происходит с точностью до наоборот. Совладать с желанием покрутить руль в экстренной ситуации могут только опытные водители.
#26 | 09:08 14.08.2022 | Кому: Всем
> Внутренний отчет, просмотренный Journal говорится, что авария произошла из-за того, что "человек в кабине не перезагрузил должным образом систему автономного вождения перед ее включением, в результате чего она выполнила устаревшую команду”. Команда поворота налево была дана 2,5 минуты назад и должна была быть удалена, но, согласно внутреннему отчету, этого не произошло.

Похоже в контору набрали бывших погроммистов Майкрософт, для которых правило "семь бед один рисет" давно стало нормой.
pks_ru
шутник »
#27 | 10:21 14.08.2022 | Кому: Всем
А тот, который во мне сидит, считает, что он - истребитель!
#28 | 10:59 14.08.2022 | Кому: NoMercy
> Причем со временем таких ошибок у ИИ будет меньше - дообучатся нейросетки, исправят ошибки. А у кожаных мешков улучшений ждать не приходится.

Если специально для грузовиков разметку на трассах будут делать, то да, смогут кататься, по прямой, а при съезде с трассы все равно придется развозить людям. Но возникает вопрос - нахуй они нужны, если можно так же построить железные дороги, по которым ещё и граждане кататься смогут? В городах это говно ездить на больших скоростях не в состоянии, уж тем более грузовики.
#29 | 11:02 14.08.2022 | Кому: skysystem
>
> А как в логику включить препятствия? Ну вот выскочил кабан, лось итд, реакция человека - тормозить, сбить, но не выруливать на встречку, как поведет себя Ии?

Обычно. Он выключится, чтобы компания не несла ответственности за аварию, а нёс водитель, который и должен был быть бдительным и выруливать. В любой нестандартной ситуации, с возможными жертвами, в том числе лосями - гринпис же, они будут его просто внезапно вырубать. Они там рассказывают, про то, что когда-нибудь может быть машина сможет определить, кого лучше убить - 5 детей или одного взрослого, но это всё пиздёж. Пока не появятся законы на уровне государства, с приоритетами того, кого надо убивать в безвыходной ситуации, пока каждому в жопу не вставят чип и не расставят маячки вдоль дорог через каждые сто метров, чтобы сетка всегда знала свое местоположение и всех людей вокруг, а не хуета с лидарами, выпускать их, кроме как по прямой в отдельной полосе кататься, никуда нельзя. Но ведь не получится продать "мы сделаем грузовики с автопилотами, только постройте нам рельсы по всем трассам, а то они в аварии попадать будут и убивать людей. Вон, даже на тестовой трассе нихуя не работает, после нескольких лет разработки"
#30 | 12:03 14.08.2022 | Кому: Всем
Бог ИИ требует мёртвых людей для шлифовки и самосовершенства.
4ekist
надзор »
#31 | 12:28 14.08.2022 | Кому: NoMercy
Купят конкурентов и дело в шляпе
NoMercy
надзор »
#32 | 14:17 14.08.2022 | Кому: ttll
> Если специально для грузовиков разметку на трассах будут делать, то да, смогут кататься, по прямой, а при съезде с трассы все равно придется развозить людям. Но возникает вопрос - нахуй они нужны, если можно так же построить железные дороги, по которым ещё и граждане кататься смогут? В городах это говно ездить на больших скоростях не в состоянии, уж тем более грузовики.

В городах грузовиков быть вообще не должно, по хорошему. А те, без которых не обойтись должны ездить по строго определенным маршрутам и желательно по ночам.
Но вообще пока рано говорить во что все эти программы с ИИ выльются. Проблем там много, но и успехи есть.
Лично мне было бы сильно комфортнее если бы на трассе все ехали со строго регламентированной скоростью и дистанцией, под управлением ИИ.
Без дебилов обочечников, мудаков шашистов, идиотов учителей, заснувших за рулём или банально бухих дальнобоев и т.д. и т.п.
NoMercy
надзор »
#33 | 14:21 14.08.2022 | Кому: 4ekist
> Купят конкурентов и дело в шляпе

Это ты исходишь из того, что там Микрософт или Эппл сразу объявится. И будет либо олигархический сговор, либо скупка мелких игроков и монополия.
И возможно так и получится. Но далеко не факт, вариант с большим количеством игроков на этом рынке тоже возможен.
#34 | 18:10 14.08.2022 | Кому: NoMercy
> Лично мне было бы сильно комфортнее если бы на трассе все ехали со строго регламентированной скоростью и дистанцией, под управлением ИИ.
> Без дебилов обочечников, мудаков шашистов, идиотов учителей, заснувших за рулём или банально бухих дальнобоев и т.д. и т.п.

Ну да, как в ремейке "Вспомнить всё".
Единственный способ, который я вижу сейчас, это маячок в каждый движущийся вокруг дороги и по дороге объект, который не только скорость, но ещё и модель/габариты будет транслировать. Тогда да, тогда аварий не будет и можно на дорогу хоть детей выпускать бегать, предварительно прочипировав или надев ошейник.

Только для этого индивидуальные автомобили ненужны, достаточно общественного транспорта. В "Черном зеркале", по-моему, можно было дождаться эдакого вагончика индивидуального без элементов управления, и сказать, куда тебе надо. Но как только речь заходит о подобном общественном транспорте, неговоря уже об автобусах-троллейбусах, внезапно возникает вопрос: а нахера тогда все эти бмв, ягуары и бентли? Ведь тогда такой невероятный "ИИ", вся работа которого заключается в обработке координат и повороте руля, можно будет воткнуть в RaspberryPi и прикрутить к велосипеду. И весь десятилетний пиар самоходных тележек будет слит в унитаз, т.к. единственное в чем им останется соревноваться это цвет салона
Войдите или зарегистрируйтесь чтобы писать комментарии.