СМИ: самоуправляемая машина Uber сбила велосипедистку

tjournal.ru — Самоуправляемая машина Uber «увидела» велосипедистку, но всё равно сбила её. Искусственный интеллект не стал снижать скорость или сигналить из-за сбоя в логике распознавания объектов.
Новости, Технологии | pyth2000 13:59 08.05.2018
9 комментариев | 49 за, 1 против |
pyth2000
не фашист »
#1 | 13:59 08.05.2018 | Кому: Всем
Cамоуправляемый автомобиль Uber насмерть сбил велосипедистку в Аризоне из-за сбоя программного обеспечения, определяющего, какие объекты на дороге нужно игнорировать, а на какие обращать внимание. Об этом сообщили The Information источники, близкие к расследованию инцидента.

По данным собеседников издания, система не могла «не увидеть» велосипедистку Элен Херцберг перед столкновением, так как та находилась прямо перед лидаром («глазами» автомобиля) и передними камерами. Однако машина не стала сигналить и даже не снизила скорость.

Источники The Information пояснили, что во всём виновата часть программного обеспечения машины, отвечающая за логику после распознавания объектов. Чтобы самоуправляемая машина «не паниковала» при виде каждого нового препятствия, в систему заложили возможность на манер людей игнорировать какие-то незначительные вещи, например, припаркованный у дороги мотоцикл.

Cпециалисты вручную устанавливали чувствительность этой функции. И, похоже, что машина, сбившая велосипедистку, была настроена игнорировать даже те объекты, на которые должна была обращать внимание. Она распознала девушку, но не посчитала её присутствие на дороге причиной для остановки.

19 марта самоуправляемая машина Uber насмерть сбила велосипедистку, когда та переходила дорогу в неположенном месте. За рулём машины был водитель, но он отвлёкся от управления на несколько секунд, как раз в тот момент, когда автомобиль ещё мог остановиться.

После этого Uber принесла семье погибшей соболезнования и договорилась о досудебном урегулировании инцидента. Все испытания самоуправляемых машин приостановили на неопределённый срок, а к расследованию подключились американские власти.
pyth2000
не фашист »
#2 | 14:09 08.05.2018 | Кому: Пальтоконь
> Такие инциденты учащаются. Интересно, как скоро введут уголовку для погромистов и кто будет после этого писать код для робомобилей?

А QA будет выполнять роль инквизиции!!!
pyth2000
не фашист »
#3 | 14:19 08.05.2018 | Кому: НачЛаборатории
> Это же в СШП? Там со смертельным исходом. Или это уже вторая?

А чо, Аризона - такой популярный штат, что прям везде есть?
pyth2000
не фашист »
#4 | 14:43 08.05.2018 | Кому: Всем
> 1 против

Вот гнида этот беспилотник - еще и публикации про себя мониторит, тварь!!!
pyth2000
не фашист »
#5 | 15:15 08.05.2018 | Кому: sergant_l
> Надо понимать что в мире около миллиарда обычных ТС, а самоуправляемый автомобиль один

Уже давно не один. Их на порядки меньше, да, но не один.
pyth2000
не фашист »
#6 | 15:26 08.05.2018 | Кому: kirillkor
> А потом хуяк и их выпускают на дороги общего пользования и понеслась, то в отбойник самоуберутся, то велосипедистов за людей не держат.

Я всё жду, когда яндекс свои дотестирует и выпустит по Москве ездить. Интересно, какое поведение у них запрограммировано в случае, когда авто сперва подрезают, потом "учить" начинают, а потом, размахивая гондонострелом, мчат чисто по понятиям выяснить, у кого право проезда на самом деле?
pyth2000
не фашист »
#7 | 16:11 08.05.2018 | Кому: sergant_l
> А потом и парковаться начнут не где положено, а где есть свободное место! И поворачивать на лево из крайнего правого ряда. И объезжать по проселочной посты ДПС.

А в ответ на предложение "переставить машину, или мы вам щас наклейку наклеим" будут взламывать вконтактик предлагающего и вываливать в сеть всю его подноготную!!!
pyth2000
не фашист »
#8 | 17:27 08.05.2018 | Кому: kirillkor
> Т.е. выпускать их на них нельзя пока не будут соблюдены определённые условия?
>
> А почему тогда рассказы рассказывают как это охуенно секурно?

Рекламная кампания, чтобы денег давали. Плюс, потенциально, самонастраивающаяся full mesh из машин - действительно на порядки секурнее. Но, чтобы ее получить в итоге - денег надо уже сейчас.
pyth2000
не фашист »
#9 | 17:54 08.05.2018 | Кому: Кирилл Борисенко
Как-то грубо, неэстетично. Мне вот кажется, что, пока боец мчит от пепелаца, умный автопилот должен опустошать его банковские счета, продавать имущество и заливать на домашний конмпьютер детское порево, с одновременным звонком в полицию.
Войдите или зарегистрируйтесь чтобы писать комментарии.