СМИ: самоуправляемая машина Uber сбила велосипедистку

Cамоуправляемый автомобиль Uber насмерть сбил велосипедистку в Аризоне из-за сбоя программного обеспечения, определяющего, какие объекты на дороге нужно игнорировать, а на какие обращать внимание. Об этом сообщили The Information источники, близкие к расследованию инцидента.

По данным собеседников издания, система не могла «не увидеть» велосипедистку Элен Херцберг перед столкновением, так как та находилась прямо перед лидаром («глазами» автомобиля) и передними камерами. Однако машина не стала сигналить и даже не снизила скорость.

Источники The Information пояснили, что во всём виновата часть программного обеспечения машины, отвечающая за логику после распознавания объектов. Чтобы самоуправляемая машина «не паниковала» при виде каждого нового препятствия, в систему заложили возможность на манер людей игнорировать какие-то незначительные вещи, например, припаркованный у дороги мотоцикл.

Cпециалисты вручную устанавливали чувствительность этой функции. И, похоже, что машина, сбившая велосипедистку, была настроена игнорировать даже те объекты, на которые должна была обращать внимание. Она распознала девушку, но не посчитала её присутствие на дороге причиной для остановки.

19 марта самоуправляемая машина Uber насмерть сбила велосипедистку, когда та переходила дорогу в неположенном месте. За рулём машины был водитель, но он отвлёкся от управления на несколько секунд, как раз в тот момент, когда автомобиль ещё мог остановиться.

После этого Uber принесла семье погибшей соболезнования и договорилась о досудебном урегулировании инцидента. Все испытания самоуправляемых машин приостановили на неопределённый срок, а к расследованию подключились американские власти.

Такие инциденты учащаются. Интересно, как скоро введут уголовку для погромистов и кто будет после этого писать код для робомобилей?

> Такие инциденты учащаются. Интересно, как скоро введут уголовку для погромистов и кто будет после этого писать код для робомобилей?

Те же кто и сейчас.

Индусы.

> Такие инциденты учащаются. Интересно, как скоро введут уголовку для погромистов и кто будет после этого писать код для робомобилей?

А QA будет выполнять роль инквизиции!!!

Это же в СШП? Там со смертельным исходом. Или это уже вторая?

> Она распознала девушку, но не посчитала её присутствие на дороге причиной для остановки.

Сексизм вижу я...

> и кто будет после этого писать код для робомобилей?

Русские хакеры!!!

> кто будет после этого писать код для робомобилей?

Робопрограммисты!

Надо понимать, что за этот же период (2 месяца) обычные "управляемые" ТС убили около 200 тыс человек по всему миру.

> Надо понимать, что за этот же период (2 месяца) обычные "управляемые" ТС убили около 200 тыс человек по всему миру.

А надо понимать, что обычных "управлемых" ТС в тысячи раз больше? А надо понимать, что аварийность в разных странах мира может кардинально отличаться, часто в разы?

Или тут понимаем, а тут рыбу заворачивали?

> Надо понимать что в мире около миллиарда обычных ТС, а самоуправляемый автомобиль один

Уже давно не один. Их на порядки меньше, да, но не один.

> А потом хуяк и их выпускают на дороги общего пользования и понеслась, то в отбойник самоуберутся, то велосипедистов за людей не держат.

Я всё жду, когда яндекс свои дотестирует и выпустит по Москве ездить. Интересно, какое поведение у них запрограммировано в случае, когда авто сперва подрезают, потом "учить" начинают, а потом, размахивая гондонострелом, мчат чисто по понятиям выяснить, у кого право проезда на самом деле?

> А потом и парковаться начнут не где положено, а где есть свободное место! И поворачивать на лево из крайнего правого ряда. И объезжать по проселочной посты ДПС.

А в ответ на предложение "переставить машину, или мы вам щас наклейку наклеим" будут взламывать вконтактик предлагающего и вываливать в сеть всю его подноготную!!!

> Все испытания самоуправляемых машин приостановили на неопределённый срок

Вот нет чтобы, наоборот, расширить и углубить испытания для отлова и исправления критичного бага.

Так есть же видео. Не знаю как вы, я бы в такой ситуации не успел ничего сделать
[censored]

> Это потому что для «общего пользования» надо не только подстраивать дроны под дорогу, но и дорогу под дроны. Например, нанести специфическую разметку.

Т.е. выпускать их на них нельзя пока не будут соблюдены определённые условия?

А почему тогда рассказы рассказывают как это охуенно секурно?

> Т.е. выпускать их на них нельзя пока не будут соблюдены определённые условия?
>
> А почему тогда рассказы рассказывают как это охуенно секурно?

Рекламная кампания, чтобы денег давали. Плюс, потенциально, самонастраивающаяся full mesh из машин - действительно на порядки секурнее. Но, чтобы ее получить в итоге - денег надо уже сейчас.

Как-то грубо, неэстетично. Мне вот кажется, что, пока боец мчит от пепелаца, умный автопилот должен опустошать его банковские счета, продавать имущество и заливать на домашний конмпьютер детское порево, с одновременным звонком в полицию.

> Надо понимать что в мире около миллиарда обычных ТС, а самоуправляемый автомобиль один. И он один в процентном соотношении убил больше людей чем обычные "управлямые" ТС

С чего ты взял, что он один?

> Cпециалисты вручную устанавливали чувствительность этой функции.

Сучество на максимум выкрутили? Или как оно у автопупарасов называется?

> Интересно, какое поведение у них запрограммировано в случае, когда авто сперва подрезают, потом "учить" начинают

Звонок в полицию (беспилотнику не западло стучать), плюс видеозапись учителя, плюс копия в собственную службу безопасности и юридический отдел. Дома учителя уже радостно будет ждать письмо счатья со штрафом, а особо продвинутых ещё пара судебных исков и вечный бан в гугле.

> Т.е. выпускать их на них нельзя пока не будут соблюдены определённые условия?

Выпускать можно. Но с соблюдением определённых условий — они работают существенно лучше.

> А почему тогда рассказы рассказывают как это охуенно секурно?

Поинтересуйся у рассказывающих, по сравнению с чем «охуенно».

> Смерть данная в перспективе технического прогресса - во благо, ибо позволит пофиксить баги.

Когда создавали и запускали "Буран", в него установили автопилот, чтобы потом не пришлось фиксить баги со смертями человека.

Сейчас предлагаешь расставить повсюду понаделать смертников, чтобы создать автопилот?