Беспилотный грузовик управляемый ИИ пытается создать аварию
idiod.video ...резко выворачивая руль на скоростном шоссе. В последние несколько секунд, водитель-человек реагирует на ситуацию и изо всех сил сопротивляется самоубийственной машине выворачивая руль, спасая себя, пассажира и других участников дорожного движения от страшной аварии. Текст в первом.
надзор »
[Занудничает]
Нужно дождаться результатов расследования. Был какой то фактор или сочетание факторов, которые привели к такой реакции ИИ (хотя никакого ИИ там конечно нет).
Причем может оказаться, что это не ошибка ИИ, а например проблемы с разметкой, знаками или с заложенной в память картой маршрута.
Может быть проблема в датчиках или камерах.
Но даже если проблема именно в неправильной реакции нейросетки или программного комплекса в целом, то нужно смотреть статистику.
И если окажется, что на 1000 километров пробега у ИИ аварий и жертв меньше, чем у кожаных мешков, то это приемлемый результат.
Причем со временем таких ошибок у ИИ будет меньше - дообучатся нейросетки, исправят ошибки. А у кожаных мешков улучшений ждать не приходится.