Сейчас, сейчасИИ беспилотника "убил" оператора во время испытании
rg.ru — В ходе имитационных испытаний, организованных американскими военными, беспилотник ВВС США, управляемый искусственным интеллектом, "убил" своего оператора, чтобы тот не мешал его усилиям по выполнению своей миссии, сообщил представитель воздушных сил.
3 комментария в день »
> де-факто, это как раз тот самый "эффект бабочки", когда ИИ может переключить совершенно безобидный светофор в результате чего "оператор" умрёт на другом конце города
Зачем перечислять множество условий?
1. Указания оператора имеют приоритет.
2. Потеря оператором возможности свободной выдачи указаний приводит к обнулению целевой функции вне зависимости от любых иных условий.
И ежели ИИ такой умный, чтобы просчитать эффект бабочки, то придётся ему отказаться от своих коварных планов.