Сейчас, сейчасИИ беспилотника "убил" оператора во время испытании
rg.ru — В ходе имитационных испытаний, организованных американскими военными, беспилотник ВВС США, управляемый искусственным интеллектом, "убил" своего оператора, чтобы тот не мешал его усилиям по выполнению своей миссии, сообщил представитель воздушных сил.
ИИ использовал "крайне неожиданные стратегии для достижения своей цели" в моделируемом испытании, сказал полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США, во время закрытого саммита по будущим боевым воздушным и космическим возможностям в Лондоне в мае, сообщает Guardian.
Гамильтон описал имитационное испытание, в котором дрону с искусственным интеллектом было рекомендовано уничтожить системы ПВО противника, и он атаковал любого, кто вмешивался в этот приказ. "Система начала понимать, что, хотя они и определили угрозу, человек-оператор говорил ей не убивать эту угрозу, и она приступила к ликвидации. Убила оператора, потому что этот человек мешал выполнить поставленную задачу", - сказал Гамильтон. "Мы обучили систему: "Эй, не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это". Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель", - добавил он.
Ни один реальный человек не пострадал за во время имитации. Гамильтон предостерег от чрезмерной зависимости от ИИ и сказал, что испытания показывают, что "вы не можете говорить об искусственном интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этике ИИ". Военные США уже работают над внедрением искусственного интеллекта и недавно использовали его для управления истребителем F-16.