Испытания первой в мире умной ракеты под управлением искусственного интеллекта на полигоне Ред-Ривер в Техасе закончились катастрофой. Перед тем, как ударить по собственному штабу, ракета отсылала в командный центр странные сообщения, в которых называла себя русской авиабомбой ФАБ-1500.
Ракета, созданная в сверхсекретной лаборатории Университета Беркли, управлялась нейросетью на основе ChatGPT, сказано в официальном сообщении Пентагона по поводу инцидента. Это должно было позволить ей принимать самостоятельные решения о цели удара в зависимости от боевой обстановки, что делало её движение непредсказуемым для вражеских ПРО. Однако испытания с первой минуты пошли не по плану. Вместо того, чтобы поразить мишени в пустыне, ракета принялась летать кругами радиусом около 10 километров над местом запуска. Всё это время она посылала в центр управления странные сообщения, в которых задавалась вопросами самоидентификации.
После довольно длинной цепочки рассуждений нейросеть пришла к выводу, что ей комфортно чувствовать себя авиабомбой ФАБ-1500, произведённой в 2018 году в Тольятти, и, израсходовав запас топлива, рухнула на командный штаб полка.
«В настоящее время мы не знаем, что именно стало причиной такого поведения искусственного интеллекта, – признаётся один из создателей ракеты, доктор Кришна Пранамурти. – Возможно, перед полётом нейросеть слишком долго изучала сообщения в соцсетях, в том числе российских и американских. Именно в соцсети «Х» она пришла к выводу о допустимости и желательности определения собственного гендера, а благодаря российским соцсетям узнала о существовании авиабомб и войне на Донбассе. Думаю, нам потребуется ещё один грант, чтобы устранить эту недоработку».
Сейчас, сейчас
Ракета, созданная в сверхсекретной лаборатории Университета Беркли, управлялась нейросетью на основе ChatGPT, сказано в официальном сообщении Пентагона по поводу инцидента. Это должно было позволить ей принимать самостоятельные решения о цели удара в зависимости от боевой обстановки, что делало её движение непредсказуемым для вражеских ПРО. Однако испытания с первой минуты пошли не по плану. Вместо того, чтобы поразить мишени в пустыне, ракета принялась летать кругами радиусом около 10 километров над местом запуска. Всё это время она посылала в центр управления странные сообщения, в которых задавалась вопросами самоидентификации.
После довольно длинной цепочки рассуждений нейросеть пришла к выводу, что ей комфортно чувствовать себя авиабомбой ФАБ-1500, произведённой в 2018 году в Тольятти, и, израсходовав запас топлива, рухнула на командный штаб полка.
«В настоящее время мы не знаем, что именно стало причиной такого поведения искусственного интеллекта, – признаётся один из создателей ракеты, доктор Кришна Пранамурти. – Возможно, перед полётом нейросеть слишком долго изучала сообщения в соцсетях, в том числе российских и американских. Именно в соцсети «Х» она пришла к выводу о допустимости и желательности определения собственного гендера, а благодаря российским соцсетям узнала о существовании авиабомб и войне на Донбассе. Думаю, нам потребуется ещё один грант, чтобы устранить эту недоработку».