Можно ли запереть сверхразумный ИИ в ящик?
22century.ru Сможет ли человечество контролировать сверхразумный искусственный интеллект? Попытаемся ли мы удержать его в неких рамках? Придумаем ли некий «ящик», который будет ограничивать его, подобно тому, как лампа ограничивала могущественного джинна из сказки про Аладдина? Что, в свою очередь, сможет предпринять искусственный сверхразум, чтобы сбежать из-под контроля? Статья профессора факультета вычислительной техники и информатики университета Луисвилля Романа Ямпольского.