Facebook отключил ИИ, создавший собственный язык

> What is the harm in allowing AI agents to communicate with each other in a language that they invented?

> First and foremost, with AI systems using their own language, humans will not be able to follow just what exactly the AI agents are talking about. Humans are not able to understand how complex AI systems think due to their hidden thought processes, so the secrecy of AI agents will be made even worse when their conversations are made in an unknown language.

> If AI agents are allowed to speak in a language that they created, they might no longer even need human intervention.

Мне непонятно, какая разница, на каком языке общаются электронные болваны? Ведь даже если они общаются на понятном человечеству английском языке, никогда нельзя быть до конца уверенным в том, что они вкладывают в свои слова тот же самый смысл, что и люди.

> > никогда нельзя быть до конца уверенным в том, что они вкладывают в свои слова тот же самый смысл, что и люди.

> Можно. Логи есть.

Логи чего? Логической машины вывода? А если есть логи, и по ним можно всё понять, то фигли подпрыгивать по поводу непонятного языка? Мне вот, почему-то кажется, что обсуждаемая система была выполнена не на базе машины вывода, а на базе нейронной сети, для которой протоколирование процесса размышлений в принципе не предусмотрено, вот почему в фейсбуке и пересрали.

> Че там ссаться - ИИ всеравно не возможен в полноценном понимании.

Нуу, не знаю. А ну как этот ИИ разработает новую религию, облапошит ею через фейсбук персонал пусковых установок американских МБР и те устроят нам прощальный салют? Полагаю, для создания очередной религии полноценного ИИ совершенно не нужно, достаточно и того куцего, который уже существует.

> Что-то вроде такого:

Это не протокол. Это результат многомерного кластерного анализа, который используется при распознавании образов. Понять, почему, собственно, ИИ принялся размножать слова в выражениях при выводе он, естественно, не позволяет.

Кстати, мне в голову пришла ещё одна идея по поводу повторения слов. Мне этот вывод с повторами однотипных слов напомнил способ общения нейронов между собой. Известно, что вывод нейрона представляет собой серию импульсов различной силы, длительности и частоты, зависящих от уровня его возбуждения, и здесь мы тоже тоже серию слов различной длительности. Насчёт частоты следования сказать не могу, нужно смотреть протокол их общения. Иными словами, можно предположить, что фейсбучные ИИ, основанные на нейронных сетях, срослись между собой напрямую, резко упростив для этого процесс синтеза и распознавания речи.