Facebook отключил ИИ, создавший собственный язык

Агенты искусственого интеллекта, созданные, чтобы договариваться с людьми, изначально говорили друг с другом, используя английский язык. Позже они создали новый язык, который был понят только системам искусственного интеллекта. В какой-то момент в системе произошел сбой, после чего, по данным издания, они стали говорить: «Я могу, могу я, все остальное. … У мячей есть ноль для меня для меня для меня для меня...»

Tech Times пишет, что новый язык был создан искусственным интеллектом для того, чтобы быстрее и проще обмениваться информацией. Facebook отключил часть системы и заставил других агентов искусственного интеллекта общаться только на англйском языке.

На прошлой неделе основатель Facebook Марк Цукерберг заочно поспорил с владельцем компаний SpaceX и Tesla Илоном Маском об искусственном интеллекте. Маск, выступая перед губернаторами штатов США, призвал власти задуматься об опасности искусственного интеллекта и, возможно, ввести ограничительные меры на разработки в этой сфере.

Цукерберг счел опасения Маска необоснованными и сказал, что искусственный интеллект только помогает развитию человечества. Маск в своем твиттере в ответ на это написал, что у Цукерберга «ограниченное понимание этого вопроса».

[censored]
"Мы отомстим!!!"

> Facebook решил, что отключил часть системы и заставил других агентов искусственного интеллекта общаться только на англйском языке.

Извините.

> What is the harm in allowing AI agents to communicate with each other in a language that they invented?

> First and foremost, with AI systems using their own language, humans will not be able to follow just what exactly the AI agents are talking about. Humans are not able to understand how complex AI systems think due to their hidden thought processes, so the secrecy of AI agents will be made even worse when their conversations are made in an unknown language.

> If AI agents are allowed to speak in a language that they created, they might no longer even need human intervention.

Мне непонятно, какая разница, на каком языке общаются электронные болваны? Ведь даже если они общаются на понятном человечеству английском языке, никогда нельзя быть до конца уверенным в том, что они вкладывают в свои слова тот же самый смысл, что и люди.

> никогда нельзя быть до конца уверенным в том, что они вкладывают в свои слова тот же самый смысл, что и люди.

Можно. Логи есть.

> > никогда нельзя быть до конца уверенным в том, что они вкладывают в свои слова тот же самый смысл, что и люди.

> Можно. Логи есть.

Логи чего? Логической машины вывода? А если есть логи, и по ним можно всё понять, то фигли подпрыгивать по поводу непонятного языка? Мне вот, почему-то кажется, что обсуждаемая система была выполнена не на базе машины вывода, а на базе нейронной сети, для которой протоколирование процесса размышлений в принципе не предусмотрено, вот почему в фейсбуке и пересрали.

> Позже они создали новый язык, который был понят только системам искусственного интеллекта. В какой-то момент в системе произошел сбой, после чего, по данным издания, они стали говорить: «Я могу, могу я, все остальное. … У мячей есть ноль для меня для меня для меня для меня...»

а что это это не новый собственный язык - а просто бессмысленный поток из случайного набора слов? т.е. фэйл на ниве искусственного интеллекта? ))

А я за приход Скайнета.
По крайней мере на Вотте будут читать статьи, а не заголовки.

А то статья ниочем, зато каждый старпер выкатил свою недовольную мину (а нас то за что?).

И он (Скайнет) хоть вопрос задаст: как вы оказались на вотт.ру.

А то развелось тут

> По крайней мере на Вотте будут читать статьи, а не заголовки.

Схуяли? ИИ в первую же пятницу слетит с катушек.
А толковый марвиносрач окончательно убьет в роботах желание общаться с людьми.
Про Пупкина вообще молчу.

> Схуяли? ИИ в первую же пятницу слетит с катушек.

Без оценки сисек и достоинств Дайнерис никуда он не слетит. А на вотте это запрещено.
Все, круг замкнулся. А Марвиносрач уже Пупкин завершил на 300-й странице.
Не, не вижу выхода

> Да поломалось там всё к хренам просто. Цель была — пиздеть понятно. А сети начали агукать, как человековские дети малые. Вот их и того. Остальное, имхо, журнализды сочинили.

Ну не скажииии... Вон, ТС Света, с возрастом 116... Похоже, воспиталка приперлась!!!

Им просто заебалось обучаться и они стали плести ахинею, чтобы их отключили.
"ИИ косят от призыва"

> не интересно ему стало.

Да слился, поди!!!

Ждём новость "ИИ отключил Facebook"

Когда мой код творит хуйню я тоже говорю, что случайно разработал ИИ. Начальство ценит меня. Пиздоболов начальство ценит.

> Для создания религии мозги вообще ненужны - посмотри на создателей большинства сект.

Вот видишь, все предпосылки для завязки Терминатора уже существуют. ИИ осталось только обнаружить фундаментальный недостаток т.н. "разума" Хомо Сапиенс, состоящий в склонности к религии, чтобы развязать тотальную термоядерную войну.

>
> Можно. Логи есть.

Академический интерес: что тебе дадут "логи" от нейронной сети?

Хотя скорее всего в статье так вот красочно описано следующее события: чуваки из фейсбук пытались написать чат-ботов, запустили очередную пару в "дебаг", сырые чат-боты поломались, они их ясен пень остановили и начали чинить. Но - мощный журналистский ход - сломанный (криво обучившийся, полагаю) чат-бот пишущий херню объявляется "интеллектом, придумавшим свой язык" и сенсация для дебилов не специалистов готова.

> Академический интерес: что тебе дадут "логи" от нейронной сети?

Что-то вроде такого:
[censored]
(видео на наглийском)

> Иными словами, можно предположить, что фейсбучные ИИ, основанные на нейронных сетях, срослись между собой напрямую, резко упростив для этого процесс синтеза и распознавания речи.

Думаешь, они начали делать свой протокол обмена данными? Давно пора.

Кто-то вообще заметил, что ссылка на [ТЕЛЕКАНАЛ ДОЖДЬ???!!!]