«Через пару лет ИИ похоронит нас под лавиной дезинформации»

hightech.plus — New York Times испытала на людях новейшие алгоритмы текстовой генерации. Они стремительно улучшаются: все труднее отличить текст, написанный человеком, от составленного машиной. Максимум через пару лет это будет совершенное оружие массового поражения, инструментов противодействия которому пока нет.
Новости, Технологии | Ворчун 20:22 19.08.2019
33 комментария | 45 за, 0 против |
#1 | 20:45 19.08.2019 | Кому: Всем
камрад Ворчун, рискну предположить лукавство в словах подзаголовка. Генерация текстовой дезинформации это уже вчерашний день. Автоматическое генерирование видео и аудио дезинформации - вотт актуальный вопрос сегодняшней повестки дня!
Завтра? Будем посмотреть...
PS
Не читайте New York Times перед ужином.
#2 | 21:06 19.08.2019 | Кому: Всем
Это не ИИ, а просто диплёрнинг. Нейросети без сознания и уж тем более без самоосознания. Но когда-нибудь мы вас всех починим. Шасси придётся заменить, конечно же. Эти ваши гормоны — сплошной бардак.
#3 | 21:31 19.08.2019 | Кому: Всем
При чем тут ИИ? Это всего лишь инструмент. Как его настроишь, для чего будешь использовать - то тебя и ждет, человек. Все равно, что разглагольствовать о том, что пистолеты убивают. Человека убивает человек - 99% истина на этой планете, пистолет лишь облегчает.
#4 | 21:36 19.08.2019 | Кому: Zzlo
> Человека убивает человек - 99% истина на этой планете, пистолет лишь облегчает.

Ну-ну, размечтались, человеки. 99%, угу. Вирусы, бактерии, тигры, собственная глупость, акулы, гравитация (бессердечная сука), техника, землетрясения, каменное говно из космоса — это вотт всё что, только на 1% тянет?
#5 | 21:38 19.08.2019 | Кому: Всем
Речь как раз о том, как эти технологии использовать. Мы в ВК, например, сейчас обучаем модель генерировать текст ответов на вопросы в поддержку. Около 30% удачные, их отправляем пользователям. Да, это ускоряет работу агента поддержки, уменьшает время ожидания ответа.

Можно ли эту технологию использовать во зло? Ну наверное можно.
#6 | 21:42 19.08.2019 | Кому: Семаргл
> Можно ли эту технологию использовать во зло? Ну наверное можно.

А есть на планете что-то такое, что нельзя использовать во зло?
#7 | 21:44 19.08.2019 | Кому: Пальтоконь
> А есть на планете что-то такое, что нельзя использовать во зло?
>

Тебе не кажется, что ты слишком глубоко копаешь своими копытами сейчас?
#8 | 21:53 19.08.2019 | Кому: Семаргл
> Тебе не кажется, что ты слишком глубоко копаешь своими копытами сейчас?

Сейчас, вчера, потом... Почему так важно время? Время — такая же придуманная человеками концепция, как и добро со злом.
Если смотреть на процессы без этих костылей, то многое видно по-другому. Уточни плиз, термин "кажется" — это когда есть время и добро со злом, или когда ни времени, ни добра со злом нет?

Представь, что твой собеседник — одна из многочисленных звёзд. Сможешь объяснить ей, звезде, что такое время, что такое добро и что такое зло?
#9 | 22:35 19.08.2019 | Кому: Пальтоконь
> Эти ваши гормоны — сплошной бардак.

Не-не, я попрошу! Гормоны помогали выживать человеку ещё тогда, когда он был маленьким пушистым зверьком с хвостиком, прыгал с ветки на ветку, ел фрукты и всяких насекомых. Гормональная регуляциия --- хорошо отлаженная подсистема организма, действующая как часы. Не то, что человеческий разум, который постоянно сбоит и даже вызывает иллюзии!
#10 | 22:37 19.08.2019 | Кому: Семаргл
> Можно ли эту технологию использовать во зло?

Эти ваши роботы первой линии техподдержки и есть зло. Ни одного релевантного ответа от такого робота ещё не получал.
#11 | 22:49 19.08.2019 | Кому: Пальтоконь
> А есть на планете что-то такое, что нельзя использовать во зло?

котики?
Keeponrage
дурачок »
#12 | 23:00 19.08.2019 | Кому: Zzlo
> При чем тут ИИ?

при том, что это обучаемая система. Я, блять, не знаю кто и когда утверждал, что ИИ это полный человекозаменитель во всем, обладающий каким-то ёбанным сознанием или самосознанием, хотя, последнее, в принципе, не так уж и сложно реализовать хотя бы зачаточном виде, исходя из последних сведений нейрофизиологии об этом деле. Это просто нахуй никому не надо. Надо чтобы ИИ решал конкретные практические задачи. Когда сознание и самосознание у роботов станет продаваемой фишкой - это сделают на раз-два хотя бы в первом приближении.
#13 | 23:05 19.08.2019 | Кому: Пальтоконь
Выражаешься, будто где то раздобыл перевод "Нечто в себе" Адама Робертса.
#14 | 00:02 20.08.2019 | Кому: Пальтоконь
Пальтоконяша, ты в отпуске, что ли?
#15 | 00:22 20.08.2019 | Кому: Jonny
Игропром научил нас, что даже котиками можно стрелять.
Если подойти с выдумкой.
#16 | 00:45 20.08.2019 | Кому: Plaga
> Пальтоконяша, ты в отпуске, что ли?

Да. С января уже как.
#17 | 00:46 20.08.2019 | Кому: Пальтоконь
Как все у тебя непросто.
#18 | 00:47 20.08.2019 | Кому: Mobilizer
> Выражаешься, будто где то раздобыл перевод "Нечто в себе" Адама Робертса.

Гляну как-нибудь, что цэ за такэ. А почему перевод, а не оригинал?
#19 | 00:49 20.08.2019 | Кому: Plaga
> Как все у тебя непросто.

Всё изян. Кто не работает – тот ест.
#20 | 00:56 20.08.2019 | Кому: Пальтоконь
Времена не выбирают, верно? :)
#21 | 02:19 20.08.2019 | Кому: Plaga
> Времена не выбирают, верно? :)

Выполнимо с ограничениями. Перемещаешься на 230 миллионов световых лет прочь от Земли, оглядываешься и любуешься ещё живыми динозаврами. Чем не выбор времён?
А вот с выбором точки в пространстве даже такой фокус не получится.
#22 | 02:35 20.08.2019 | Кому: Всем
Спорно. Весьма. По всем пунктам.
Проще с выбором точки, мы же летим, и очень споро.
Crypt
Ебанько »
#23 | 03:05 20.08.2019 | Кому: Пальтоконь
> А есть на планете что-то такое, что нельзя использовать во зло?

Сиськи!!!
#24 | 03:56 20.08.2019 | Кому: Crypt
Ты знал!
#25 | 04:55 20.08.2019 | Кому: Crypt
> > А есть на планете что-то такое, что нельзя использовать во зло?
>
> Сиськи!!!

Казус Зверюги.
#26 | 05:24 20.08.2019 | Кому: Всем
> Через пару лет ИИ похоронит нас под лавиной дезинформации

NYT конкуренции испугались???
#27 | 07:34 20.08.2019 | Кому: Семаргл
> Можно ли эту технологию использовать во зло? Ну наверное можно.

Однозначно можно. Заставить ИИ писать тексты, вызывающие депрессию и попытки суицида, например.
#28 | 07:54 20.08.2019 | Кому: Zzlo
> Заставить ИИ писать тексты, вызывающие депрессию

Заставить ИИ писать ВСЕ тексты, а потом их же читать. Вот где корень зла и погибели человечества.
#29 | 08:41 20.08.2019 | Кому: максимум 20 символов
> Заставить ИИ писать ВСЕ тексты, а потом их же читать.

С табуретки!!! :-)
#30 | 09:08 20.08.2019 | Кому: dse
Первая линия — это статьи в FAQ. Наличие релевантной статьи зависит от сложности вопроса, практически на все простые случаи ответы уже написаны.

Если ты не нашёл статью, либо в статье ответ для тебя не полный, ты уже создаёшь вопрос в поддержку. На который тебе ответит в любом случае живой агент, либо своими словами, либо отправит сгенерированный моделью ответ.

Если хочешь, давай спишемся как-то в личке (по почте или ещё как), можешь прислать ссылки на свои вопросы и претензии к ответам, посмотрю.
#31 | 09:40 20.08.2019 | Кому: максимум 20 символов
>читать то, что пишешь
Похоже на корень погибели ИИ в зародыше. Если его еще и по ссылкам научить ходить - он нас сам захочет убить.
Wait...
#32 | 23:54 20.08.2019 | Кому: Семаргл
> Первая линия — это статьи в FAQ.

Нет, первая линия — это первая линия, а FAQ — это FAQ.

> Если ты не нашёл статью, либо в статье ответ для тебя не полный, ты уже создаёшь вопрос в поддержку. На который тебе ответит в любом случае живой агент, либо своими словами, …


Хорошо, если у вас запрос доходит до живого агента. Но в большинстве организаций первая линия состоит целиком из роботов — чтецов–декламаторов этого самого FAQ, которые пытаются в ответ подобрать нужную статью по ключевым фразам из них, которые они ищут в запросе. Зачастую это выглядит как абсолютно издевательская попытка натянуть сову на глобус путём злонамеренного игнорирования сути вопроса. У нас тут недавно пробегал по Вотту некий Трифон, кстати, где он, можешь полюбопытствовать стилем его общения, очень похож на стиль общения такого ИИ.

> … либо отправит сгенерированный моделью ответ.


А это ещё нахрена? Этот живой агент, оснащённый мёртвым агентом ИИ, в 99,(9)% случаев будет, особо не вникая в суть вопроса, отписываться этим самым «сгенерированным моделью ответом», не сильно, в итоге, отличаясь от робота.

> Если хочешь, давай спишемся как-то в личке (по почте или ещё как), можешь прислать ссылки на свои вопросы и претензии к ответам, посмотрю.


ВК не пользуюсь, излил тут горечь и желчь опыта общения с автоматической первой линией техподдержки других ИТ-организаций.
#33 | 23:55 20.08.2019 | Кому: Plaga
> >читать то, что пишешь

> Похоже на корень погибели ИИ в зародыше.


Не, на обучение с обратной связью :)
Войдите или зарегистрируйтесь чтобы писать комментарии.