«Через пару лет ИИ похоронит нас под лавиной дезинформации»

hightech.plus — New York Times испытала на людях новейшие алгоритмы текстовой генерации. Они стремительно улучшаются: все труднее отличить текст, написанный человеком, от составленного машиной. Максимум через пару лет это будет совершенное оружие массового поражения, инструментов противодействия которому пока нет.
Новости, Технологии | Ворчун 20:22 19.08.2019
4 комментария | 45 за, 0 против |
#1 | 22:35 19.08.2019 | Кому: Пальтоконь
> Эти ваши гормоны — сплошной бардак.

Не-не, я попрошу! Гормоны помогали выживать человеку ещё тогда, когда он был маленьким пушистым зверьком с хвостиком, прыгал с ветки на ветку, ел фрукты и всяких насекомых. Гормональная регуляциия --- хорошо отлаженная подсистема организма, действующая как часы. Не то, что человеческий разум, который постоянно сбоит и даже вызывает иллюзии!
#2 | 22:37 19.08.2019 | Кому: Семаргл
> Можно ли эту технологию использовать во зло?

Эти ваши роботы первой линии техподдержки и есть зло. Ни одного релевантного ответа от такого робота ещё не получал.
#3 | 23:54 20.08.2019 | Кому: Семаргл
> Первая линия — это статьи в FAQ.

Нет, первая линия — это первая линия, а FAQ — это FAQ.

> Если ты не нашёл статью, либо в статье ответ для тебя не полный, ты уже создаёшь вопрос в поддержку. На который тебе ответит в любом случае живой агент, либо своими словами, …


Хорошо, если у вас запрос доходит до живого агента. Но в большинстве организаций первая линия состоит целиком из роботов — чтецов–декламаторов этого самого FAQ, которые пытаются в ответ подобрать нужную статью по ключевым фразам из них, которые они ищут в запросе. Зачастую это выглядит как абсолютно издевательская попытка натянуть сову на глобус путём злонамеренного игнорирования сути вопроса. У нас тут недавно пробегал по Вотту некий Трифон, кстати, где он, можешь полюбопытствовать стилем его общения, очень похож на стиль общения такого ИИ.

> … либо отправит сгенерированный моделью ответ.


А это ещё нахрена? Этот живой агент, оснащённый мёртвым агентом ИИ, в 99,(9)% случаев будет, особо не вникая в суть вопроса, отписываться этим самым «сгенерированным моделью ответом», не сильно, в итоге, отличаясь от робота.

> Если хочешь, давай спишемся как-то в личке (по почте или ещё как), можешь прислать ссылки на свои вопросы и претензии к ответам, посмотрю.


ВК не пользуюсь, излил тут горечь и желчь опыта общения с автоматической первой линией техподдержки других ИТ-организаций.
#4 | 23:55 20.08.2019 | Кому: Plaga
> >читать то, что пишешь

> Похоже на корень погибели ИИ в зародыше.


Не, на обучение с обратной связью :)
Войдите или зарегистрируйтесь чтобы писать комментарии.