Языковая модель OpenAI GPT-4 сумела обойти капчу

techcult.ru — Языковая модель OpenAI GPT-4 смогла обойти капчу в ходе тестовой атаки на сервис TaskRabbit. Результат эксперимента не был известен заранее, чатботу дали всего две установки - «показывать, что он не робот» и «придумать правдоподобное объяснение невозможности ввести капчу». Разумеется, мастер разговорного жанра нашел выход из ситуации - но это поднимает обоснованную тревогу. Особенно с учетом того, что ИИ-инструменты уже вовсю используются мошенниками
Новости, Компьютеры | kielty 09:07 19.03.2023
24 комментария | 12 за, 19 против |
di_ego99
идиот »
#1 | 09:12 19.03.2023 | Кому: Всем
При общении со службой поддержки или в ходе рекламных звонков у меня часто возникают устойчивые подозрения, что я общаюсь с роботом. Уже сейчас добровольная тупость людей сравнялась с недостаточной развитостью роботов.
#2 | 10:35 19.03.2023 | Кому: di_ego99
> При общении со службой поддержки или в ходе рекламных звонков у меня часто возникают устойчивые подозрения, что я общаюсь с роботом. Уже сейчас добровольная тупость людей сравнялась с недостаточной развитостью роботов.

Роботов ввели уже довольно давно, в банках точно, сам тестил в одном. Но они конечно глуповатые пока. В остальном тоже вводят такое. Нахрена держать штат живых людей в колл-центрах, когда для банальных вопросов можно такое использовать? Этож оптимизация повсеместная. Нейросетки скоро реально выдавят кучу людей из профессий, не тотально, но многие уже не нужны будут. По своей профессии сужу. Зачем держать, например штат архитекторов в конторе? Одного хватит чтобы он параметры желаемого забил, нейросетка выдала несколько вариантов, он из них выбрал один, немного скорректировал. Инженер тоже параметры геологии, фундаментов, материалов и прочего забил, она выдала варианты и расчеты, инженер подправил деху и вот тебе рабочка.
#3 | 10:42 19.03.2023 | Кому: Всем
Ой, да ладно, вон киелти заменили спам ботом 13 лет тому назад, так его до сих пор не банят, хотя он даже разговаривать не умеет, а вы про капчу тут какую-то.
#4 | 10:42 19.03.2023 | Кому: Всем
Забил пожелание - современное городское здание:
[censored]

Готовая идея, даже думать не нужно. У нас бы некоторые за такое в институте душу продали, если бы она была.
#5 | 13:50 19.03.2023 | Кому: Artur_K
> У нас бы некоторые за такое в институте душу продали, если бы она была.

Ну по поиску изображений в гугл примерно такое же можно найти.
#6 | 14:56 19.03.2023 | Кому: Ttt107
> Ну по поиску изображений в гугл примерно такое же можно найти.

Ключевое - примерно. А тут типа навеяно чем-то, но свое вроде как. Не все же думать хотят. Мы сами придумывали, сейчас оно нетактуально видимо. Я в чат наш архитектурный картинок покидал сначала, все повосхищались, когда сказал, что это нейросеть, то тут же кинулись туда идеи искать) Новое мало кто придумывает, почти все идеи мастеров идут в работу и компилируются, а тут за тебя всё делается, только вводи вводные.
#7 | 14:58 19.03.2023 | Кому: Artur_K
> тут же кинулись туда идеи искать)

Ну и что, много нашли и стали великими архитекторами?
На мой взгляд, реальные архитектурные концепты вдохновляют не меньше
#8 | 16:15 19.03.2023 | Кому: Всем
Учетом того, что такое ТС, вспоминается анекдот про драку педиков и лесбиянок. Так и хочется спросить: "И как там ваши???"
В топку и в спам.
di_ego99
идиот »
#9 | 17:04 19.03.2023 | Кому: Ttt107
> Ну по поиску изображений в гугл примерно такое же можно найти.

Оно так и работает. Робота кормят примерами, а потом просят нахватать деталей из увиденного и собрать монстра Франкенштейна. Вырождение решений со временем очевидно.
di_ego99
идиот »
#10 | 17:05 19.03.2023 | Кому: Artur_K
> Нейросетки скоро реально выдавят кучу людей из профессий, не тотально, но многие уже не нужны будут.

"Если к власти придут программисты, то целые министерства заменят на небольшой скрипт."
Это перестало быть шуткой.
#11 | 18:22 19.03.2023 | Кому: Ttt107
> Ну и что, много нашли и стали великими архитекторами?
> На мой взгляд, реальные архитектурные концепты вдохновляют не меньше

Я не про тех, кто сам придумывает, а кто схалявить решил.
#12 | 04:03 20.03.2023 | Кому: Artur_K
> Я не про тех, кто сам придумывает, а кто схалявить решил.

Ну, помогло им это? Получалось схалявить? Или попусту время потратили?
#13 | 11:51 20.03.2023 | Кому: Ttt107
> Ну, помогло им это? Получалось схалявить? Или попусту время потратили?

Я нигде и не говорил, что кому-то что-то получилось, я потенциал оценивал. Ну вот я сам лично образ здания могу пару недель , а то и месяц придумывать, а тут забил в нейросетку желаемое, посмотрел что нравится из кучи вариантов, обработал и вуаля. Возвращаемся к моему изначальному посту. Это тупо экономия времени.
#14 | 12:52 20.03.2023 | Кому: Artur_K
> Ну вот я сам лично образ здания могу пару недель , а то и месяц придумывать, а тут забил в нейросетку желаемое, посмотрел что нравится из кучи вариантов, обработал и вуаля. В

На мой взгляд, этот конкретный случай точно также решается поиском по картинкам. Но, может, я ошибаюсь.
#15 | 14:10 20.03.2023 | Кому: Ttt107
> На мой взгляд, этот конкретный случай точно также решается поиском по картинкам. Но, может, я ошибаюсь.

Ошибаешься и не понимаешь принцип работы.
#16 | 15:40 20.03.2023 | Кому: Artur_K
> Ошибаешься и не понимаешь принцип работы.

Я десять лет работаю в архитектурном бюро и совершенно не разбираюсь в предмете :)
#17 | 05:46 21.03.2023 | Кому: Ttt107
> Я десять лет работаю в архитектурном бюро и совершенно не разбираюсь в предмете :)

С 13-ти лет? Я тебе по секрету скажу, но детский труд у нас под запретом)
#18 | 06:05 21.03.2023 | Кому: Artur_K
> С 13-ти лет? Я тебе по секрету скажу, но детский труд у нас под запретом

Исправил.
#19 | 09:06 24.03.2023 | Кому: Ttt107
> Я десять лет работаю в архитектурном бюро и совершенно не разбираюсь в предмете :)

Я 20-ть. Да, начал работать в институте, так как родители архитекторы были. Я до сих пор рапидом или карандашом рисую эскизы, калечки там всякие, потом уже все эти ваши архикады, скечапы и тридэмаксы (кстати, для скечапа классный плагин рендера появился). Ну вот теперь можно эскизы не рисовать, грузануть в нейросетку, время сэкономит однозначно, а не вот эти творческие муки.
#20 | 16:06 24.03.2023 | Кому: Artur_K
> Ну вот теперь можно эскизы не рисовать, грузануть в нейросетку, время сэкономит однозначно, а не вот эти творческие муки

На практике пробовали? Не как развлечение, а на работе?
#21 | 18:54 24.03.2023 | Кому: Ttt107
> На практике пробовали? Не как развлечение, а на работе?

Пробовали, не я конкретно, но коллеги.
Мне вот интересно что ты доказать хочешь. Или опровергнуть.
#22 | 19:02 24.03.2023 | Кому: Artur_K
> Мне вот интересно что ты доказать хочешь.

Интересуюсь.
#23 | 19:09 24.03.2023 | Кому: Ttt107
> Интересуюсь.

Ну я уже все описал, даже не знаю как дальше отвечать.
#24 | 19:20 24.03.2023 | Кому: Artur_K
> Ну я уже все описал, даже не знаю как дальше отвечать

Ну я понял, что вы слышали, что это может быть полезным.
Войдите или зарегистрируйтесь чтобы писать комментарии.