Минобороны РФ требует запрета ChatGPT

cnews.ru — ChatGPT - это оружие, загоняющее россиян в когнитивную ловушку. Минобороны выступило за запрет использования алгоритмов генеративного искусственного интеллекта (ChatGPT и пр.) в критически важных сферах. Они не выдают объективного результата и могут быть использованы для сбора разведывательной информации и когнитивного воздействия на население. ChatGPT, Midjourney, Dall-e 2, StableDiffusion и пр.системы не воспроизводят объективных моделей знаний, а отражают особенности и цели их создателей.
Новости, Компьютеры | leor 10:17 26.12.2023
60 комментариев | 42 за, 3 против |
#1 | 10:18 26.12.2023 | Кому: Всем
А Минобороны в курсе, что он на территории РФ не работает? :)
#2 | 10:21 26.12.2023 | Кому: Всем
Внезапно, если нанимать инженеров, которые в этом разбираются, вам все эти ограничения будут указаны и описаны способы обхода их. Будет как с дронами еще недавно.
#3 | 10:23 26.12.2023 | Кому: Всем
А минобороны в курсе про существование YandexGPT и Балабоба от Яндекса, GigaСhat от Сбера и других?
Чего только в ChatGPT упёрлись-то?
#4 | 10:30 26.12.2023 | Кому: Sean1s
> А минобороны в курсе про существование YandexGPT и Балабоба от Яндекса, GigaСhat от Сбера и других?

Не, ну это наши. Их можно. Вредные только западные.
#5 | 10:32 26.12.2023 | Кому: Всем
Клоуны, запрещать надо сразу США, нет США - нетт соблазнов! Вотт!
А Академик Сахаров, не зря предлагал смыть их с поверхности Америки! Еще тогда все понял!
#6 | 10:33 26.12.2023 | Кому: Всем
Минобороны вместо того чтобы пытаться запрещать книги и обучение грамоте (а то вдруг что-то не то прочитают!!!) лучше бы поучаствовало в запрете необразованных и невоспитанных мудаков, на которых все эти когнитивные ловушки и расчитаны.
#7 | 10:33 26.12.2023 | Кому: ratamahata
> запрещать надо сразу США

Только надо сначала завести уголовное дело и объявить их в розыск.
#8 | 10:36 26.12.2023 | Кому: Sean1s
> А минобороны в курсе про существование YandexGPT и Балабоба от Яндекса, GigaСhat от Сбера и других?

Там в статье про них:

> В то же время в России необходимо разработать собственные (доверенные) системы с ГИИ для недопущения информационного воздействия на российское население, в том числе когнитивного характера.
#9 | 10:42 26.12.2023 | Кому: Sir Agressor
> Минобороны вместо того чтобы пытаться запрещать книги и обучение грамоте (а то вдруг что-то не то прочитают!!!

В свободной продаже нашел труды Владимира Ленина и (о, ужас!) Карла Маркса
#10 | 10:46 26.12.2023 | Кому: Sir Agressor
> невоспитанных мудаков, на которых все эти когнитивные ловушки и расчитаны.

Первый шаг попадания в когнитивную ловушку - подумать что на тебя она не работает.
#11 | 10:47 26.12.2023 | Кому: Всем
Наконец то.! А то все новости про носок и голую сраку лолиты.
#12 | 10:55 26.12.2023 | Кому: Всем
ChatGPT врет и выдумывает все время. Впрочем, Алиса тоже.
#13 | 10:55 26.12.2023 | Кому: angryPhD
Второй шаг- подумать, что она на тебя работает.
Третий шаг- вера в великий Когнитус.
Четвертый шаг- Когнит Акбар, режь неверных!
#14 | 11:01 26.12.2023 | Кому: DmitryX86
> Впрочем, Алиса тоже

Алиса ещё и про негров говорить отказывается. А GPT на меня обиделся, когда я его сначала вынудил признать, что для размножения нужны разнополые люди, а затем мы смоделировали ситуацию при которой всё население планеты, обладая свободой и правом выбора, решило записаться в гейство. Он там что-то бубнил про статистику, но уравнять абсолютное гейство и проблему с размножением у него не вышло.
#15 | 11:10 26.12.2023 | Кому: porcupine_free
Точно! Спросил про негров, Алиса ответила, что не научилась поддерживать такие разговоры, хотя негроидную расу назвала. Недоразвитая выходит
#16 | 11:33 26.12.2023 | Кому: Всем
>Минобороны выступило за запрет использования алгоритмов генеративного искусственного интеллекта (ChatGPT и пр.) в критически важных сферах. Ведомство предупреждают: такие алгоритмы не выдают объективного результата

Кто-то с этим не согласен?
Тупое МО не хочет допускать к принятию решений железного болвана, который не знает, сколько пальцев рисовать?
#17 | 11:43 26.12.2023 | Кому: porcupine_free
> А Минобороны в курсе, что он на территории РФ не работает?

С чего это не работает? Есть куча программ, которые подключены к ChatGPT, и которые прекрасно работают в России. Огромное количество людей их использует повсеместно.
Куча расширений к хрому (Яндекс браузеру) с ChatGPT.
#18 | 11:45 26.12.2023 | Кому: Ttt107
>
> С чего это не работает?

Инстаграмм, кстати, тоже работает. Через VPN.
#19 | 11:47 26.12.2023 | Кому: porcupine_free
> Инстаграмм, кстати, тоже работает. Через VPN.

VPN как бы выводит ваш компьютер за пределы России. Так что это немного другое.
А вот чатгпт через свои приложения работает на компьютерах и телефонах в России без проблем
#20 | 11:49 26.12.2023 | Кому: McLeod
> Кто-то с этим не согласен?

Точность у чатгпт во многих случаях не 100%. Но фишка в том, что и у человека тоже.
Вопрос тонкий и требует внимательно рассмотрения.
В целом чатгпт прекрасный советник во многих вопросах. Советник человек тоже же не имеет права принимать решения.
#21 | 12:02 26.12.2023 | Кому: Ttt107
> > Кто-то с этим не согласен?
>
> Точность у чатгпт во многих случаях не 100%. Но фишка в том, что и у человека тоже.
> Вопрос тонкий и требует внимательно рассмотрения.
> В целом чатгпт прекрасный советник во многих вопросах. Советник человек тоже же не имеет права принимать решения.

Да ладно. У нас любой таксист знает, как войну выиграть.
#22 | 12:22 26.12.2023 | Кому: ratamahata
> А Академик Сахаров, не зря предлагал смыть их с поверхности Америки! Еще тогда все понял!

Может всё-таки товарищ Курчатов? Сахаров скорее предложил бы нас смыть.
#23 | 12:31 26.12.2023 | Кому: Sean1s
> Чего только в ChatGPT упёрлись-то?

Он самый продвинутый на сегодня. Но всё быстро меняется.
#24 | 13:01 26.12.2023 | Кому: Всем
Чо сразу запретить. Сначала надо переименовать, а если не поможет, статус иносраного агента присвоить. А уж опосля...
#25 | 13:07 26.12.2023 | Кому: Ttt107
> Точность у чатгпт во многих случаях не 100%. Но фишка в том, что и у человека тоже.

Фишка в том, что для генеративных аи вообще отсутствует понятие достоверности информации. И пурги он нагенерит с той же легкостью, что и процитирует статью из энциклопедии.
#26 | 13:08 26.12.2023 | Кому: Всем
Требую окропить этот ваш Чат ГПТ!
#27 | 13:24 26.12.2023 | Кому: Свежий Интернет
> Требую окропить этот ваш Чат ГПТ!

[censored]
#28 | 13:44 26.12.2023 | Кому: Harmton
Чат ГПТ наносит ответный удар
#29 | 14:14 26.12.2023 | Кому: Всем
> Минобороны выступило за запрет использования алгоритмов генеративного искусственного интеллекта (ChatGPT и пр.) в критически важных сферах.

В смысле деятельность в критически важных сферах доступна врагу?

Тут можно лишь рот от изумления открыть.
#30 | 14:32 26.12.2023 | Кому: ratamahata
> Клоуны, запрещать надо сразу США, нет США - нетт соблазнов! Вотт!

Мыслить надо конструктивно, позитивно и созидательно. Не надо никого и ничего запрещать. Надо построить пролив имени товарища Сталина.
#31 | 14:35 26.12.2023 | Кому: split
> Фишка в том, что для генеративных аи вообще отсутствует понятие достоверности информации. И пурги он нагенерит с той же легкостью, что и процитирует статью из энциклопедии.

Врач с какой достоверностью диагноз ставит, если это что-то сложнее простуды?
А по УЗИ человек с какой достоверностью читает информацию? Около 90%.

Вот то-то.

И это если не говорить про правильность принятия решений политиками, которую вообще никто не измеряет, потому что непонятно как, но у всех есть подозрения, что где-то были ошибки :)
#32 | 14:51 26.12.2023 | Кому: Ttt107
> Врач с какой достоверностью диагноз ставит, если это что-то сложнее простуды?

Я не об этом. Врача учат анализировать данные. ЖоПоТэ учат генерить текст, попадающий в контекст запроса. Грубо говоря, фразы "пушкин жил в 19 веке" и "пушкин жил в 29 веке" для него одинаковы.
#33 | 14:55 26.12.2023 | Кому: split
> Врача учат анализировать данные. ЖоПоТэ учат генерить текст, попадающий в контекст запроса. Грубо говоря, фразы "пушкин жил в 19 веке" и "пушкин жил в 29 веке" для него одинаковы.

Как и для человека, который не знает, кто такой Пушкин. Но чатгпт знает, кто такой Пушкин, и ответит правильно.
И диагноз поставит с достоверностью не ниже чем врач, если ему предоставить такой же объем информации о пациенте.
#34 | 15:13 26.12.2023 | Кому: split
> Врача учат анализировать данные. ЖоПоТэ учат генерить текст,

Какая разница пациенту? Пациенту важен правильный диагноз.
#35 | 15:23 26.12.2023 | Кому: CoPBaHeu
> Может всё-таки товарищ Курчатов? Сахаров скорее предложил бы нас смыть.

« Тогда Сахаров предложил другое решение: торпеду с боеголовкой в 100 мегатонн. Если выпустить такую с подводной лодки по крупному порту вроде Нью-Йорка или Лос-Анджелеса, она нанесет огромный урон не только радиацией и взрывном, но и приливной волной.

Предполагалось, под торпеду Т-16 весом в 40 тонн и длиной в 24 метра будет создана специальная подводная лодка, да и она сможет взять на борт лишь одну. Уже одно это обстоятельство объясняет, почему от такой перспективы содрогнулись даже в ВМФ Советского Союза. Как впоследствии вспоминал сам Сахаров, один советский адмирал был «ужаснулся и возмутился самой идеей столь бесчеловечной мясорубки», заметив, что офицеры и моряки привыкли воевать с врагом в открытом бою.

Устыдившись того чудовища, которое сам задумал, Сахаров встал на путь диссидентства и позднее попал в тюрьму (в действительности — в ссылку, прим. перев.) за то, что осмелился ратовать за ограничение вооружений и критиковать советскую власть за нарушение прав человека.
#36 | 15:27 26.12.2023 | Кому: Ttt107
Ладно, я просто оставлю это здесь:
https://vott.ru/entry/627318
#37 | 18:38 26.12.2023 | Кому: split
> Ладно, я просто оставлю это здесь:

К сожалению на русском по медицинским вопросам пишет чушь.
Поэтому надо просить его вопросы и ответы переводить на английский и обратно.
Gopher
надзор »
#38 | 19:54 26.12.2023 | Кому: Ttt107
> Как и для человека, который не знает, кто такой Пушкин. Но чатгпт знает, кто такой Пушкин, и ответит правильно.
> И диагноз поставит с достоверностью не ниже чем врач, если ему предоставить такой же объем информации о пациенте.

К сожалению, чат-гпт не понимает того, что он отвечает. Но очень успешно имитирует человеческий тест.

В результате этого непонимания он легко выдает перлы из разряда "ворона пролетела на на север 10 километров, а на запад 6 километров, соответственно волной этап полета был длиннее первого этапа"
#39 | 21:09 26.12.2023 | Кому: Gopher
> К сожалению, чат-гпт не понимает того, что он отвечает. Но очень успешно имитирует человеческий тест

Потребителю какая разница, если он получает результат, который достовернее результата, подготовленного человеком?
#40 | 05:51 27.12.2023 | Кому: Ttt107
>> К сожалению, чат-гпт не понимает того, что он отвечает. Но очень успешно имитирует человеческий тест

> Потребителю какая разница, если он получает результат, который достовернее результата, подготовленного человеком?


Такому потребителю, который не понимает, разницы, действительно, нет.
Надеюсь, таких в МО на серьезные должности не берут.

А так, каждое утро по радио гороскопы передают, кто-то же их слушает?
А смысла там не больше, я без всякой жипити на бейсике напишу генератор утренних гороскопов, ничем не хуже Глобы будет.
#41 | 06:19 27.12.2023 | Кому: Ttt107
> Но чатгпт знает, кто такой Пушкин, и ответит правильно.

Чат гпт вообще ничего не знает.
Там знать некому.
#42 | 06:56 27.12.2023 | Кому: Ttt107
> Потребителю какая разница, если он получает результат, который достовернее результата, подготовленного человеком?

Проблема генеративных сетей в верификации результата.
Почитай про попытки создания генеративной сети для научных исследований.

Если кратко, такие сети хорошо имитируют результаты исследований, но если начать разбираться, то генерируют они бред.
Проблема в том, что что бы понять что это бред, нужны специалисты международного уровня.
То есть, генеративные сети очень плохи в науке, но превосходны в обмане.
#43 | 07:12 27.12.2023 | Кому: angryPhD
> Если кратко, такие сети хорошо имитируют результаты исследований, но если начать разбираться, то генерируют они бред.

Но по факту все равно лучше чем среднее врач. И в чем разница для пациента?
#44 | 07:14 27.12.2023 | Кому: McLeod
> А так, каждое утро по радио гороскопы передают, кто-то же их слушает?
> А смысла там не больше, я без всякой жипити на бейсике напишу генератор утренних гороскопов, ничем не хуже Глобы будет.

С гороскопами, конечно, примерно так и выходит. Но с врачебными диагнозами уже нет.
#45 | 07:43 27.12.2023 | Кому: Ttt107
> > Если кратко, такие сети хорошо имитируют результаты исследований, но если начать разбираться, то генерируют они бред.
>
> Но по факту все равно лучше чем среднее врач. И в чем разница для пациента?

А ты выпьешь таблетку, которую тебе намешал чат джипити?
#46 | 08:15 27.12.2023 | Кому: Всем
Пополуярные GPT научены с учетом западной повесточки, а скорее всего там на нее сделан упор. Сбер и яндекс, похоже, взяли западные и что-то там доучивают свое. За это Ашманов пояснял в своих интервью.
Формилировка от Минобороны довольно точная. Эти чаты - манипулятивный инструмент, который человекоподобно реагирует на запрос пользовоталя. Для многих это сразу вызывает доверие.
#47 | 08:52 27.12.2023 | Кому: McLeod
> А ты выпьешь таблетку, которую тебе намешал чат джипити?

Нет, точно также как я не выпью таблетку, которую "намешал" доктор.
#48 | 09:14 27.12.2023 | Кому: Ttt107
> > А ты выпьешь таблетку, которую тебе намешал чат джипити?
>
> Нет, точно также как я не выпью таблетку, которую "намешал" доктор.

Тогда у тебя и земля плоская должна быть.
#49 | 09:17 27.12.2023 | Кому: kliozero
> Формилировка от Минобороны довольно точная. Эти чаты - манипулятивный инструмент, который человекоподобно реагирует на запрос пользовоталя. Для многих это сразу вызывает доверие.

В магазинах встречаются манекены такие, что иной раз с человеком можно спутать. Но никто ж с ними бесед не ведет.
А тут, поди ж ты, Искусственный Интеллект! Лучше доктора!
#50 | 09:47 27.12.2023 | Кому: Ttt107
> Точность у чатгпт во многих случаях не 100%. Но фишка в том, что и у человека тоже.
> Вопрос тонкий и требует внимательно рассмотрения.
> В целом чатгпт прекрасный советник во многих вопросах. Советник человек тоже же не имеет права принимать решения.

Когда появилась возможность баловаться с чатджыпыты, я ради интереса стал составлять рецепты известных блюд и коктейлей с помощью нейросетки. Запрос в духе "напиши мне новый рецепт пельменей с креветками на брусничном соусе", ну и нейросетка выдавала там перлы вроде "400 грамм сливочного масла смешать со стаканом муки, добавить две столовых ложки поваренной соли и кожуру апельсина..."
Войдите или зарегистрируйтесь чтобы писать комментарии.