Минобороны РФ требует запрета ChatGPT

cnews.ru — ChatGPT - это оружие, загоняющее россиян в когнитивную ловушку. Минобороны выступило за запрет использования алгоритмов генеративного искусственного интеллекта (ChatGPT и пр.) в критически важных сферах. Они не выдают объективного результата и могут быть использованы для сбора разведывательной информации и когнитивного воздействия на население. ChatGPT, Midjourney, Dall-e 2, StableDiffusion и пр.системы не воспроизводят объективных моделей знаний, а отражают особенности и цели их создателей.

Новости, Компьютеры | leor 10:17 26.12.2023

16 комментариев | 42 за, 3 против |

#1 | 11:43 26.12.2023 | Кому: porcupine_free

> А Минобороны в курсе, что он на территории РФ не работает?

С чего это не работает? Есть куча программ, которые подключены к ChatGPT, и которые прекрасно работают в России. Огромное количество людей их использует повсеместно.
Куча расширений к хрому (Яндекс браузеру) с ChatGPT.

#2 | 11:47 26.12.2023 | Кому: porcupine_free

> Инстаграмм, кстати, тоже работает. Через VPN.

VPN как бы выводит ваш компьютер за пределы России. Так что это немного другое.
А вот чатгпт через свои приложения работает на компьютерах и телефонах в России без проблем

#3 | 11:49 26.12.2023 | Кому: McLeod

> Кто-то с этим не согласен?

Точность у чатгпт во многих случаях не 100%. Но фишка в том, что и у человека тоже.
Вопрос тонкий и требует внимательно рассмотрения.
В целом чатгпт прекрасный советник во многих вопросах. Советник человек тоже же не имеет права принимать решения.

#4 | 14:35 26.12.2023 | Кому: split

> Фишка в том, что для генеративных аи вообще отсутствует понятие достоверности информации. И пурги он нагенерит с той же легкостью, что и процитирует статью из энциклопедии.

Врач с какой достоверностью диагноз ставит, если это что-то сложнее простуды?
А по УЗИ человек с какой достоверностью читает информацию? Около 90%.

Вот то-то.

И это если не говорить про правильность принятия решений политиками, которую вообще никто не измеряет, потому что непонятно как, но у всех есть подозрения, что где-то были ошибки :)

#5 | 14:55 26.12.2023 | Кому: split

> Врача учат анализировать данные. ЖоПоТэ учат генерить текст, попадающий в контекст запроса. Грубо говоря, фразы "пушкин жил в 19 веке" и "пушкин жил в 29 веке" для него одинаковы.

Как и для человека, который не знает, кто такой Пушкин. Но чатгпт знает, кто такой Пушкин, и ответит правильно.
И диагноз поставит с достоверностью не ниже чем врач, если ему предоставить такой же объем информации о пациенте.

#6 | 15:13 26.12.2023 | Кому: split

> Врача учат анализировать данные. ЖоПоТэ учат генерить текст,

Какая разница пациенту? Пациенту важен правильный диагноз.

#7 | 18:38 26.12.2023 | Кому: split

> Ладно, я просто оставлю это здесь:

К сожалению на русском по медицинским вопросам пишет чушь.
Поэтому надо просить его вопросы и ответы переводить на английский и обратно.

#8 | 21:09 26.12.2023 | Кому: Gopher

> К сожалению, чат-гпт не понимает того, что он отвечает. Но очень успешно имитирует человеческий тест

Потребителю какая разница, если он получает результат, который достовернее результата, подготовленного человеком?

#9 | 07:12 27.12.2023 | Кому: angryPhD

> Если кратко, такие сети хорошо имитируют результаты исследований, но если начать разбираться, то генерируют они бред.

Но по факту все равно лучше чем среднее врач. И в чем разница для пациента?

#10 | 07:14 27.12.2023 | Кому: McLeod

> А так, каждое утро по радио гороскопы передают, кто-то же их слушает?
> А смысла там не больше, я без всякой жипити на бейсике напишу генератор утренних гороскопов, ничем не хуже Глобы будет.

С гороскопами, конечно, примерно так и выходит. Но с врачебными диагнозами уже нет.

#11 | 08:52 27.12.2023 | Кому: McLeod

> А ты выпьешь таблетку, которую тебе намешал чат джипити?

Нет, точно также как я не выпью таблетку, которую "намешал" доктор.

#12 | 17:06 27.12.2023 | Кому: inner_s

> рецепты известных блюд и коктейлей с помощью нейросетки

На русском? На русском ерунда выходит.

#13 | 17:08 27.12.2023 | Кому: McLeod

> > Нет, точно также как я не выпью таблетку, которую "намешал" доктор.
>
> Тогда у тебя и земля плоская должна быть.

Вы серьезно будете связываться с доктором, который "намешивает" таблетки?
Это, в первую очередь, не вполне законно.

#14 | 18:47 27.12.2023 | Кому: McLeod

> Т. е. про рецептурные отделы в аптеках ты не слышал?

А, вы про это!

> Хорошо, пусть тебе жипити выпишет Имодиум от запора. Будешь пить?

Если вам доктор выпишет сахарок от онкологии?

#15 | 05:36 28.12.2023 | Кому: McLeod

> Доктор - не выпишет. А безмозглая фигня - легко.

Мне кажется, что ваши рассуждения умозрительны и не основаны на ежедневной общении с железным болваном.

#16 | 07:58 28.12.2023 | Кому: McLeod

Просто чатгпт плохо работает с русским языком.

Войдите или зарегистрируйтесь чтобы писать комментарии.