Почему нейросети всегда лгут (и это неизбежно)

youtube.com — Короткое десятиминутное объяснение на пальцах: по какому принципу работаю нейросети, зачем корпорации вводят цензуру для своих нейросетей и почему результат работы нейросети это фактически галлюцинация. Более или менее близкая к реальности, но галлюцинация. Что всегда нужно учитывать при работе с ними. (ссылка для безютубных https://files.catbox.moe/xq87ha.mp4 )
Новости, Наука | КонтрАдмирал 20 дней назад
10 комментариев | 33 за, 1 против |
#1 | 20 дней назад | Кому: Всем
С людьми та же самая фигня. Чем больше и совершеннее модель тем точнее ответы. В мозгах так же почти устроено. Если человек плохо знает (маленькая база) он будет отвечать как девки с Патриков.
#2 | 20 дней назад | Кому: Всем
Можно ещё проще: нейросеть(LLM) это T9 на максималках.
#3 | 20 дней назад | Кому: Всем
Ещё Козьма Прутков писал в XIX веке:
"Если на клетке со слоном написано "Буйвол" не верь глазам своим - это всё ёбаная нейросеть криво сгенерировала!"
#4 | 20 дней назад | Кому: baraka16
> Ещё Козьма Прутков писал в XIX веке:

Не в XIX веке он писал, а в Одноклассниках!!!
#5 | 20 дней назад | Кому: Склеп
> Не в XIX веке он писал, а в Одноклассниках!!!

Голосом Джейсона Стетхема!!!
#6 | 19 дней назад | Кому: Всем
фигня, они поумнеют.
#7 | 19 дней назад | Кому: karbo
> они поумнею

Ну или пользователи отупеют достаточно, чтобы не различать косяков.
Ципко
надзор »
#8 | 19 дней назад | Кому: Всем
Хм, эта информация устарела. Доверяй, но проверяй. Пользуйтесь нейросетями с поиском и отсылками к источникам, а уж выверку по нескольким ссылкам не сложно провести.
#9 | 19 дней назад | Кому: karbo
> фигня, они поумнеют.

Ну скажем так: архитектура LLM на трансформерах - не поумнеет, у нее можно только уменьшить вероятность галлюцинаций с помощью увеличения размеров модели.
А вотт если создать другую архитектуру, например на смеси из трансформеров и тех же GAN-ов - вполне может помочь.
#10 | 19 дней назад | Кому: tonyware
увеличат размеры, сделают еще несколько сетей, которые будут проверять её и друг друга и тд.
Войдите или зарегистрируйтесь чтобы писать комментарии.