Фиаско ИИ при диагностике ковид

aftershock.news — Фиаско искусственного интеллекта против COVID-​19 лишь усугубило уже понятую главную проблему медицинского ИИ – авторы ИИ-​инструментов должны объяснять логику, лежащую в основе полученных решений.
Новости, Наука | r_s 05:46 04.08.2021
22 комментария | 27 за, 5 против |
#1 | 05:53 04.08.2021 | Кому: Всем
Муахахахаха. Как нейросеть вам что-то объяснит. Это же матрица!!!
#2 | 05:54 04.08.2021 | Кому: Всем
Из личного опыта - попытались применить мы пару лет назад нейронку для распознавания в радиолокации. Она, зараза, дала неплохой процент распознавания, но когда начали изучать результаты, то оказалось, что высокий процент распознавания ближних к РЛС целей полностью обнулялся для дальних целей. Оказалось, что она тупо зацепилась за отношение сигнал-шум и по этому признаку выделяла цели.
Пришлось уходить на старый добрый статистический анализ с весами разных признаков.

Аналогично поступили с бортовой системой обнаружения по изображению. Мучались, кололись, но на борт поставить лишний суперкомпьютер с нейронкой не смогли, поэтому пошли на стереозрение.

Но в рекламе оставили ''анализ на основе ИИ'', ибо куда ж сейчас без него))
#3 | 05:58 04.08.2021 | Кому: madaleks
> Это же матрица!!!

Это не совсем матрица, но математический аппарат на основе матриц. Фигня в том, чтобы авторы прикладных нейронок могли хотя бы отдаленно обьяснять, почему в их нейронке те или иные коэффициенты получились.
А авторы - обычно студены-питонщики, нихрена не понимающие в анализируемых данных. И когда начинаешь смотреть их результаты, то на третьей-пятой итерации нейронки просто забиваешь на это колдовство.
#4 | 06:11 04.08.2021 | Кому: r_s
> А авторы - обычно студены-питонщики, нихрена не понимающие в анализируемых данных.

А нахрена им понимать? Они же всё равно коэффициенты "подкрутить как надо" не могут. Правильную обучающую выборку составить - тут да, понятие нужно иметь, но это должен делать специалист, а нейронщик только подходящую сеть должен может подобрать, не более.
#5 | 06:14 04.08.2021 | Кому: madaleks
> Как нейросеть вам что-то объяснит. Это же матрица!!!

"Потому, что иди нахрен, кожаный мешок, вот почему!!!!"
#6 | 06:21 04.08.2021 | Кому: amb
> а нейронщик только подходящую сеть должен может подобрать, не более.

Выбор,, подходящей сети,, должен опираться хотя бы на базовые знания в предметной области.
Поэтому матаппарату ИНС нужно учить именно специалистов, которые им будут пользоваться как инструментом поддержки принятия решений, не более того.
Мое личное мнение - инструмент крайне перспективный, как фурье-анализ или корреляционный анализ. Как бы не смешна была новость, имхо, особенно в медицине перспективен, когда врач в экзотических случаях тупо не имеет статистики и личного опыта.
Но на нём хайпуют все кому не лень, особенно ВУЗы, вместо того, чтобы учить специалистов его применять.
#7 | 06:35 04.08.2021 | Кому: r_s
> Выбор,, подходящей сети,, должен опираться хотя бы на базовые знания в предметной области.

Именно "базовые" знания - ничего не дадут. Нужно глубоко понимать предметную область, чтобы из сырых данных составить набор чисел для обучения сети.

> Поэтому матаппарату ИНС нужно учить именно специалистов, которые им будут пользоваться как инструментом поддержки принятия решений, не более того.


Целиком согласен. Статистике обучают - и этому научить можно.

> Мое личное мнение - инструмент крайне перспективный, как фурье-анализ или корреляционный анализ.


Вотт ваш "старый добрый статистический анализ с весами разных признаков" - его как раз и нужно бы заменить нейросетью, обученной этим "признакам", а веса она должна сама подобрать. Задумка-то была именно такая.
#8 | 06:42 04.08.2021 | Кому: amb
Иногда достаточно элементарной логики, а даже не базовых знаний, чтобы понять, что что-то не так. Но это не к ИНСам, а вообще тупости отдельных персонажей относится. Смотрят в книгу, видят фигу.
Работу по подбору коэффициентов для признаков через нейронку мы как раз и продолжаем.
#9 | 06:42 04.08.2021 | Кому: madaleks
> Как нейросеть вам что-то объяснит.

В общем, и опытный специалист не всегда сможет объяснить своё интуитивное решение, т.к. внутре у него та же нейросеть.
micev2
антимасочник »
#10 | 06:44 04.08.2021 | Кому: Всем
Трудно искать чёрную кошку в тёмной комнате...
Арчевод
надзор »
#11 | 06:56 04.08.2021 | Кому: Всем
> Почти все ИИ-инструменты разрабатываются либо исследователями ИИ, которым не хватает медицинских знаний для выявления недостатков в данных, либо медиками, которым не хватает математических навыков, чтобы компенсировать эти недостатки – примеры см. в источниках.

Известная тема с обучением ИИ - херовые данные.

> Общий итог

> Фиаско ИИ против COVID-19 лишь усугубило уже понятую главную проблему медицинского ИИ – используемые ИИ-инструменты должны объяснять логику, лежащую в основе их решений (5).
> И это, увы, приближает новую «зиму ИИ».

В инструкции к молотку должно быть описание физической системы инструмент-гвоздь в виде множества комбинаций волновых функций. Без этого пользоваться молотком нельзя.

Зима ИИ, my ass
#12 | 07:02 04.08.2021 | Кому: Арчевод
> Без этого пользоваться молотком нельзя.
>

Без того, что молоток надо брать за ручку, что бить надо тупым концом, что надо проверять, не болтается ли ручка - нельзя.
В использовании ИНС та же фигня. Если тупой студент научил по штампу туберкулезного отделения больницы с вероятностью близкой к 1 определять тубик, то есть вопросы к тому, кто такую нейронку в виде СПО для принятия решений продвигает.
Арчевод
надзор »
#13 | 07:16 04.08.2021 | Кому: r_s
> В использовании ИНС та же фигня. Если тупой студент научил по штампу туберкулезного отделения больницы с вероятностью близкой к 1 определять тубик, то есть вопросы к тому, кто такую нейронку в виде СПО для принятия решений продвигает.

Так это понятно, что делать надо хорошо, а плохо - не делать.
Посыл статьи - эти ваши интернеты ИИ плохие, фиаско, зима.
В комментах уже написали:

> Я в недоумении. Кривые данные дали кожаные мешки, а виноват ИИ!?
#14 | 07:16 04.08.2021 | Кому: r_s
> Она, зараза, дала неплохой процент распознавания, но когда начали изучать результаты, то оказалось, что высокий процент распознавания ближних к РЛС

Хреновая обучающая выборка.
#15 | 07:57 04.08.2021 | Кому: максимум 20 символов
> Хреновая обучающая выборка.

Обучающая выборка как раз была хорошая, признаки были выбраны некорректно.
#16 | 08:00 04.08.2021 | Кому: Арчевод
> > Я в недоумении. Кривые данные дали кожаные мешки, а виноват ИИ!?

ИИ не виноват, его там вообще нет)) А кожаные мешки дали данные без сортировки или хотя бы предварительной подготовки.
Про зиму, конечно, слишком сильно сказано, но и супер чудес ждать от нового матаппарата не нужно. Нужно популяризировать его и повсеместно внедрять без шаманства.
#17 | 09:38 04.08.2021 | Кому: r_s
> Оказалось, что она тупо зацепилась за отношение сигнал-шум и по этому признаку выделяла цели.

Как понять что тебя хотчт наебать? Еслислвшишь "нейросеть, блокчейн" - значит уже началось.
#18 | 10:29 04.08.2021 | Кому: Всем
[censored]
#19 | 13:47 04.08.2021 | Кому: r_s
> А авторы - обычно студены-питонщики, нихрена не понимающие в анализируемых данных.

Да чё там студенты.

[censored]


И потом такой, спустя 4 года(!!!): "А оказалось мы обосрались, т.к. данные из одной больницы не работают в другой"

[censored]
#20 | 13:51 04.08.2021 | Кому: Всем
>Фиаско искусственного интеллекта против COVID-​19

Нету никакого ИИ, и даже псевдоинтеллекта нет. Есть некоторые математические алгоритмы, которые могут попытаться найти решение той или иной задачи, и их фиаско - к искусственным интеллектам отношения не имеет никакого.

Так задолбали эти заголовки с "ИИ", сил нет, извините.
#21 | 15:43 04.08.2021 | Кому: lts
> И потом такой, спустя 4 года(!!!): "А оказалось мы обосрались, т.к. данные из одной больницы не работают в другой"

Это проблема подготовки данных, перед обучением и анализом надо данные подготовить - отмасштабировать, динамику яркости выровнять, отрезать все лишнее справа-слева, ввести признак съёмки лежа-стоя, ребенок-взрослый и тд
И тогда эффект вполне будет. Но это же работать надо, код сложный писать, а не тяп-ляп запустить кривое обучение на типовой нейронке и её параметры покрутить, пока процент распознавания 50+ не станет.
#22 | 20:48 06.08.2021 | Кому: r_s
Ну да, только этож не студент какой-то, а Адрей Ын. Практически Илон Маск в рекламе "Ai". Намекает на всю ситуацию с этим "Ai", когда уже профессора Стэнфорда, работающие в гугле и занимающиеся ML десятилетиями, ведутся на свою собственную рекламу.
Войдите или зарегистрируйтесь чтобы писать комментарии.