Фиаско ИИ при диагностике ковид

aftershock.news — Фиаско искусственного интеллекта против COVID-​19 лишь усугубило уже понятую главную проблему медицинского ИИ – авторы ИИ-​инструментов должны объяснять логику, лежащую в основе полученных решений.
Новости, Наука | r_s 05:46 04.08.2021
8 комментариев | 26 за, 5 против |
#1 | 05:54 04.08.2021 | Кому: Всем
Из личного опыта - попытались применить мы пару лет назад нейронку для распознавания в радиолокации. Она, зараза, дала неплохой процент распознавания, но когда начали изучать результаты, то оказалось, что высокий процент распознавания ближних к РЛС целей полностью обнулялся для дальних целей. Оказалось, что она тупо зацепилась за отношение сигнал-шум и по этому признаку выделяла цели.
Пришлось уходить на старый добрый статистический анализ с весами разных признаков.

Аналогично поступили с бортовой системой обнаружения по изображению. Мучались, кололись, но на борт поставить лишний суперкомпьютер с нейронкой не смогли, поэтому пошли на стереозрение.

Но в рекламе оставили ''анализ на основе ИИ'', ибо куда ж сейчас без него))
#2 | 05:58 04.08.2021 | Кому: madaleks
> Это же матрица!!!

Это не совсем матрица, но математический аппарат на основе матриц. Фигня в том, чтобы авторы прикладных нейронок могли хотя бы отдаленно обьяснять, почему в их нейронке те или иные коэффициенты получились.
А авторы - обычно студены-питонщики, нихрена не понимающие в анализируемых данных. И когда начинаешь смотреть их результаты, то на третьей-пятой итерации нейронки просто забиваешь на это колдовство.
#3 | 06:21 04.08.2021 | Кому: amb
> а нейронщик только подходящую сеть должен может подобрать, не более.

Выбор,, подходящей сети,, должен опираться хотя бы на базовые знания в предметной области.
Поэтому матаппарату ИНС нужно учить именно специалистов, которые им будут пользоваться как инструментом поддержки принятия решений, не более того.
Мое личное мнение - инструмент крайне перспективный, как фурье-анализ или корреляционный анализ. Как бы не смешна была новость, имхо, особенно в медицине перспективен, когда врач в экзотических случаях тупо не имеет статистики и личного опыта.
Но на нём хайпуют все кому не лень, особенно ВУЗы, вместо того, чтобы учить специалистов его применять.
#4 | 06:42 04.08.2021 | Кому: amb
Иногда достаточно элементарной логики, а даже не базовых знаний, чтобы понять, что что-то не так. Но это не к ИНСам, а вообще тупости отдельных персонажей относится. Смотрят в книгу, видят фигу.
Работу по подбору коэффициентов для признаков через нейронку мы как раз и продолжаем.
#5 | 07:02 04.08.2021 | Кому: Арчевод
> Без этого пользоваться молотком нельзя.
>

Без того, что молоток надо брать за ручку, что бить надо тупым концом, что надо проверять, не болтается ли ручка - нельзя.
В использовании ИНС та же фигня. Если тупой студент научил по штампу туберкулезного отделения больницы с вероятностью близкой к 1 определять тубик, то есть вопросы к тому, кто такую нейронку в виде СПО для принятия решений продвигает.
#6 | 07:57 04.08.2021 | Кому: максимум 20 символов
> Хреновая обучающая выборка.

Обучающая выборка как раз была хорошая, признаки были выбраны некорректно.
#7 | 08:00 04.08.2021 | Кому: Арчевод
> > Я в недоумении. Кривые данные дали кожаные мешки, а виноват ИИ!?

ИИ не виноват, его там вообще нет)) А кожаные мешки дали данные без сортировки или хотя бы предварительной подготовки.
Про зиму, конечно, слишком сильно сказано, но и супер чудес ждать от нового матаппарата не нужно. Нужно популяризировать его и повсеместно внедрять без шаманства.
#8 | 15:43 04.08.2021 | Кому: lts
> И потом такой, спустя 4 года(!!!): "А оказалось мы обосрались, т.к. данные из одной больницы не работают в другой"

Это проблема подготовки данных, перед обучением и анализом надо данные подготовить - отмасштабировать, динамику яркости выровнять, отрезать все лишнее справа-слева, ввести признак съёмки лежа-стоя, ребенок-взрослый и тд
И тогда эффект вполне будет. Но это же работать надо, код сложный писать, а не тяп-ляп запустить кривое обучение на типовой нейронке и её параметры покрутить, пока процент распознавания 50+ не станет.
Войдите или зарегистрируйтесь чтобы писать комментарии.