aftershock.news Фиаско искусственного интеллекта против COVID-19 лишь усугубило уже понятую главную проблему медицинского ИИ – авторы ИИ-инструментов должны объяснять логику, лежащую в основе полученных решений.
Из личного опыта - попытались применить мы пару лет назад нейронку для распознавания в радиолокации. Она, зараза, дала неплохой процент распознавания, но когда начали изучать результаты, то оказалось, что высокий процент распознавания ближних к РЛС целей полностью обнулялся для дальних целей. Оказалось, что она тупо зацепилась за отношение сигнал-шум и по этому признаку выделяла цели.
Пришлось уходить на старый добрый статистический анализ с весами разных признаков.
Аналогично поступили с бортовой системой обнаружения по изображению. Мучались, кололись, но на борт поставить лишний суперкомпьютер с нейронкой не смогли, поэтому пошли на стереозрение.
Но в рекламе оставили ''анализ на основе ИИ'', ибо куда ж сейчас без него))
Это не совсем матрица, но математический аппарат на основе матриц. Фигня в том, чтобы авторы прикладных нейронок могли хотя бы отдаленно обьяснять, почему в их нейронке те или иные коэффициенты получились.
А авторы - обычно студены-питонщики, нихрена не понимающие в анализируемых данных. И когда начинаешь смотреть их результаты, то на третьей-пятой итерации нейронки просто забиваешь на это колдовство.
> а нейронщик только подходящую сеть должен может подобрать, не более.
Выбор,, подходящей сети,, должен опираться хотя бы на базовые знания в предметной области.
Поэтому матаппарату ИНС нужно учить именно специалистов, которые им будут пользоваться как инструментом поддержки принятия решений, не более того.
Мое личное мнение - инструмент крайне перспективный, как фурье-анализ или корреляционный анализ. Как бы не смешна была новость, имхо, особенно в медицине перспективен, когда врач в экзотических случаях тупо не имеет статистики и личного опыта.
Но на нём хайпуют все кому не лень, особенно ВУЗы, вместо того, чтобы учить специалистов его применять.
Иногда достаточно элементарной логики, а даже не базовых знаний, чтобы понять, что что-то не так. Но это не к ИНСам, а вообще тупости отдельных персонажей относится. Смотрят в книгу, видят фигу.
Работу по подбору коэффициентов для признаков через нейронку мы как раз и продолжаем.
Без того, что молоток надо брать за ручку, что бить надо тупым концом, что надо проверять, не болтается ли ручка - нельзя.
В использовании ИНС та же фигня. Если тупой студент научил по штампу туберкулезного отделения больницы с вероятностью близкой к 1 определять тубик, то есть вопросы к тому, кто такую нейронку в виде СПО для принятия решений продвигает.
> > Я в недоумении. Кривые данные дали кожаные мешки, а виноват ИИ!?
ИИ не виноват, его там вообще нет)) А кожаные мешки дали данные без сортировки или хотя бы предварительной подготовки.
Про зиму, конечно, слишком сильно сказано, но и супер чудес ждать от нового матаппарата не нужно. Нужно популяризировать его и повсеместно внедрять без шаманства.
> И потом такой, спустя 4 года(!!!): "А оказалось мы обосрались, т.к. данные из одной больницы не работают в другой"
Это проблема подготовки данных, перед обучением и анализом надо данные подготовить - отмасштабировать, динамику яркости выровнять, отрезать все лишнее справа-слева, ввести признак съёмки лежа-стоя, ребенок-взрослый и тд
И тогда эффект вполне будет. Но это же работать надо, код сложный писать, а не тяп-ляп запустить кривое обучение на типовой нейронке и её параметры покрутить, пока процент распознавания 50+ не станет.
Пришлось уходить на старый добрый статистический анализ с весами разных признаков.
Аналогично поступили с бортовой системой обнаружения по изображению. Мучались, кололись, но на борт поставить лишний суперкомпьютер с нейронкой не смогли, поэтому пошли на стереозрение.
Но в рекламе оставили ''анализ на основе ИИ'', ибо куда ж сейчас без него))