aftershock.news Фиаско искусственного интеллекта против COVID-19 лишь усугубило уже понятую главную проблему медицинского ИИ – авторы ИИ-инструментов должны объяснять логику, лежащую в основе полученных решений.
Из личного опыта - попытались применить мы пару лет назад нейронку для распознавания в радиолокации. Она, зараза, дала неплохой процент распознавания, но когда начали изучать результаты, то оказалось, что высокий процент распознавания ближних к РЛС целей полностью обнулялся для дальних целей. Оказалось, что она тупо зацепилась за отношение сигнал-шум и по этому признаку выделяла цели.
Пришлось уходить на старый добрый статистический анализ с весами разных признаков.
Аналогично поступили с бортовой системой обнаружения по изображению. Мучались, кололись, но на борт поставить лишний суперкомпьютер с нейронкой не смогли, поэтому пошли на стереозрение.
Но в рекламе оставили ''анализ на основе ИИ'', ибо куда ж сейчас без него))
Это не совсем матрица, но математический аппарат на основе матриц. Фигня в том, чтобы авторы прикладных нейронок могли хотя бы отдаленно обьяснять, почему в их нейронке те или иные коэффициенты получились.
А авторы - обычно студены-питонщики, нихрена не понимающие в анализируемых данных. И когда начинаешь смотреть их результаты, то на третьей-пятой итерации нейронки просто забиваешь на это колдовство.
> А авторы - обычно студены-питонщики, нихрена не понимающие в анализируемых данных.
А нахрена им понимать? Они же всё равно коэффициенты "подкрутить как надо" не могут. Правильную обучающую выборку составить - тут да, понятие нужно иметь, но это должен делать специалист, а нейронщик только подходящую сеть должен может подобрать, не более.
> а нейронщик только подходящую сеть должен может подобрать, не более.
Выбор,, подходящей сети,, должен опираться хотя бы на базовые знания в предметной области.
Поэтому матаппарату ИНС нужно учить именно специалистов, которые им будут пользоваться как инструментом поддержки принятия решений, не более того.
Мое личное мнение - инструмент крайне перспективный, как фурье-анализ или корреляционный анализ. Как бы не смешна была новость, имхо, особенно в медицине перспективен, когда врач в экзотических случаях тупо не имеет статистики и личного опыта.
Но на нём хайпуют все кому не лень, особенно ВУЗы, вместо того, чтобы учить специалистов его применять.
> Выбор,, подходящей сети,, должен опираться хотя бы на базовые знания в предметной области.
Именно "базовые" знания - ничего не дадут. Нужно глубоко понимать предметную область, чтобы из сырых данных составить набор чисел для обучения сети.
> Поэтому матаппарату ИНС нужно учить именно специалистов, которые им будут пользоваться как инструментом поддержки принятия решений, не более того.
Целиком согласен. Статистике обучают - и этому научить можно.
> Мое личное мнение - инструмент крайне перспективный, как фурье-анализ или корреляционный анализ.
Вотт ваш "старый добрый статистический анализ с весами разных признаков" - его как раз и нужно бы заменить нейросетью, обученной этим "признакам", а веса она должна сама подобрать. Задумка-то была именно такая.
Иногда достаточно элементарной логики, а даже не базовых знаний, чтобы понять, что что-то не так. Но это не к ИНСам, а вообще тупости отдельных персонажей относится. Смотрят в книгу, видят фигу.
Работу по подбору коэффициентов для признаков через нейронку мы как раз и продолжаем.
> Почти все ИИ-инструменты разрабатываются либо исследователями ИИ, которым не хватает медицинских знаний для выявления недостатков в данных, либо медиками, которым не хватает математических навыков, чтобы компенсировать эти недостатки – примеры см. в источниках.
Известная тема с обучением ИИ - херовые данные.
> Общий итог > Фиаско ИИ против COVID-19 лишь усугубило уже понятую главную проблему медицинского ИИ – используемые ИИ-инструменты должны объяснять логику, лежащую в основе их решений (5). > И это, увы, приближает новую «зиму ИИ».
В инструкции к молотку должно быть описание физической системы инструмент-гвоздь в виде множества комбинаций волновых функций. Без этого пользоваться молотком нельзя.
Без того, что молоток надо брать за ручку, что бить надо тупым концом, что надо проверять, не болтается ли ручка - нельзя.
В использовании ИНС та же фигня. Если тупой студент научил по штампу туберкулезного отделения больницы с вероятностью близкой к 1 определять тубик, то есть вопросы к тому, кто такую нейронку в виде СПО для принятия решений продвигает.
> В использовании ИНС та же фигня. Если тупой студент научил по штампу туберкулезного отделения больницы с вероятностью близкой к 1 определять тубик, то есть вопросы к тому, кто такую нейронку в виде СПО для принятия решений продвигает.
Так это понятно, что делать надо хорошо, а плохо - не делать.
Посыл статьи - эти ваши интернеты ИИ плохие, фиаско, зима.
В комментах уже написали:
> Я в недоумении. Кривые данные дали кожаные мешки, а виноват ИИ!?
> > Я в недоумении. Кривые данные дали кожаные мешки, а виноват ИИ!?
ИИ не виноват, его там вообще нет)) А кожаные мешки дали данные без сортировки или хотя бы предварительной подготовки.
Про зиму, конечно, слишком сильно сказано, но и супер чудес ждать от нового матаппарата не нужно. Нужно популяризировать его и повсеместно внедрять без шаманства.
>Фиаско искусственного интеллекта против COVID-19
Нету никакого ИИ, и даже псевдоинтеллекта нет. Есть некоторые математические алгоритмы, которые могут попытаться найти решение той или иной задачи, и их фиаско - к искусственным интеллектам отношения не имеет никакого.
Так задолбали эти заголовки с "ИИ", сил нет, извините.
> И потом такой, спустя 4 года(!!!): "А оказалось мы обосрались, т.к. данные из одной больницы не работают в другой"
Это проблема подготовки данных, перед обучением и анализом надо данные подготовить - отмасштабировать, динамику яркости выровнять, отрезать все лишнее справа-слева, ввести признак съёмки лежа-стоя, ребенок-взрослый и тд
И тогда эффект вполне будет. Но это же работать надо, код сложный писать, а не тяп-ляп запустить кривое обучение на типовой нейронке и её параметры покрутить, пока процент распознавания 50+ не станет.
Ну да, только этож не студент какой-то, а Адрей Ын. Практически Илон Маск в рекламе "Ai". Намекает на всю ситуацию с этим "Ai", когда уже профессора Стэнфорда, работающие в гугле и занимающиеся ML десятилетиями, ведутся на свою собственную рекламу.