Открыть «чёрный ящик»: как новые разработки в сфере IT помогут медицине

21-10-2022 12:45

Искусственный интеллект (ИИ) внедряется в медицинскую сферу и становится полезным инструментом в работе врачей. Кандидат технических наук, доцент факультета инфокоммуникационных технологий Национального исследовательского университета ИТМО Александра Ватьян рассказала, как её желание стать врачом реализовалось в программировании и почему важно объяснять методы принятия решений нейросетями.

Нейронный помощник

Александра Ватьян занимается проектами по внедрению искусственного интеллекта в медицинскую сферу. Основные разработки ведутся сегодня по 2 направлениям:

– в области объяснимости нейросетей на базе Исследовательского центра в сфере искусственного интеллекта «Сильный искусственный интеллект в промышленности» ИТМО;

– создание «виртуального полигона» в рамках программы Минобрнауки России «Приоритет 2030».

По словам Александры Ватьян, разработка методов объяснимости искусственного интеллекта — одна из наиболее актуальных задач в мире на сегодняшний день. Дело в том, что нейронные сети представляют собой некий «чёрный ящик». Поэтому очень сложно оценить, почему система пришла к тому или иному выводу. В результате требуются инструменты, которые позволят демонстрировать в реальном времени, на что обращает внимание искусственный интеллект и что он посчитал наиболее важным.

«В применимости к медицине это очень актуально, когда мы ищем различные патологии на ЭКГ-исследовании например. Важно увидеть, что, когда нейросеть классифицировала ишемический инфаркт, она «смотрела» именно на то отведение, на те места, где обрываются пики. Это поднимает доверие к искусственному интеллекту. То есть врач увидит, что нейросеть «смотрела» туда же, куда и он», — рассказывает Александра Ватьян.

Благодаря разработке более глубокого метода оценки нейросети врачи смогут использовать заключение системы как второе или третье мнение в установлении диагноза.

Другое важное направление — «Виртуальный полигон», который создается для тестирования и верификации медицинских изделий на основе искусственного интеллекта.

«Дело в том, что в предметной области медицины — так как на кону жизнь и здоровье человека — имеется огромное количество требований и ограничений, предъявляемых разработчикам, особенно если в системе для принятия решений используются методы искусственного интеллекта. И тут появляется большая проблема: разработок и алгоритмов масса, а довести их до реального внедрения в клиническую практику, то есть до регистрации медицинского изделия, очень сложно», — поясняет программист.

Разработка направлена на оценку реального качества алгоритмов, их работоспособности и соответствия многочисленным стандартам. По сути, задача Александры Ватьян и её команды — сократить сроки внедрения разработок в клинические учреждения.

Около врачей

В школе Александра Ватьян мечтала стать врачом, но родители отговорили. Программированием она тоже увлекалась ещё с младших классов. Поэтому решила, что раз уж не медицина, то программирование.

«Так что по итогу могу сказать, что практически получилось убить двух зайцев: я, безусловно, не врач, но работаю недалеко от них», — отметила учёная.

Когда в 2007 году она поступала в Санкт-Петербургский политехнический университет Петра Великого, на потоке из 100 человек было всего семь девушек. Сегодня, по словам Александры, картина изменилась, а стереотипы о женщинах в IТ-сфере сильно сместились.

«Сейчас всё не так — давний стереотип ушёл на задний план. В сфере информационных технологий во многом девушки находятся в гораздо даже более выгодном положении: присущие нам ответственность, кропотливость и многие другие более женские характеристики очень востребованы наряду с традиционными навыками», — считает Александра.

Будучи руководителем образовательной программы в ИТМО, она отмечает, что направления IТ-профиля становятся не менее актуальными и для девушек, ведь цифровизация охватывает абсолютно все отрасли.

Фото: пресс-служба ИТМО

 

Число просмотров: 132
1 Звезда2 Звезды3 Звезды4 Звезды5 Звезд (Пока оценок нет)
Загрузка...