Медицинский ИИ: что делать, если он откажет


В ближайшие годы системы ИИ займутся предварительной диагностикой и лягут в основу “превентивной” медицины будущего, способной выявлять любые опасные отклонения на ранних стадиях, исключая дальнейшее развитие болезни. Физическими “носителями” такого софта станут системы “умного” дома, разнообразные гаджеты, носимая электроника и даже, вероятно, детские игрушки.


Источник изображения: pixabay

Несмотря на огромный перечень возможностей систем машинного и глубокого обучения, а также других разновидностей ИИ, автономные комплексы по-прежнему способны ошибаться. Именно на эту базовую особенность оборудования должны обратить внимание разработчики и популяризаторы технологии: а затем и представить миру алгоритмы, подразумевающие наличие наиболее проработанного “плана Б”. Последний необходим для того, чтобы система как минимум оповещала людей о том, что ей не удалось верно интерпретировать изображение или вынести понятное и обоснованное заключение.

Специфика медицины требует не только многочисленных проверок, но и своевременного перенаправления пациентов к узким специалистам в ряде “сложных” случаев. Разработка медицинских алгоритмов должна учитывать всевозможные технические аспекты оборудования, законодательства и мер регуляторов: в ближайшие годы разработчикам придется отвечать на вопросы о том, есть ли у их систем “черный ящик”, на ком или на чем тренировался “виртуальный доктор”, и, разумеется, как он работает.

Вероятнее всего, одним из наилучших вариантов на первых порах станет честное оповещение людей о том, что системе не удалось достичь необходимого уровня вероятности правильности диагноза. В таком случае машина сможет перенаправить пациента специалисту-человеку, который проведет анализ еще раз.

Ближайшее будущее связано с развитием связки “человек-ИИ” - там, где машине не хватит гибкости для того, чтобы подстроиться под особенности конкретного пациента, эту гибкость ей обеспечит напарник-человек. Логично и то, что большинство “робо-докторов” получат интерфейс, который позволит пользователям скорректировать ряд показаний вручную - например, ввести информацию о том, какую именно таблетку они только что приняли.

К несчастью, человеческий фактор потребует дополнительных мер безопасности: связка человек-ИИ займется проверкой каждого случая внесения пациентами изменений “на другом конце” системы и постарается минимизировать частоту обмана и внедрения ложной информации.

Со временем, анализ статистики, блокчейн и big data позволят выявлять большинство случаев подлога в автоматическом режиме. Внедрение ИИ потребует и реорганизации действующего подхода к ведению медицинской документации - автоматике понадобится любая мелочь, которую врач-человек может пропустить мимо ушей или не включить в анамнез заболевания. Врачи будущего будут работать с информацией, превосходящей современную по объему в сотни, если не миллионы раз. Возможно, кому-то подобная “избыточность” кажется явным перебором, однако систематизацией данных и подготовкой вариантов действий займутся роботы, а людям останется лишь выбрать требуемую схему лечения.

Источник


Comments 1