Введение

Современная техногенная цивилизация с ее ярко выраженной инновационной составляющей определяет основной путь развития человечества. Сегодня технологии рассматриваются как любая деятельность, которую человек пытается использовать для преобразования окружающего мира. Особое место в системе конвергенции NBIC занимают так называемые высокие технологии, поскольку нано-, био-, информационные и когнитивные технологии в их синергетическом единстве определяют сущность и особенности современного этапа цивилизации, созданной человеком [1].

Появление и развитие искусственного интеллекта (ИИ) рассматривается как следующий, четвертый, этап промышленной революции, целью которого является изменение не только способа производства вещей, их восприятия, но и того, как люди относятся к себе. Чтобы говорить об ИИ, необходимо определить разницу между интеллектом как таковым и искусственным интеллектом [2].

В научном определении интеллекта (лат. intellectus — восприятие, понимание, концепция, разум) обозначает такие качества, как способность принимать решения, волевой компонент, рефлексия, способность адаптировать свое поведение к меняющимся ситуациям, а также целеустремленность [3].

Что же такое искусственный интеллект? Хотя существует множество определений, наиболее обширное определяет ИИ как систему, которая может правильно интерпретировать внешние данные, извлекать уроки из них и использовать приобретенные навыки для достижения конкретных целей и решения проблем путем гибкой адаптации к различным условиям. Термин «искусственный интеллект» используется для описания созданного человеком инструмента, который имитирует когнитивные способности естественного интеллекта человеческого разума [4].

Согласно определению Национальной стратегии развития искусственного интеллекта на период до 2030 г., ИИ — это набор технологических решений, которые позволяют имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее определенного алгоритма) и по крайней мере сопоставимы с результатами умственной деятельности человека, включая информационные [5].

Искусственный интеллект. История. Основное понятие

Развитие ИИ как научного направления началось в середине XX века и стало возможным только после создания электронно-вычислительной машины [6].

Термин «искусственный интеллект» придумал американский математик Джон Маккарти, который в 1955 г. был специалистом по информатике и вычислительной технике, вместе с Аланом Тьюрингом, Марвином Мински, Алленом Ньюэллом и Гербертом А. Саймоном. Натаниэль Рочестер и Клод Э. Шеннон ввели термин «искусственный интеллект» и обозначили его летом 1956 г. в материалах знаменитой Дартмутской конференции. Эта конференция стала началом ИИ как отрасли науки [7, 8].

В конце 1950-х годов в теории ИИ возникла целая область, посвященная машинному обучению (американский исследователь Артур Сэмюэл ввел термин «машинное обучение» в 1959 г.) [9]. В этой области разрабатываются методы, позволяющие системам ИИ автоматически учиться на примерах, приобретать опыт и предлагать более эффективные решения по мере решения новых задач.

Одним из наиболее перспективных направлений развития машинного обучения были так называемые искусственные нейронные сети, впервые предложенные в 1943 г. американскими учеными Уолтером Питтсом и Уорреном Мак-Каллохом. Это системы ИИ (СИИ), которые организованы и функционируют по принципу сетей нервных клеток (нейронов) живых организмов [10]. Эта теория основана на результатах изучения нейронов человека: их функций, методов передачи нервных импульсов, их взаимодействия и преобразования поступающих импульсов в образы (зрительные, слуховые и т. д.) (рис. 1).

Рис. 1. Биологический нейрон и его составные части: дендрит (получает сигналы от других нейронов), сома (перикарион, нейроцитон, или клеточное тело, — луковичная, не отростчатая часть нейрона, содержащая клеточное ядро; обрабатывает информацию), аксон (передает вывод этого нейрона) и синапс (точка подключения к другим нейронам) [9].

Исследования, проведенные в 1960–1970-х годах, позволили создать первую экспертную систему для использования в органической химии, известную как DENDRAL [11]. Эта система послужила основой для следующей системы — MYCIN [12], которая считается одной из значимых ранних применений СИИ в медицине.

1980-е и 1990-е годы привели к распространению микрокомпьютеров и созданию глобальных сетей. Были созданы новые подходы, связанные с теорией нечетких множеств¹ [13], байесовскими сетями² [14] и искусственными нейронными сетями [14, 15], чтобы отразить эволюцию потребностей общества в интеллектуальных вычислительных системах.

По оценкам международных экспертов, с 2014 по 2017 г. инвестиции в ИИ утроились и составили около 40 млрд долл. В 2018 г. мировой рынок технологических решений для ИИ составил 21,5 млрд долл., и, по оценкам экспертов, к 2024 г. он достигнет почти 140 млрд долл. [16].

Основные направления использования искусственного интеллекта в медицине

Следует отметить, что здравоохранение является одним из основных направлений инвестиций в ИИ. В медицине ИИ использует алгоритмы и программное обеспечение для анализа сложных медицинских данных.

ИИ отличается от традиционных технологий здравоохранения своей способностью собирать, обрабатывать данные и предоставлять четко определенный результат конечному пользователю. ИИ делает это с помощью машинного обучения и алгоритмов глубокого обучения³ [17]. Эти процессы могут распознавать закономерности и создавать свою собственную логику.

Безопасность и эффективность СИИ напрямую зависят от качества данных, на основе которых создаются и обучаются модели машинного обучения. В связи с этим одним из наиболее важных этапов разработки СИИ, которые успешно поддерживают и помогают клиницистам, является подготовка набора медицинских данных, называемых дататестами. Дататест отличается от простого сбора медицинских данных тем, что обладает особыми характеристиками — унификацией и структурированием данных; отсутствием грубых неточностей, ошибочных исследований; наличием дополнительной информации и сопроводительной документации. Дататест — это набор данных, относящихся к задачам машинного обучения и их описаниям. В Российской Федерации дататест приравнивается к базе данных и подлежит государственной регистрации как результат интеллектуальной деятельности [18]. Каждый дататест уникален не только по составу исследований, но и по способу их классификации и подходам к разметке, а процесс создания носит исследовательский характер [18]. Создание дататеста можно разделить на 4 основных этапа: планирование, выбор исходных данных, разметка, проверка и документирование, в которых участвует команда профессионалов разных профилей, а именно клиницистов, специалистов по обработке медицинских данных, исследователей (которые занимаются машинным обучением или проверкой решений на основе ИИ), а также администраторы, которые разрешают доступ к исходным данным и их загрузку [18]. Паспорт дататеста содержит информацию о его содержимом, владельце и предполагаемом использовании и позволяет оценить его применимость для решения проблем потребителей, определить тип магазина и варианты его последующего использования. В настоящее время во многих странах мира, включая Россию, создаются дататесты для обучения нейронным сетям, которые могут использоваться всеми исследователями. Примером может служить дататест радиационной диагностики, размещенный на веб-сайте Государственного медицинского учреждения «Научно-практический клинический центр диагностики и телемедицинских технологий Министерства здравоохранения города Москвы» [19].

Во всем мире интерес к внедрению СИИ в практическое здравоохранение неуклонно растет. По данным Markets And Markets, мировой рынок ИИ в сфере здравоохранения вырастет с 6,9 млрд долл. в 2021 г. до 67,4 млрд долл. к 2027 г.; ожидается, что в 2021–2027 гг. он вырастет в среднем на 46,2% [20]. По данным CB Insights, интерес инвесторов к этому рынку является одним из самых высоких среди всех секторов цифрового здравоохранения. В 2021 г. общий объем инвестиций в продукты ИИ для здравоохранения составил 12,2 млрд долл. (505 транзакций). Для сравнения, в 2020 г. — 6,627 млрд долл. (397 транзакций), в 2019 г. — 4,129 млрд долл. (367 транзакций), а в 2018 г. — «всего» 2,7 млрд долл. (264 транзакции) (рис. 2) [21].

Рис. 2. Динамика венчурного инвестирования в искусственный интеллект для медицины, по данным CB Insights [19].

Программы ИИ в основном используются в таких областях медицины, как диагностика, разработка индивидуальных протоколов лечения, медикаментозное лечение, мониторинг и уход за пациентами. Вот несколько примеров.

Алгоритмы ИИ показали многообещающие результаты в точной диагностике и определении риска у пациентов с ишемической болезнью сердца [22], а также в диагностике клапанных заболеваний и классификации сердечных тонов [23].

Продемонстрирована возможность использования ИИ для персонализации протоколов лечения онкологических больных на основе изучения индивидуальных генетических, молекулярных и клинических характеристик пациентов [24], возможность преобразования изображений в математические последовательности [25].

Используя принципы и инструменты телемедицины, ИИ может помочь в удаленном уходе за пациентами, отслеживая информацию о них с помощью датчиков [26], что особенно полезно при уходе за пожилыми людьми [27].

Алгоритмы ИИ способны идентифицировать новые лекарства, отслеживая их токсический потенциал, а также механизмы их действия. Эта технология привела к созданию платформы для поиска лекарств, которая позволяет перепрофилировать существующие лекарства и биологически активные соединения [28].

ИИ в смартфоне сделает медицину будущего доступной для всех: у каждого пользователя мобильного телефона будет личный медицинский помощник, способный решать проблемы со здоровьем конкретного человека в режиме реального времени. В частности, примером таких разработок является американский стартап AiTure (https://aicure.com/), который использует ИИ для подтверждения приема пациентом лекарств: специальное мобильное приложение с камерой смартфона в режиме реального времени позволяет отслеживать процесс. Компания Medtronic разрабатывает приложение, которое может предсказать критическое снижение уровня сахара за 3 ч до события. В рамках проекта IBM в сотрудничестве с диагностической компанией Pathway Genomics (https://pathway.com/) разработано приложение OME, которое сочетает в себе когнитивную и точную медицину с генетикой. Цель приложения — предоставить пользователям персонализированную информацию для улучшения качества жизни [29].

Основы законодательства в области искусственного интелекта в России и примеры использования систем искусственного интелекта в российской медицине

В Российской Федерации в последние годы большое внимание уделяется разработке и внедрению систем ИИ. ИИ — одна из областей «цифровой медицины», роль которой заключается в значительном повышении эффективности медицинской помощи за счет использования больших объемов данных цифровой обработки и анализа.

Основополагающим документом, определяющим развитие систем ИИ в РФ, в настоящий момент является Национальная стратегия развития искусственного интеллекта на период до 2030 г., утвержденная Указом Президента Российской Федерации от 10.10.19 №490 [5]. Отмечается, что технологические решения, разработанные в РФ на основе ИИ (например, компьютерное зрение и обработка естественного языка), уже сейчас обладают значительной коммерческой привлекательностью и высоким экспортным потенциалом на мировом рынке. В качестве одного из приоритетных направлений развития и использования технологий ИИ указывается повышение качества услуг в сфере здравоохранения, включая профилактические обследования, диагностику, основанную на анализе изображений, прогнозирование возникновения и развития заболеваний, подбор оптимальных дозировок лекарственных препаратов, сокращение угроз пандемий, автоматизацию и точность хирургических вмешательств. Большое внимание уделяется развитию научных исследований в области ИИ, в том числе росту прикладных технологических решений, используемых на практике, а также созданию и производству программно-аппаратных комплексов с использованием преимущественно российской электронной компонентной базы и оптических элементов.

Касаясь развития нормативно-правовой базы цифровой медицины и развития систем ИИ в РФ, следует отметить утвержденный и введенный в действие Приказом Федерального агентства по техническому регулированию и метрологии от 26.11.21 национальный стандарт Российской Федерации ГОСТ Р 59898–2021 «Оценка качества систем искусственного интеллекта», [30]. Стандарт разработан НИУ «Высшая школа экономики». В стандарте определено понятие качества системы ИИ (СИИ), описаны методы, показатели и критерии оценки качества на этапах жизненного цикла СИИ, формализована модель качества СИИ, дана классификация основных характеристик и показателей качества СИИ.

Основными достижениями в развитии СИИ в сфере здравоохранения России является московский эксперимент по внедрению технологий ИИ в городскую систему здравоохранения, проведенный Московским комплексом социального развития, Департаментом информационных технологий, совместно с Городским департаментом здравоохранения. Интегрированные в единую медицинскую информационно-аналитическую систему (EMIAS) и интегрированные с Облачной службой радиологической информации (ERIS) алгоритмы ИИ анализируют различные типы лучевых тестов — компьютерную томографию, рентгенодиагностику, маммографию и флюорографию. Это помогает как можно быстрее поставить предварительный диагноз и экономит время на анализе изображений и заключении. Информационная система «Единая служба радиологической информации» объединяет все отделения лучевой диагностики медицинских учреждений Москвы в единую сеть [31, 32].

По сообщению Департамента здравоохранения Москвы, станция амбулаторной и неотложной медицинской помощи им. А.С. Пучкова в Москве использует ИИ для ускоренной оценки лечения пациента. Изобретение позволило сократить время обработки вызовов и уже получило патент [33].

В июле 2020 г. в Кировской области завершен пилотный проект по внедрению системы поддержки принятия медицинских решений. В проекте приняли участие Медицинский информационно-аналитический центр и ряд медицинских учреждений региона, в том числе Кировская клиническая больница, Центр онкологии и медицинской радиологии, Центр кардиологии и неврологии [34].

В Якутии при поддержке Минздрава России разработан пилотный проект ОНКОПОИСКСАХА.РФ. Разработчики рассматривают возможность использования решений ИИ в профилактической онкопатологической медицине. Основные этапы отбора представлены на официальном сайте онлайн-проекта [35]. Перечисленные примеры являются лишь небольшой частью технологических решений, использующих ИИ в российских медицинских организациях, и направление это непрерывно развивается.

Искусственный интеллект. Философские и этические вопросы

Следует отметить, что использование ИИ в медицине систематически меняет ее практику, в том числе дерматологическую. Преобразования затрагивают все аспекты медицины как навыка активного сострадания, уходящего корнями в глубины древности. В то же время меняются технологии медицинского восприятия физических страданий, их визуализация и интерпретация изображений в диагностических процедурах [36], практика принятия медицинских решений [37]. Кроме того, страдающая физическая форма пациента претерпевает глубокие изменения. Она также будет оснащена технологически. Прежде всего, меняется способ вовлечения человека в систему здравоохранения, а именно его отношение к последней. Современный человек все чаще задает вопрос «Что со мной происходит?» не врачу, а Интернету — распределенному ИИ в информационно-коммуникационной сети, который использует чат-ботов и другие информационные и коммуникационные инструменты для медицинских консультаций, анализа жалоб и направления к конкретному специалисту.

ИИ меняет базовые структуры лечения и социальный контекст медицинской помощи. С появлением ИИ человек сталкивается с новой проблемой — установить отношения с чем-то, что само по себе не является естественным, и в этом контексте биоэтика является основой этих «отношений». Биоэтика обычно обсуждает отношения внутри природных существ, будь то человечество или их среда обитания, которые являются частью природы. Но теперь человеку приходится иметь дело с чем-то неестественным, созданным людьми [38, 39].

Чтобы оценить биоэтические риски, сопровождающие эти преобразования, необходимо определить различия между слабыми и сильными технологиями ИИ, предложенными Дж.Р.Л.Р. Сирлом [40]. Слабые технологии ИИ функционально ограничены и имитируют частные аспекты медицинской деятельности, по сути, действуя как высокотехнологичные инструменты в руках ответственного врача.

Существует 3 основных этапа взаимодействия между системами ИИ и врачами в практике оказания медицинской помощи.

Первый этап — дифференциальная диагностика для последующего окончательного диагноза с помощью медицинской системы ИИ. Несмотря на интеллектуальное оснащение такой системы, лечащий врач в этом режиме остается активным и соответственно ответственным субъектом.

Второй этап — медицинская система ИИ — это уже не просто инструмент, а в некоторой степени средство независимого действия. В то же время мы можем говорить о двух значениях автономного агентства: ИИ как помощник врача и как консультант. Медицинские роботы в настоящее время используются в качестве помощников, например, в хирургических больницах, обеспечивая послеоперационный уход за пациентами [41]. В качестве консультанта ИИ интегрирован в систему поддержки принятия медицинских решений и удаленного мониторинга состояния пациентов [42].

Третий этап включает создание роботов с мощным ИИ. Их появление рассматривается как ближайшая и наиболее желательная перспектива для медицинской робототехники.

Вышеупомянутые этапы рассматриваются как 3 этапа внедрения ИИ в медицинскую практику или как 3 сосуществующие параллельно этапа. В различных сферах медицины большинство роботизированных систем по-прежнему функционируют в первом режиме. Системам присваивается статус инструментов, которые выполняют частные задачи под наблюдением врача или пациента. Таким образом, классическая схема исцеления как взаимодействие двух субъектов (врача и пациента) с морально-правовой точки зрения пока не вносит существенных новшеств. Ситуация может значительно измениться, если ИИ сможет занять свое место в качестве третьего автономного субъекта между врачом и пациентом [43].

Предваряя эту возможность, группа экспертов по ИИ Европейского союза в 2019 г. представила меморандум «Руководящие принципы этики для надежного ИИ», в котором формулируются принципы разрабатываемых систем, включающие их подотчетность, объяснимость и беспристрастность. В нем среди прочего рекомендовано соблюдать 7 требований [44]:

1) ИИ не должен нести угрозу человеческой автономии и иметь возможность каким-либо образом манипулировать людьми, принуждая их к любым действиям. Человечество должно иметь возможность вмешиваться и контролировать каждое решение, которое принимает программное обеспечение;

2) ИИ должен быть максимально безопасным и точным. Его нельзя легко скомпрометировать внешними атаками, он должен быть надежным;

3) персональные данные, собираемые системами ИИ, должны быть безопасными и конфиденциальными;

4) данные и алгоритмы, используемые для создания системы ИИ, должны быть доступны, а решения, принимаемые программным обеспечением, должны «пониматься и отслеживаться людьми»;

5) услуги, предоставляемые ИИ, должны быть доступны всем независимо от возраста, пола, расы, материальных благ или других характеристик;

6) СИИ должны быть устойчивыми и «способствовать позитивным социальным изменениям», а не пытаться оградить человека от взаимодействия с другими людьми;

7) все СИИ должны непрерывно контролироваться.

Заключение

Как следует из представленных данных, ИИ приобретает в последние годы глобальное значение как в медицине, так и в других областях жизни общества — науке, технике, промышленности, быту. Непрерывно растет объем рынка ИИ в сфере здравоохранения, увеличивается количество научных публикаций и патентов, посвященных данному направлению, что свидетельствует о росте потребности общества в интеллектуальных вычислительных системах. СИИ, являющиеся составной частью цифровой медицины, внедренные в различные сферы здравоохранения, способствуют ускорению и уточнению процесса диагностики, прогнозированию заболеваний, разработке персонализированных подходов к лечению, быстрому созданию лекарственных препаратов, дальнейшему развитию телемедицины. Такие системы интенсивно развиваются в России, в том числе в Москве и других субъектах РФ. Развитие данного направления имеет и будет иметь в дальнейшем большое значение в таких областях медицины, как лучевая диагностика, кардиология, онкология, дерматология. Вместе с тем использование данных систем накладывает на общество ряд обязательств, призванных нивелировать роль ИИ как возможного третьего автономного субъекта во взаимодействиях врача и пациента. Существование и использование ИИ не должно нести угрозу человеку, и главным в лечении пациентов по-прежнему должен оставаться врач, использующий СИИ во благо человечеству.

Участие авторов:

Концепция и дизайн исследования: Н.Н. Потекаев, О.В. Доля, Н.В. Фриго

Подготовка материала: Н.В. Фриго, Е.М. Майорова, А.Я. Атабиева

Написание текста: О.В. Доля, Н.В. Фриго

Редактирование: О.В. Доля, Е.М. Майорова

Авторы заявляют об отсутствии конфликта интересов.

Authors’ contributions:

The concept and design of the study: N.N. Potekaev, O.V. Dolya, N.V. Frigo

Preparation of the material: N.V. Frigo, A.Y. Atabieva, E.M. Mayorova

Drafting the manuscript: O.V. Dolya, N.V. Frigo

Revising the manuscript: O.V. Dolya, E.M. Mayorova

¹ Теория нечетких множеств — раздел прикладной математики, посвященный методам анализа неопределенных данных.

² Байесовская сеть — графическая модель для представления вероятностных взаимоотношений на множестве переменных.

³ Глубокое обучение (глубинное обучение; англ. deep learning) — совокупность методов машинного обучения (с учителем, с частичным привлечением учителя, без учителя, с подкреплением), основанных на обучении представлениям (англ. feature/representation learning), а не на специализированных алгоритмах под конкретные задачи.