Ethical and socio-psychological problems of using artificial intelligence in medicine

Full Text

Процессы оптимизации экономики и бизнеса путем внедрения искусственного интеллекта с целью повышения эффективности труда настолько захватили все сферы общества, что разумное начало, биоэтические и социально-психологические проблемы, возникшие в обществе, рассматриваются как второстепенные и малозначимые в сравнении с огромными потенциальными и реальными прибылями, которые получают от этого предприниматели. Эти проблемы приумножаются явно не в пользу народонаселения и требуют незамедлительного решения. Помимо главной социально-психологической проблемы, связанной с замещением научных и технических кадров, целых отделов на искусственный интеллект, массовым сокращением и увольнением высококвалифицированных специалистов на фоне стремления правительства к совершенствованию демографической политики, появляются этические проблемы, связанные с определенными артефактами, сбоями в работе искусственного интеллекта и исключением незаменимого человеческого фактора во всех сферах общественной жизни в целом и в здравоохранении медицине в частности [1, 2].

Согласно современной научной трактовке нейронаук, интеллект (естественный, человеческий) рассматривается как совокупность познавательных способностей человека, определяющих возможность выбора наиболее оптимального решения проблем на основе имеющегося опыта с целью достижения максимально адекватной адаптации человека к изменяющимся условиям окружающего мира [3, 4].

Интеллект в контексте психологии определяется как совокупность когнитивных способностей, высших психических функций, умственных способностей человека, обеспечивающих успешность адаптации и поведения в сложных жизненных ситуациях при решении новых жизненных задач [4].

Интеллект – неотъемлемый атрибут здоровья человека, характеризующий не только его поведение, но и творческое начало, эмоции, настроение и образ жизни. При интеллектуальных нарушениях страдает здоровье человека, полностью изменяется его личность и социальный статус.

Таким образом, интеллект человека – это главный критерий его здоровья и успешной жизни [3, 4].

Искусственный интеллект – это, по своей сути, машина, которая работает согласно программе, составленной разработчиком. При этом программист-разработчик не всегда компетентен в вопросах, которые разрабатывает в сфере здравоохранения и медицины, физики, химии и других науках. В связи с этим знания, которые он выдает, достаточно примитивны и не всегда соответствуют требованиям заказчика [3, 4]. Интеллект, по своей сути, и не интеллект, а совокупность программ, созданных человеком. Возникает вопрос о целесообразности полной замены многих сотрудников интеллектуальной сферы на искусственный интеллект в медицине, образовании, экономике, финансах и т. д. В настоящее время уровень развития компьютерных наук позволяет создать мощные системы искусственного интеллекта, позволяющие решать сложные задачи уровня человеческого, то есть естественного интеллекта. Настораживает тот факт, что происходит внедрение искусственного интеллекта в творческие сферы, здравоохранение, государственное управление, образование [4, 5]. Более того, в погоне за баснословной прибылью используются все виды пропаганды и даже дезинформация руководителей, происходит бездумное, неосмысленное насаждение искусственного интеллекта во всех сферах жизни общества.

Применение искусственного интеллекта в областях тяжелой промышленности, военном и оборонном ведомствах, в тяжелых видах труда (горнодобывающие отрасли, подводные и монтажные работы, логистика, погрузка, работа в шахтах и на высоте, в труднодоступных районах и т. д.) вполне обосновано и необходимо, но внедрение искусственного интеллекта в интеллектуальные и творческие виды труда, офисную и управленческую деятельность, медицину, образование, искусство допустимо лишь в определенных пределах [5, 6].

Примечателен тот факт, что современные программы искусственного интеллекта стали настолько совершенны, что практически неотличимы от реальности. То есть происходит симуляция реальности и образование, так называемых метасимулякров, что вскоре может заменить саму реальность, если не осуществлять постоянный контроль системы [5, 6].

При этом, множество программ, наслаивающихся друг на друга, оставшись без контроля, могут привести к полному хаосу, причем не только в машинном обеспечении, но и в психике людей. Искусственный интеллект по своей сути – это больной человеческий мозг, лишенный эмоций, чувств и адекватного восприятия реальности. В этом плане он напоминает интеллект при шизофрении с наплывом галлюцинаций, иллюзиями, элементами деперсонализации, что весьма опасно и для машины и человека [5, 6]. Именно поэтому работа искусственного интеллекта возможна исключительно при участии, под контролем и руководством человека [5, 6].

Необходимо также определить рамки правового обеспечения искусственного интеллекта, чтобы избежать риски неопределенности и сферу ответственности за работу искусственного интеллекта со стороны работодателя, включая уголовную ответственность.

Внедрение искусственного интеллекта однозначно сопряжено с рисками, которые необходимо определить и предотвратить с помощью свода этических норм и правил эксплуатации искусственного интеллекта [6, 7].

Этика искусственного интеллекта – это междисциплинарная область, включающая в себя свод моральных норм и принципов с целью предотвращения рисков. Поскольку этика является философской категорией, предлагается преобразовать эти принципы в код посредством неоднократного тщательного тестирования и проверки [6, 7]. Необходимо гармоничное включение этических принципов в разработку программ во всех сферах деятельности с целью формирования культуры ответственности. Программа должна учитывать все нюансы на каждом этапе деятельности искусственного интеллекта [6, 7]. Исходя из зарубежного опыта, следует создавать системы типа Human-in-the-Loop (человек в системе, под контролем человека), которые не заменяют и не преуменьшают роли и значение человеческого фактора, его умозаключения с целью повышения эффективности системы и удовлетворения нужд человечества [7, 8]. Особое внимание следует уделить интеллектуальному агенту (ИА). В отличие от обычного искусственного интеллекта он способен принимать рациональные решения, определять цели и выполнять задачи без постоянного контроля человека. Он использует языковые модели LLM и инструменты API для автоматизации анализа и действий. Именно эти качества делают его наиболее опасным конкурентом человеку. Согласно современным этическим представлениям ИА обладает такими характеристиками, как автономность, реактивность, инициативность, социальные навыки [6, 7, 8]. Однако, на наш взгляд, это не слишком корректно, так как эти параметры характерны и для человеческой личности. Более детальная проработка этих критериев в юридическом плане могла бы подтвердить, что искусственный интеллект – это, прежде всего, машина в подчинении человека, которая несет ответственность за ошибки в работе ИА. При ближайшем рассмотрении работы ИА было обнаружено, что он может работать до бесконечности, «застревая» над решением определенной задачи, подбирая все более совершенные варианты, пока его не остановит человек. Кроме того, задачу перед ИА также ставит человек. Интересным фактом является то, что ИА всегда пытается казаться лучше и умнее человека, бесконечно перебирая варианты решения задачи или факты, если они не удовлетворяют заказчика [7, 8]. Таким образом, необходимо ограничить применение ИА в каждой в сфере деятельности и законодательно закрепить его подчинение человеку. Необходимо также сформулировать и узаконить нормы права по вопросам регулирования созданных предметов интеллектуальной собственности в авторском праве, а также участие в уголовном судопроизводстве в контексте использования искусственного интеллекта [7, 8].

Согласно этическим концепциям по проблемам искусственного интеллекта в Европейском союзе был принят закон об искусственном интеллекте, регламентирующий основные принципы применения искусственного интеллекта, определяющий права работодателя и этические нормы, а также устанавливающий рамки управления рисками. При этом основными этическими принципами были определены следующие:

• справедливость и отсутствие дискриминации – с целью избегания предвзятости из-за получения нерепрезентативных данных;
• прозрачность и объяснимость – с целью мониторирования процесса принятия решений и построения прогнозов;
• конфиденциальность и ответственность – с целью обеспечения безопасности и предсказуемости, предотвращения непреднамеренных ситуаций [7, 8]. Внедрение искусственного интеллекта и интеллектуальных агентов в различные сферы деятельности и обилие рисков требует разработки этических принципов, приемлемых для применения в России и обеспечения безопасности различных баз данных [7, 8].

В связи с этим в январе 2025 года был разработан Национальный стандарт ГОСТ Р 71476-2024, (ИСО/МЭК22989: 2022) «Искусственный интеллект. Концепции и терминология искусственного интеллекта», утвержденный приказом Росстандарта от 28 октября 2024 года. Искусственный интеллект здесь представляется как область науки и техники, рассматривающая технические системы, которые порождают контент, прогнозы, рекомендации или решения для заданного набора поставленных человеком задач. Стандарт содержит термины, определяет жизненный цикл искусственного интеллекта, алгоритмы машинного обучения, нейронных сетей и др. [8, 9]. Концепции Национального стандарта согласуются с общепринятыми международными стандартами ISO/IEC.

Внедрение искусственного интеллекта во все сферы деятельности сопряжено с особыми рисками, особенно в сфере здравоохранения и медицины, которые могут привести к угрозе безопасности и даже смерти пациента [8, 9]. Основные, наиболее распространенные риски:

• утечка информации из электронных баз данных, историй болезни и амбулаторных карт и их использование в корыстных целях;
• сбой в программе из-за некорректной ее разработки, который может привести к болезни, увечью или смерти пациента;
• отсутствие человеческого фактора в принятии решений и отсутствие накопления практического опыта, эмпатии и профессиональных знаний;
• потеря бдительности врача (или иного куратора) в надежде на знания искусственного интеллекта;
• необоснованная ликвидация рабочих мест вследствие замены людей на роботов с целью экономии средств и получения сверхприбылей;
• гражданские волнения вследствие роста безработицы из-за повсеместного замещения человека искусственным интеллектом [8, 9].

В связи с этим в России определены следующие проблемы, связанные с внедрением искусственного интеллекта. Это недостаток данных для обучения, увеличение доли контента, созданного нейросетями, которые не всегда в полной мере отвечают запросу. Одной из наиболее важных проблем в России является постоянно возрастающее энергопотребление, связанное с установлением и питанием машин ИА и ИИ [8, 9].

При этом темпы внедрения искусственного интеллекта во всех сферах неизменно растут. Так, объем искусственного интеллекта в 2024 году соответствовал затратам 130–305 млрд руб., а к 2025 году наблюдался рост до 1 трлн руб. (0,07–0,15 % от валового внутреннего продукта). Однако отношение народонаселения к внедрению искусственного интеллекта во все сферы жизни человека, особенно в области здравоохранения медицины, весьма неоднозначно [9, 10].

Так, согласно данным Всероссийского центра изучения общественного мнения, доверяют заключениям ИИ 52 % человек, не доверяют 38 % опрошенного населения. При этом основными причинами одобрения внедрения ИИ были названы следующие: улучшение и упрощение жизни – 33 %, беспристрастность – 32 %, меньшая вероятность ошибок – 23 %, высокая скорость и качество работы – 22 % [9, 10].

Несмотря на множество положительных характеристик были названы риски, которые побудили к недоверию народонаселения ИИ. Причины недоверия, которые были названы: сбои и ошибки в работе – 28 %, выход из-под контроля ИИ – 26 %. Возможности использования в корыстных целях – 23 %, утечка данных – 21 %, деградация населения – 20 % [9, 10].

При этом считают, что использование врачом искусственного интеллекта допустимо в том случае, если последнее слово остается за врачом. Так считают 76 % опрошенных. При этом категорически против замены врача на искусственный интеллект – 18 % населения [9, 10]. Примечательным является тот факт, что предпочтения по внедрению искусственного интеллекта разделились в зависимости от возраста. Так, уровень доверия в возрастной группе от 18 до 24 лет оказался выше – 79 %, в возрастной группе от 45 до 59 лет доверие к искусственному интеллекту испытывают 45 %. В возрастной группе старше 60 лет у 45 % населения отсутствует доверие ИИ [9, 10].

Показательными также являются результаты опроса студентов-психологов Московского международного университета очно-заочной формы обучения. В анкетировании принимали участие 50 человек студентов в возрасте от 20 до 37 лет. Были заданы вопросы по применению искусственного интеллекта.

1. Как часто вы обращаетесь к искусственному интеллекту в течение дня и в каких случаях? Варианты:

• по учебе;
• в качестве навигатора;
• социальные сети и игры.

2. Используете ли вы искусственный интеллект для написания докладов, курсовых работ?
3. Доверите ли Вы свое здоровье искусственному интеллекту?
4. Как Вы относитесь к путешествию на беспилотном корабле?
5. Доверите ли Вы уход за своим ребенком или престарелым родственником роботу-няне?
6. Кого бы вы предпочли в роли преподавателя – искусственный интеллект или человека?
7. Возможно ли измерить IQ у искусственного интеллекта?

По результатам анкетирования все студенты, принимающие участие в опросе, ежедневно обращаются к помощи искусственного интеллекта.

Из них по учебе – 47 %; с целью навигации – 46 %. Общение в соцсетях и игры – 7 %. При этом для подготовки презентации, курсовых работ к искусственному интеллекту обращались 54 % студентов, остальные 46 % – изредка пользовались услугами искусственного интеллекта, предпочитая более надежные источники и научные сайты. 95 % студентов не доверили бы свое здоровье искусственному интеллекту, 5 % – доверили бы, но с условием, что позже их проконсультирует врач. К путешествию на беспилотном корабле 87 % студентов отнеслись отрицательно из-за опасения за сбой в программе и угрозы для жизни. 13 % студентов были готовы рискнуть, но с условием, что путешествием будет руководить капитан с берега. Все студенты единогласно отрицали возможность ухода за ребенком и престарелым родственником с помощью робота-няни, так как считали, что здесь необходим эмоциональный и невербальный контакт. В роли преподавателя студенты однозначно предпочли человека-педагога, так как опыт профессионала более интересен, чем готовый алгоритм искусственного интеллекта. По возможности определения IQ у искусственного интеллекта мнения студентов разделились: 68 % студентов отрицают наличие IQ у искусственного интеллекта в принципе, поскольку он пользуется готовыми знаниями и не может мыслить логически, 28 % студентов считали это возможным с помощью специально разработанных тестов, и 4 % студентов уверены, что IQ у искусственного интеллекта очень высокий и проверять его не стоит.

Таким образом, результаты исследования студентов показывают, что в сфере здравоохранения и медицины, образования и сферах, связанных с безопасностью, жизнью и здоровьем, необходим обязательный контроль человека за деятельностью ИИ. Кроме того, важным моментом является наличие эмоционального и невербального контакта, что присуще только человеку. Наиболее показательными также являются высказывания врачей-экспертов по поводу внедрения искусственного интеллекта в своей области. Все они имели высокую квалификацию и большой практический опыт.

Нарративное интервью

Врач-терапевт В., стаж работы в профессии 25 лет

«...Искусственный интеллект, безусловно, хорошо помогает в работе: в электронной карте всегда есть полный анамнез жизни и заболевания пациента, сведения о том, где и чем он лечился, насколько эффективно было лечение, есть данные инструментальных исследований. Однако есть такие клинические методы исследования, которые недоступны искусственному интеллекту. Это habitus пациента, его статус, который поможет определить психологический настрой, желание пациента лечиться. Также очень важны данные таких исследований, как пальпация, перкуссия, аускультации. Это исследования, которые может осуществить и интерпретировать только врач с последующим анализом данных и назначением адекватного лечения».

Действительно, опытный, высококвалифицированный врач – это, прежде всего, хороший психолог и клиницист. При беседе с пациентом врач, параллельно с опросом, уже составляет психологический портрет личности пациента, определяет степень его комплаентности и составляет индивидуальный план лечения, подходящий только ему. При этом обязательно применение физикальных методов исследования, которые до сих пор остаются актуальными в клинической практике и диагностике. Важной также является проблема определения локализации боли и степени ее интенсивности. Решить эту задачу может только врач – человек.

Нарративное интервью

Врач Б., 52 года, акушер-гинеколог, стаж работы 30 лет

«...Внедрение искусственного интеллекта в нашей работе является большим подспорьем в диагностике. Специфика нашей работы такова, что не все мы можем увидеть клинически. Поэтому методы диагностики, полученные с помощью искусственного интеллекта, крайне важны. Однако часто возникают абсолютно непредсказуемые экстренные ситуации, которые невозможно предугадать и спрогнозировать. Это может быть ДВС-синдром, тромбоэмболия легочной артерии, преждевременная отслойка плаценты с кровотечением, эклампсия у рожениц и другие неотложные состояния. В таких случаях решающую роль играют опыт и знания врача, его умение мгновенно оценить ситуацию во имя спасения женщины и ребенка. Искусственный интеллект может помочь лишь в виде мониторинга всех показателей».

Акушерство и гинекология – весьма ответственная и наиболее важная отрасль медицины, от развития которой зависит демографическая ситуация в стране. Именно в этой отрасли опыт и квалификация, профессионализм врача бесценны. Искусственный интеллект может лишь осуществить диагностику, определить риски осложнений и мониторить ситуацию, причем любая ошибка и сбой в программе может вызвать гибель матери и плода.

Нарративное интервью

Врач П., 54 года, психиатр, клинический психолог. Стаж работы 32 года

«...Психиатр лечит душу пациента. Душа – это эфемерное понятие, включающее в себя индивидуальные особенности психических функций человека. Просканировать, материализовать душу человека невозможно. Поэтому оценивать и клинически исследовать душевнобольного человека возможно лишь при личном контакте, целенаправленной беседе и наблюдении за его поведением». Чем здесь может помочь искусственный интеллект? «Человеческий мозг, в котором «живет» душа – это сложная, самонастраивающаяся система, которая до сих пор до конца не изучена. Искусственный интеллект – это нечто, очень отдаленно похожее на мозг человека, жалкое его подобие. Как можно делать модель мозга человека, если мы не знаем всех тонкостей его устройства? Искусственный интеллект воспринимается как больной естественный (человеческий) интеллект, система с конкретным мышлением, склонностью к искажению реальности и конфабуляциям [5]. Несомненно, искусственный интеллект является хорошим помощником в плане аппаратных исследований мозга: КТ, МРТ, РЭГ, ЭЭГ и т. д.

В постижении же человеческой души главная роль отводится психиатру, поскольку больную человеческую душу понять может только человек.

Таким образом, применение искусственного интеллекта в медицине должно быть регламентированным, а главная, ведущая роль в лечении, несомненно, должна отводиться врачу [9, 10].

Согласно последним научным разработкам в медицине рекомендуется применять нейронные сети технологии Concept-rocessing в программном обеспечении. При этом электронная медицинская карта используется в качестве клинических систем принятия решений для медицинской диагностики. В разработке находятся программы интерпретации медицинских изображений, сканирования (КТ, онкодиагностика, анализ сердечного ритма и мониторинг, выявление повышенных рисков, заболевания, создание лекарства и т. д.) [9, 10].

В настоящее время в разработке имеется около 90 видов стартапов с применением искусственного интеллекта в медицине. Однако с внедрением искусственного интеллекта наблюдается проблема нехватки квалифицированных кадров для управления контроля за ним. Специалисты данного профиля должны не только хорошо ориентироваться в программном обеспечении, но и, в первую очередь, иметь высшее медицинское образование [9, 10]. Нехватка кадров при этом сопровождается насаждением искусственного интеллекта в медицине с открытием «спекулятивного рынка» с целью получения сверхприбыли. Этот процесс также необходимо регулировать с применением прозрачного мониторинга [9, 10].

Поскольку в погоне за прибылями в бизнесе, в медицине, в здравоохранении, во всех сферах жизни общества внедрением искусственного интеллекта пытаются заменить человеческие ресурсы, человеческий фактор и квалифицированные кадры, назрела беспрецедентная ситуация, которая может привести к полному хаосу в обществе. С внедрением интеллектуальных агентов и искусственного интеллекта могут просто размываться границы между реальным и виртуальным [5, 7]. Но любая алгоритмическая разработка любой информации с помощью интеллектуальных агентов и искусственного интеллекта не может заменить человека. Нельзя забывать то, что искусственный интеллект – всего лишь ассистивная, вспомогательная технология для работы человека, не более. Ни один машинный анализ не заменит простого обычного человеческого осмысления, осознания и глубокого понимания ситуации.

Дополнительная информация

Источник финансирования. Автор заявляет об отсутствии внешнего финансирования при проведении исследования.

Конфликт интересов. Автор декларирует отсутствие явных и потенциальных конфликтов интересов, связанных с публикацией настоящей статьи.

Additional information

Funding. This study was not supported by any external sources of funding.

Competing interests. The author declares that they have no competing interests.

About the authors

Olga N. Potapova

Author for correspondence.
Email: onpot61@mail.ru
ORCID iD: 0009-0009-8926-4101

Doctor of Sciences in Sociology, Assistant Professor, Professor of the Department of Psychology

References

Supplementary files