Ethical risks of deviation of the culture of consumption of AI-associated services in medicine

Cover Page

Cite item

Full Text

Abstract

Background: the integration of artificial intelligence technologies into the medical field is happening at a rapid pace, which certainly contributes to the qualitative growth of high-tech medical services. At the same time, the involvement of the consumer in the field of AI-associated medical services is not absolutely complementary to other areas of the market, since it concerns priority values – life and health. The purpose of the work is to predict the ethical risks of deviation of the culture of consumption of AI-associated services in medicine.

Materials and methods: A secondary analysis of the 2024 and 2025 VTsIOM sociological surveys was conducted. The sample included 1,700 respondents aged 18 and over, divided into generational groups: the “digital generation” (born after 2001), “younger millennials” (born 1992–2000), older millennials (born 1982–1991), the reform generation (born 1968–1981), the generation of stagnation (born 1948–1967), and the generation of the thaw (born before 1947). Results: The largest number of positive patient expectations is associated with the hope that AI will influence the reduction of medical errors (41.2 %). In second place are expectations of a positive impact on the security of personal data in medical services (33 %). The least positive expectations are related to the possibility of AI influence on doctor-patient relationships. Only 28 % of respondents believe that the situations «in personal relationships between patients and doctors” and with «doctors’ bias towards patients of different ages» will improve. The digital generation is positive about AI’s participation in diagnosing diseases and recommending treatment (48 % feel “comfortable” and “rather comfortable”), while about half of the respondents in the older age group (46 % of the “stagnation generation”) expressed disapproval: “rather uncomfortable” and “not comfortable”).

Conclusion: It is possible to assume that a new “AI-techie” model of doctor-patient relationships will emerge in the near future, and patients of the “digital” and “millennial” generations are ready for it. The conducted analysis allows us to predict the risks of deviations in the culture of consumption of medical services associated with artificial intelligence. Given the skepticism of respondents aged 55+, we can assume the tactics of avoiding this type of medical services by patients of older age groups.

Full Text

Актуальность. Интеграция технологий искусственного интеллекта (AI) в медицинскую сферу происходит стремительными темпами – за последние 15 лет количество кейсов интеграции AI в диагностические и операциональные процессы в медицине выросло в 62 раза, что, безусловно, способствует качественному росту высокотехнологичных медицинских услуг, инициируя интерес исследователей в конвергентном научном поле медицинских, социологических, философских наук [1, 2, 3, 4, 5, 6]. Постепенно AI внедряется в рутинную медицинскую практику, решая, например, проблему передозировки в терапии через AI-методику параболического персонализированного дозирования (PPD), основанного на алгебраической корреляции фенотипа и концентрации лекарственного препарата. Медицинская визуализация на основе AI – машинное зрение – активно внедряется в диагностику, делая ее более точной и ранней. Сложно назвать область медицины, закрытую для внедрения и/или развития AI-технологий. Учитывая юридический контент оказания медицинской помощи, идет формирование рынка AI-ассоциированных медицинских услуг, меняя, в свою очередь, культуру их потребления массовым пациентом [7, 8]. Интеракция врача и пациента приобретает новую AI-техницитскую модель, но функцию безучастного «водопроводчика», который занят исключительно техническими вопросами диагностики и устранения «неполадок» (по описанию Р. Вича), в ней играет роль уже не врач, а нейросеть, которую, действительно, не беспокоит этическое напряжение пациента. Насколько готов российский пациент к такому повороту событий в медицинской сфере, учитывая возрастные особенности его демографического портрета [9, 10]? Кроме того, культура потребления медицинских услуг постепенно стирается в границах с общей культурой потребления, демонстрируя аналогичные ее девиации с дисбалансом ответственности и автономии потребителя услуг, его медиазависимостью и интернет-осведомленностью. В то же время вовлечение потребителя в сферу AI-ассоции-рованных медицинских услуг неабсолютно комплементарно другим областям рынка, поскольку касается приоритетных ценностей – жизни и здоровья.

 

Цель работы

Прогнозирование этических рисков девиации культуры потребления AI-ассоциированных услуг в медицине.

 

Материалы и методы

Эмпирическую базу работы составил вторичный анализ социологических опросов ВЦИОМ 2024, 2025 г. Выборка составила 1700 респондентов в возрасте от 18 лет. Демографический критерий квотирования позволил разделить респондентов на поколенческие группы: поколение цифры (старше 2001 года рождения), младшие миллениалы (1992–2000 года рождения), старшие миллениалы (1982–1991 года рождения), реформенное поколение (1968–1981 года рождения), поколение застоя (1948–1967 года рождения) и поколение оттепели (до 1947 года рождения).

 

Результаты и их обсуждение

Анализ результатов опроса ВЦИОМ по проблеме интеграции искусственного интеллекта в медицинскую практику демонстрирует в целом позитивное отношение пациентов с положительной динамикой в глубине исследований в два года [1]. В то же время, рассматривая отдельные уровни ожидания рассматриваемого процесса, можно отметить неоднозначность пациентского «оптимизма» (рис. 1). Наибольшее число позитивных ожиданий пациентов связано с надеждой влияния AI на снижение врачебных ошибок (41,2 %), при этом каждый четвертый (24,5 %) не рассчитывает, что ситуация изменится к лучшему.

На втором месте – ожидания положительного влияния на безопасность персональных данных в медицинских сервисах, которые выразили 33 %.

Наименьшее число позитивных ожиданий вызывает возможность влияния AI на отношения между врачом и пациентом. Только 28 % респондентов считает, что улучшатся ситуации «в личных отношениях пациентов с врачами» и с «предвзятостью врачей к пациентам разных возрастов». При этом 32–42 % не уверены, что ситуация в этом поле вообще изменится. В целом число «AI-диссидентов» по всем уровням ожидания составляет в среднем 16–17 %, полагающих, что внедрение AI в диагностические и лечебные процедуры приведет к ухудшению ситуации в медицине.

Число «AI-скептиков», считающих, что ситуация не изменится, почти вдвое больше – 25–30 %.

Кроме того, анализ данных опроса 2024 года показал статистически достоверную зависимость лояльности респондентов к интервенции искусственного интеллекта в диагностический процесс от принадлежности к поколенческим группам (рис. 2).

 

Рис. 1. Экспектации пациентов, связанные с интеграций AI в медицину. По оси ординат – уровни ожидания: ВО – врачебные ошибки, БЛЗП – безопасность личных медицинских записей пациентов, ТЛОП – трудности в личных отношениях пациентов с врачами, ПВ – предвзятость врачей к пациентам разных возрастов. По оси абсцисс – число респондентов в %

 

Рис. 2. Отношение к интеграции ИИ в медицинскую практику2. По оси ординат – поколенческие группы.  По оси абсцисс: число респондентов в процентах распределения ответов на вопрос

 

При ответе на закрытый вопрос: «Как бы Вы себя почувствовали, если бы Ваш врач полагался на искусственный интеллект, например, для диагностики заболеваний и рекомендации лечения для Вас?» примерно половина респондентов поколения цифры (48 %) дала положительные варианты ответов («комфортно» и «скорее комфортно»), в то время как примерно половина респондентов старшей возрастной группы (46 %) – поколения застоя – выбрали отрицательные варианты («скорее не комфортно» и «не комфортно»). Положительные ответы респондентов более старших поколенческих групп значимо ниже по своей численности: в группе миллениалов и реформенного поколения составили 32 %, в группе поколения застоя – 24 %, то есть в 2 раза меньше, p < 0,5.

Анализ рассматриваемых результатов позволяет прогнозировать риски девиаций культуры потребления медицинских услуг, ассоциированных с искусственным интеллектом. Учитывая скепсис респондентов 55+, можно предположить тактику избегания такого вида медицинских услуг пациентами старших возрастных групп. Учитывая, что пациенты старческого возраста обладают невысоким уровнем информационно-коммуникационных компетенций, влияние средств масс-медиа на этот процесс также будет минимальным. Молодые возрастные группы, погруженные в цифровое пространство, даже при скептических настроениях легче подвержены влиянию медиа триггеров и, следовательно, быстро адаптируются к новому рынку медицинских услуг, формируя на них спрос. Это соответствует финансовым прогнозам: объем рынка AI в сфере здравоохранения в 2024 году оценивался в 11,65 млрд долларов и увеличится на 25,83 % к 2029 году[3].

В то же время специфический контент взаимоотношений врача и пациента представляет наибольший фактор риска в развитии девиаций культуры потребления AI-ассоциированных услуг в медицине: 2/3 респондентов считает, что искусственный интеллект не может улучшить личные отношения врача и пациента. Можно предположить, что по аналогии с предпочтениями техницисткой модели взаимоотношений в паре врач – пациент более молодые и компетентные пациенты будут выбирать AI-ассоциированные медицинские услуги. Учитывая демографический дисбаланс населения в сторону старше пенсионного возраста, в том числе пациентов старческого возраста, ностальгирующих по образу советского врача, их принуждение к рассматриваемым медицинским услугам ухудшит ситуацию неудовлетворенности медицинской помощи в целом. Необходимо осуществлять постепенный переход к массовому внедрению AI-ассоциированных медицинских услуг, предлагая альтернативные варианты с учетом возраста пациента. Такой опыт сопровождения пациентов старческого возраста в сфере цифровых услуг зафиксирован в рамках имплементации ценностно-ориентированной модели в систему Московского здравоохранения [11].

 

Заключение

Медицинская помощь как сфера гражданско-правовых отношений с обязательствами оказания услуг испытывает трансформацию, обусловленную внедрением в это поле искусственного интеллекта. Эффективность операциональных медицинских услуг не вызывает особых опасений у специалистов, в то время замещение диагностических процедур нейросетью связывают с этическими рисками, что продемонстрировал анализ вторичных данных опросов ВЦИОМ 2024–2025 гг. Можно предположить в ближайшее время появление новой «AI-техницисткой» модели взаимоотношений врача и пациента, готовность к которой проявляют пациенты поколений цифры и миллениалы. Инкультурация потребителей AI-ассоции-рованных медицинских услуг старшими поколениями сопряжена с этическими рисками девиации рассматриваемой формы культуры потребления и требует детального исследования для создания социально-психологического ассесмента во избежание роста неудовлетворенности пациентов старших возрастных групп качеством оказания медицинской помощи.

 

Дополнительная информация

Вклад авторов. Все авторы подтверждают соответствие своего авторства международным критериям ICMJE (все авторы внесли существенный вклад в разработку концепции, проведение исследования и подготовку статьи, прочли и одобрили финальную версию перед публикацией).

Источник финансирования. Авторы заявляют об отсутствии внешнего финансирования при проведении исследования.

Конфликт интересов. Авторы декларируют отсутствие явных и потенциальных конфликтов интересов, связанных с публикацией настоящей статьи.

 

Additional information

Author contribution. All authors made a substantial contribution to the conception of the work, acquisition, analysis, interpretation of data for the work, drafting and revising the work, final approval of the version to be published and agree to be accountable for all aspects of the work.

Funding source. This study was not supported by any external sources of funding.

Competing interests. The authors declare that they have no competing interests.

 

1 Нейросеть в белом халате, или новая эра медицины? Сетевое издание WCIOM. 19.11.2024. URL: https://wciom.ru/analytical-reviews/analiticheskii-obzor/ neiroset-v-belom-khalate-ili-novaja-ehra-mediciny (дата обращения: 16.04.2025).

2 Нейросеть в белом халате, или новая эра медицины? Сетевое издание WCIOM. 19.11.2024. URL: https://wciom.ru/analytical-reviews/analiticheskii-obzor/ neiroset-v-belom-khalate-ili-novaja-ehra-mediciny (дата обращения: 16.04.2025).

3 Искусственный интеллект в медицине: сферы, технологии и перспективы. Habr: сайт. 18.08.2022. URL: https://habr.com/ru/companies/first/articles/682516/ (дата обращения: 16.04.2025).

×

About the authors

Alena D. Donika

Volgograd State Medical University

Author for correspondence.
Email: addonika@yandex.ru
ORCID iD: 0000-0003-3905-5538
Scopus Author ID: 57190221899

Doctor of Science (Sociology)

Russian Federation, Volgograd

Ubaidat B. Gasaynieva

Volgograd State Medical University

Email: ubayydat@mail.ru
ORCID iD: 0009-0005-3844-4605

postgraduate student of the Department of Philosophy

Russian Federation, Volgograd

References

  1. Leushina V.V., Karpov V.E. The ethics of artificial intelligence. Filosofiya i obshchestvo = Philosophy and Society. 2022;3:124–140. (In Russ.) doi: 10.30884/jfio/2022.03.07.
  2. Donika A.D. Ethics of artificial intelligence: sociological approach. Bioetika = Bioethics. 2023;16(2):26–31. (In Russ.).
  3. Constantinescu M., Voinea C., Uszkai R., Vică C. Understanding responsibility in responsible AI. Dianoetic virtues and the hard problem of context. Ethics and Information Technology. 2021;23:803–814.
  4. Hallamaa J., Kalliokoski T. How AI systems challenge the conditions of moral agency? International conference on human-computer interaction. Springer, Berlin, 2020:54–64.
  5. Wallach W., Vallor S. Moral machine: from value alignment to embodied virtue. Ethics of Artificial Intelligence. Ed. by M. Liao. New York, Oxford University Press, NYC, 2020:383–412.
  6. Nazarova Yu.V., Kashirin A.Yu. Dilemmas of the ethics of artificial intelligence. Gumanitarnye vedomosti TGPU im. L. N. Tolstogo. 2020;4(36):23–31. (In Russ.) doi: 10.22405/2304-4772-2020-1-4-23-31.
  7. Maltseva I.S., Gachenko R.A. Consumption of medicines by the population as an indicator of health-preserving culture in the region. Vestnik Majkopskogo gosudarstvennogo tehnologiceskogo universiteta. 2024;16(1):121–131. (In Russ.) doi: 10.47370/2078-1024-2024-16-1-121-131.
  8. Khudaykulova N.A. Formation of a culture of consumption of innovative technologies in medicine. Ekonomicheskie i gumanitarnye issledovaniya regionov = Economic and humanitarian studies of regions. 2024;3:72–79. (In Russ.).
  9. Eremina M.V. Social group “65+”: the ethical dilemma of the pandemic. Bioetika = Bioethics. 2022;15(1):46–50. (In Russ.).
  10. Sedova N.N. Bioethics in an era of change: vulnerable groups. Bioetika = Bioethics. 2022;15(1):3–5. (In Russ.).
  11. Aksenova E.I., Kamynina N.N. Value-oriented healthcare: Moscow practice. Moskovskaya meditsina = Moscow Medicine. 2022;5(51):24–26. (In Russ.).

Supplementary files

Supplementary Files
Action
1. JATS XML
Download
2. Fig. 1. Patients’ expectations related to AI integration in medicine. The ordinate axis shows the levels of expectations: ME – medical errors, PMRS – security of patients’ personal medical records, DPPR – difficulties in personal relationships between patients and doctors, BP – doctors’ bias towards patients of different ages. The abscissa axis shows the number of respondents in %

Download (102KB)
Indexing metadata
3. Fig. 2. Attitudes towards the integration of AI into medical practice[2]. The ordinate axis shows generational groups. The abscissa axis shows the number of respondents as a percentage of the distribution of answers to the question.

Download (147KB)
Indexing metadata

Copyright (c) 2025 Donika A.D., Gasaynieva U.B.

Creative Commons License
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.