Кодекс этики искусственного интеллекта в здравоохранении. Устойчивое развитие систем искусственного интеллекта: почему мы говорим об их влиянии на окружающую среду?

Обложка


Цитировать

Полный текст

Аннотация

Проблемы окружающей среды колоссально сказываются на всем населении мира, в частности на здоровье людей, что играет ведущую роль в индивидуальном благополучии. Загрязнение окружающей среды, согласно некоторым оценкам, убивает около 9 млн человек ежегодно. Внедрение систем искусственного интеллекта (СИИ) во многие области имеет огромный потенциал в снижении влияния человека на окружающую среду, однако такие системы оказывают и негативный эффект.

Возможности СИИ по улучшению здравоохранения неразрывно связаны с этическими проблемами, которые возникают из-за сложности данных систем и их влияния на жизнь и здоровье сообществ, пациентов и персонала. Помимо аспектов, которые непосредственно относятся к алгоритмам, данным и клиническому применению СИИ, существуют долгосрочные и неочевидные на первый взгляд риски. Одним из таких рисков является негативное влияние СИИ на окружающую среду, что может навредить здоровью людей косвенно. Системы искусственного интеллекта — не только программное обеспечение, но и физические компоненты, которые необходимы для их функционирования, такие как процессоры, память, датчики и др. Изготовление этих компонентов и энергия, которую они потребляют, оказывают сильное влияние на окружающую среду. Одно из исследований показало, что при обучении одного алгоритма ИИ выброс углерода может достигать значений, которые соответствуют суммарному выбросу углерода от пяти автомобилей за их срок службы.

В данном исследовании проведён анализ существующих публикаций, связывающих развитие СИИ, особенно в здравоохранении, с их эффектом на окружающую среду. Данное исследование должно дополнить разрабатываемый Кодекс этики ИИ в сфере здравоохранения, а именно — принципы устойчивого развития, которые будут включены в данный кодекс.

По результатам исследования сделан вывод, что влияние СИИ на экологию должно учитываться при формулировании этических норм для СИИ в здравоохранении. Эти нормы необходимо учитывать на этапах разработки, тестирования и применения СИИ. Все вовлечённые в создание и использование СИИ люди (разработчики, врачи, регуляторы, и др.) должны отслеживать влияние этих систем на окружающую среду и минимизировать экологические последствия работы таких систем на всех этапах их существования. Данный принцип призывает свести негативные последствия к минимуму, повысить энергоэффективность таких систем на всех этапах их существования и проводить утилизацию физических компонентов в строгом соответствии с текущим законодательством. Кроме того, из-за стремительного развития таких систем и возникающих с ними этических дилемм необходимо совместно предлагать пути их решения и развивать этические нормы сообразно и своевременно возникающим технологиям.

Полный текст

Проблемы окружающей среды колоссально сказываются на всем населении мира, в частности на здоровье людей, что играет ведущую роль в индивидуальном благополучии. Загрязнение окружающей среды, согласно некоторым оценкам, убивает около 9 млн человек ежегодно. Внедрение систем искусственного интеллекта (СИИ) во многие области имеет огромный потенциал в снижении влияния человека на окружающую среду, однако такие системы оказывают и негативный эффект.

Возможности СИИ по улучшению здравоохранения неразрывно связаны с этическими проблемами, которые возникают из-за сложности данных систем и их влияния на жизнь и здоровье сообществ, пациентов и персонала. Помимо аспектов, которые непосредственно относятся к алгоритмам, данным и клиническому применению СИИ, существуют долгосрочные и неочевидные на первый взгляд риски. Одним из таких рисков является негативное влияние СИИ на окружающую среду, что может навредить здоровью людей косвенно. Системы искусственного интеллекта — не только программное обеспечение, но и физические компоненты, которые необходимы для их функционирования, такие как процессоры, память, датчики и др. Изготовление этих компонентов и энергия, которую они потребляют, оказывают сильное влияние на окружающую среду. Одно из исследований показало, что при обучении одного алгоритма ИИ выброс углерода может достигать значений, которые соответствуют суммарному выбросу углерода от пяти автомобилей за их срок службы.

В данном исследовании проведён анализ существующих публикаций, связывающих развитие СИИ, особенно в здравоохранении, с их эффектом на окружающую среду. Данное исследование должно дополнить разрабатываемый Кодекс этики ИИ в сфере здравоохранения, а именно — принципы устойчивого развития, которые будут включены в данный кодекс.

По результатам исследования сделан вывод, что влияние СИИ на экологию должно учитываться при формулировании этических норм для СИИ в здравоохранении. Эти нормы необходимо учитывать на этапах разработки, тестирования и применения СИИ. Все вовлечённые в создание и использование СИИ люди (разработчики, врачи, регуляторы, и др.) должны отслеживать влияние этих систем на окружающую среду и минимизировать экологические последствия работы таких систем на всех этапах их существования. Данный принцип призывает свести негативные последствия к минимуму, повысить энергоэффективность таких систем на всех этапах их существования и проводить утилизацию физических компонентов в строгом соответствии с текущим законодательством. Кроме того, из-за стремительного развития таких систем и возникающих с ними этических дилемм необходимо совместно предлагать пути их решения и развивать этические нормы сообразно и своевременно возникающим технологиям.

×

Об авторах

Анастасия Андреевна Михайлова

Научно-практический клинический центр диагностики и телемедицинских технологий

Автор, ответственный за переписку.
Email: MikhajlovaAA8@zdrav.mos.ru
ORCID iD: 0000-0002-3151-9388
SPIN-код: 7216-4620
Россия, Москва

Дарья Евгеньевна Шарова

Научно-практический клинический центр диагностики и телемедицинских технологий

Email: SharovaDE@zdrav.mos.ru
ORCID iD: 0000-0001-5792-3912
SPIN-код: 1811-7595
Россия, Москва

Список литературы

  1. Fuller R., Landrigan P.J., Balakrishnan K., et al. Pollution and health: a progress update // Lancet Planet Health. 2022. Vol. 6, N 6. C. e535–e547. doi: 10.1016/S2542-5196(22)00090-0
  2. Training a single AI model can emit as much carbon as five cars in their lifetimes // MIT Technology Review [Internet] Дата обращения: 06.04.2023. Доступ по ссылке: https://www.technologyreview.com/2019/06/06/239031/training-a-single-ai-model-can-emit-as-much-carbon-as-five-cars-in-their-lifetimes/.
  3. Aligning artificial intelligence with climate change mitigation // Nature Climate Change [Internet]. Дата обращения: 17.04.2023. Доступ по ссылке: https://www.nature.com/articles/s41558-022-01377-7.
  4. Crawford K. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven : Yale University Press, 2021.
  5. Strubell E., Ganesh A., McCallum A. Energy and Policy Considerations for Deep Learning in NLP [Internet] // arXiv.2019. Дата обращения: 16.04.2023. Доступ по ссылке: http://arxiv.org/abs/1906.02243
  6. Richie C. Environmentally sustainable development and use of artificial intelligence in health care // Bioethics. 2022. Vol. 36, N 5. P. 547–555. doi: 10.1111/bioe.13018
  7. Measuring the environmental impacts of artificial intelligence compute and applications: The AI footprint // OECD Digital Economy Papers. 2022. Vol. 341. doi: 10.1787/7babf571-en
  8. Tamburrini G. The AI Carbon Footprint and Responsibilities of AI Scientists // Philosophies. 2022. Vol. 7, N 1. P. 4. doi: 10.3390/philosophies7010004
  9. Dhar P. The carbon impact of artificial intelligence // Nat Mach Intell. 2020. Vol. 2, N 8. P. 423–425. doi: 10.1038/s42256-020-0219-9

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML
Скачать

© Эко-вектор, 2023

Creative Commons License
Эта статья доступна по лицензии Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
СМИ зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор).
Регистрационный номер и дата принятия решения о регистрации СМИ: серия ПИ № ФС 77 - 79539 от 09 ноября 2020 г.


Данный сайт использует cookie-файлы

Продолжая использовать наш сайт, вы даете согласие на обработку файлов cookie, которые обеспечивают правильную работу сайта.

О куки-файлах