Epistemic status of artificial intelligence in medical practice: Ethical challenges

Full Text

ВВЕДЕНИЕ

Применение технологий на основе искусственного интеллекта (ИИ) в современных научных (в частности — медицинских) практиках¹ ставит перед исследователями науки ряд проблем: каков эпистемический статус ИИ, и какие этические вызовы в связи с определением этого статуса возникают. Вопрос эпистемического статуса ИИ нуждается в прояснении, поскольку в связи с активным внедрением ИИ в научные практики неизбежно возникает опасение, что агентность технологий ставит под угрозу как агентность самой фигуры врача как инстанции, принимающей решение и стремящейся к объективному взгляду, так и саму объективность как эпистемическую добродетель², которая ассоциируется с наукой.

Проект исторической концепции объективности Л. Дастон и П. Галисона [1], в котором авторы демонстрируют историчность объективности как эпистемической добродетели на примере исследования конкретных материальных научных практик, а именно практик создания визуальных образов для естественно-научных атласов, строится с опорой на два основных аспекта: эпистемические добродетели (в частности — объективность) и визуальность.

«Внимание к той или иной форме научного видения выводит на первый план два вопроса. Какие практики нужны, чтобы производить изображения такого типа? И какие практики нужны, чтобы культивировать научную самость, делающую такое видение возможным? История научного видения всегда требует такого двойного движения: с одной стороны, к развёртыванию эпистемологии образов, с другой — к культивируемой этике научной самости. Верность природе всегда была тройным обязательством: визуальным, эпистемологическим и этическим. Что происходит, когда верность нарушена и природа сливается с артефактом? Пришла пора взглянуть на современные научные атласы: образы, в которых процесс изготовления является одновременно процессом видения» [1]. Эти два аспекта оказываются тесно связанными в один проблемный узел конкретными практиками визуализации рабочих объектов науки³.

Изменения в характере изображений и практик показывают ту или иную эпистемическую добродетель в действии. В этой связи изменение визуализации с помощью применения цифровых технологий и технологий на основе ИИ позволяет поставить вопрос о трансформации как эпистемической добродетели объективности, так и научной самости. Различные способы визуализации (использование диаграмм, карт, фотографий, составление атласов) становятся одной из фундаментальных и неотъемлемых частей выстраивания аргументации в современных научных исследованиях. При этом визуализация, благодаря возможностям новых цифровых технологий, выступает не просто иллюстрацией, а непосредственно формой исследования. Переходом от репрезентации к презентации ознаменован новый способ видения и научной практики в целом: манипулирование визуальным образом начинает означать то же, что и манипулирование самим изображаемым или наблюдаемым объектом. Компьютерное моделирование и новые методы визуализации стали очередным революционным прорывом в научных практиках после наблюдения и эксперимента. В этой связи естественным образом возникают вопросы относительно того, каково настоящее и возможное будущее объективности как эпистемической добродетели в эпоху цифровизации и инноваций в науке в условиях, когда техника и технологии начинают играть существенную роль в производстве научного знания, не столько открывая, сколько изобретая факты. Что представляют собой новые научные практики, и какими могут быть новые добродетели? Если практики укоренены исторически, то как изменяются добродетели? Связано ли изменение добродетелей с изменением целей/благ, лежащих в основе той или иной практики? Может ли чем-то ещё, кроме добродетелей, определяться научная самость, и как она может изменяться, дополняясь технологиями на основе ИИ?

СОВРЕМЕННЫЕ НАУЧНЫЕ ПРАКТИКИ: МАТЕРИАЛЬНОСТЬ И ЭПИСТЕМИЧЕСКИЙ СТАТУС АРТЕФАКТОВ

В современных научных практиках граница между объективным и субъективным, абстрактным и конкретным, открытым и сделанным стирается. Артефакты начинают играть существенную роль в формировании научного знания и оказывать влияние на его основные характеристики, в том числе объективность, которая перестаёт пониматься как абстрактная научная характеристика, не зависимая от субъекта. По мере развития технологий всё большей значимостью начинают обладать технические артефакты⁴, которые конструируются, например, в рамках научных лабораторий и обладают принципиально новыми свойствами для создания нового знания. Помимо функцио- нального предназначения, одним из важнейших свойств артефактов считается материальность: артефакты не являются идеальными объектами, хотя сами при этом могут выступать инструментами формирования идеализаций. Кроме того, артефакты по своей природе связаны с жизненным миром человека, культурной средой, исторической эпохой и социальными практиками, что, собственно, и делает артефакты интенционально зависимыми (онтологически, а не каузально) от процессов, происходящих в практиках взаимодействия с ними. При создании артефактов человек преобразовывает и приспосабливает природу, формируя новые объекты. Через изготовление и использование артефактов формируются практики преобразования и познания мира. Принимая во внимание специфические свойства и функции технических артефактов, используемых в научных практиках, можно говорить о том, что они сами представляют собой принципиально важный конституирующий элемент сохранения стабильности научного знания. Таким образом, «под артефактом стоит понимать элементы системы вещей, которые являются “вещественными” и позволяют репрезентировать смыслы, специфичные для культуры, механизмы производства вещей, процессы обучения и овладения смыслами и метафорами, и позволяют культуре изменяться. Именно такие артефакты обладают онтологической значимостью, так как в них проявляются специфические смыслы культуры, которые без них не могли бы существовать и быть репрезентированы» [4].

Искусственность объекта не может быть объяснена только с точки зрения его сущностных характеристик, в отрыве от комплекса других объектов, отношений, программ — то есть обыденных условий для раскрытия объекта как артефакта. М. Полани формулирует наличие инструмента или сам инструмент в определённом смысле как то, что отлично от его пригодности в качестве объективного «механизма». Он становится своеобразным расширением человеческого тела: мы вписываем инструментарий в наше тело или расширяем наше тело таким образом, что сживаемся с этой вещью. Это телесное расширение инструмента, как отмечает М. Линч, Полани называет интериоризацией [6]. Проблема противопоставления «объективного» и «сделанного» вырастает из различия между артефактом и естественной объективностью, которое проблематизируется в лабораторных научных практиках⁵.

Анализируя артефакты в научных практиках, Линч выделяет позитивные и негативные артефакты. Первая группа артефактов характеризуется внешним вещественным проявлением (например, пятно на стекле микроскопа): в таком случае они принадлежат субъективным условиям наблюдения, то есть рассматриваются как зависящие от инструментальных условий восприятия. Линч выделяет несколько характерных особенностей таких артефактов. Прежде всего, они материальны, то есть видимы и доступны для считывания. Во-вторых, они повсеместны и воспроизводимы по своему внешнему виду как повседневные неприятности, населяющие работу по выполнению технической подготовки изображений. Кроме того, как только они обнаруживаются в качестве артефактов, они беспроблемно могут быть отделены от адекватно сконструированных характеристик изображения (например, электронной микрофотографии). Наконец обнаружение таких артефактов инициирует их считывание, которое, как правило, ставит вопрос о том, учитывать ли обнаруженные артефакты в конечном итоге и использовать ли их в дальнейшей работе.

Однако, как отмечает Линч, есть некоторые проблемы с «этнографической» ориентацией на артефакты в лаборатории. Во-первых, легко заметить, что количество артефактов, представленных в отчётах в качестве примеров, не исчерпывается указанием всего, что может считаться искусственным в исследованиях. Кроме того, то, что считается искусственным, определяется зачастую тем, как оно представлено в отчётных записях. Например, нейронная ультраструктура может быть представлена в виде аналитической записи, которая наделяется статусом артефакта в поле нейронных сущностей, доступ к которым осуществляется через считывание этой записи. Особенности формата представления артефакта могут включать такие характеристики, как двухмерность фотографии; чёрно-белые текстурные вариации, которые придают очертание формам сфотографированного явления; последовательное расположение фотографических серий для изображения сплошной последовательности событий [6]. Там, где о записи можно говорить как о форме визуализации невидимого явления, артефакты во многих случаях были обнаружены в лабораторных отчётах о тех явлениях, которые ранее не предвиделись. Артефакты становились открытием в том смысле, что они зачастую возникали как новые явления в ранее не изученной области. Это, по определению Линча, так называемые ситуативные, или негативные, артефакты. Во всяком случае, пишет Линч, примеры таких артефактов, которые становились открытием, позволяют сделать вывод о том, что итог наблюдения или эксперимента во многом определяется теми условиями, в которых он производится.

Опираясь на приведённые специфические особенности позитивных и негативных артефактов и их роль в научных практиках, Линч приводит пример с обнаружением явления микроглии как артефакта [6]. Её «неправдоподобие» не было эмпирической невозможностью, но оно было единичным случаем в рамках более правдоподобной альтернативной версии. Теоретические предпосылки, которые привели к тому, что микроглия в капилляре была рассмотрена с особым вниманием (несколько фотографий, сделанных крупным планом, были сведены в единую серию), обязаны более детальному исследованию явления, чем это могло быть в противном случае. Проблемный характер фотографии микроглии не только был связан с фактом противоречия лабораторному предположению о том, как микроглия должна возникать в мозге, но также был усугублён наличием конкурирующего предположения, задокументированного фотографией. Клетка микроглии не только появилась в некотором роде путём, необъяснимым в лабораторной версии физиологии мозга, но и могла быть приведена в качестве доказательства другого возможного объяснения. Размещение микроглии в капилляре стало скорее невольно созданной конструкцией, нежели схваченным образом реального положения дел [6].

Такой пример артефакта не был вещественным в позитивном смысле, поскольку о самой видимости речи не шло. Проблема была в другом понимании материальности. Прорастания аксона продемонстрировали материальное расширение в направлении, отличном от того, которое было принято лабораторными исследователями как неоспоримое, и в результате оно было оспорено с учётом альтернативного материального аргумента [6]. В данном случае артефакт был узнаваем с точки зрения определённой линии полемики относительно проросших аксонов и, соответственно, был предметом споров. В этом и подобных случаях артефакт был, по сути, не столько «вещью», сколько «анти-вещью» в рамках столкновения противоположных точек зрения. Артефактами, помимо «вещей», могли быть и возможности, возникающие в противовес принятым расчётам. Такие возможности были зачастую упомянуты скорее как отсутствующие в наблюдении, нежели как присутствующие (пятна, кляксы, размытия на фотографиях, которые могут быть рассмотрены как «вторжения»⁶). В таком случае артефакты фигурировали в ситуации неопределённости.

Негативные артефакты считываются не как вторжения, искажения или специфические дефекты в наблюдаемом поле, но как отсутствие желаемых результатов или эффектов. В случае с негативными артефактами отсутствие положительного результата эксперимента или процедуры наблюдения подразумевало адекватность произведённой лабораторной работы с учётом возможных непредвиденных обстоятельств, которые, в свою очередь, были признаны ответственными за полученный результат. Неудача, вызванная неопределённостью, провоцирует расследование, по какой причине не был получен желаемый результат. Неопределённость таких отрицательных результатов была рассмотрена Линчем как дополнение к необходимому техническому горизонту достижения объективности [6]. Неудача в работе несёт в себе переменные моральные коннотации, зависящие от локально выстроенных обстоятельств: в некоторых случаях они могут быть локализованы в более или менее объективных обстоятельствах.

Позитивные артефакты в виде вторжений в пространство видимости естественного феномена обнаруживаются в исследовательской работе, стремящейся избежать возможности субъективной ошибки. Негативные артефакты, поскольку они показывают, что работа является поиском неуловимого предмета, свидетельствуют о работе поиска. Однако этого недостаточно, чтобы избежать ошибок, так как успех требует контроля над обстоятельствами таким образом, чтобы получить желаемый результат. Негативные артефакты существуют как возможности «сокрытых» вещей. Сокрытый объект существует как возможность, как и сам артефакт, который скрывает свою доступность, пока техническая модификация не задокументирует его существование в ходе испытания. Негативный артефакт тем самым формирует условия для актуализации вещи в условиях непредвиденных обстоятельств. Когда ошибки случаются, они рассматриваются как субъективные факторы, которые препятствуют тому, чтобы был показан объект сам по себе. Инструменты и приборы также имеют свои несовершенства, дефекты и связанные с ними погрешности. Таким образом, материальность научных практик, как будет показано далее, оказывает непосредственное влияние на производство научной объективности и наделяет эпистемическим статусом технологии, за счёт которых эта объективность производится.

СОВРЕМЕННЫЕ МЕДИЦИНСКИЕ ПРАКТИКИ: РАСПРЕДЕЛЁННАЯ АГЕНТНОСТЬ И ЭПИСТЕМИЧЕСКИЙ СТАТУС ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Отказ от классической познавательной субъект-объектной модели отношений, который происходит в связи с «материальным поворотом» в исследованиях науки, приводит к сведению всех элементов исследовательского процесса и его результата (научного знания) к социальным характеристикам. «Забвение артефактов (в смысле вещей) означало создание другого артефакта (в смысле иллюзии): общество, которое должно поддерживаться только социальным» [7]. Получаемое знание определяется в своём содержании социальными процессами по его конструированию. Полученное знание — это готовый результат деятельности учёного. Однако если в классической науке оно обретало логическую форму в силу соответствия предмету изучения, то теперь оно становится научным результатом в силу его способности успешно функционировать в обществе в качестве артефакта и при исключении из него всех следов социальной деятельности по его производству. Деятельность учёного (не столько как отстранённость от объекта исследования, сколько как специфическая форма субъективации в виде подчинения себя объекту, сопровождаемая при этом сопротивлением объекта подчиняться) создаёт научную бессубъектность: учёный — это судья над всегда существующим объектом, но не последняя инстанция, выносящая ему приговор. Хотя Б. Латур и заявляет, что «в науке нет такой вещи, как “орган, выносящий окончательные решения” (res judicata)» [8], тем не менее, по его собственным словам, всё же есть третья сторона принятия решения: независимый гибрид (который говорит от имени учёных, говорящих от имени «вещей»). Задача учёного не столько подчинить этот объект себе, сколько заставить его «говорить». Факты не говорят сами за себя, но в лаборатории они играют двоякую роль: с одной стороны, они представляют собой то, о чём говорят, а с другой — определяют истинность говоримого о них [8]⁷.

Для Латура наука — это не только дискурс: это, прежде всего, сеть практик по производству на свет фактов. В контексте понимания науки как технонауки (когда техника и технологии начинают восприниматься не как приложение к науке, а как необходимый элемент её развития) ИИ наделяется особым эпистемическим статусом как неустранимый из научной практики, в которой он применяется, агент (или актор). И в этой связи вопрос об инновациях в науке в эпоху цифровизации тесным образом связан с вопросом о том, как изменяется научная самость: что должен сделать с собой учёный, чтобы заниматься наукой, и что происходит с объективностью как эпистемической добродетелью сегодня? К концу XX века кажущиеся самоочевидными ранее способы репрезентации природы отошли на второй план с появлением новых технологий и нового гибридизированного способа делать науку. Соединение природного и артефактного в научной практике создания изображений как инструментов, обладающих размерностью атома, приводит от репрезентативной к презентативной стратегии⁸. Развитие нанотехнологий в XX–XXI вв. позволяет Дастон и Галисону ввести в оборот описание нового режима научной визуализации «образ-как-инструмент». Соответственно, современные научные изображения становятся не столько отображением репрезентируемого объекта, сколько инструментом, позволяющим производить с ним манипуляции⁹. И в этом смысле наиболее глубокое изменение, демонстрирующее различие между репрезентативной и презентативной стратегиями, происходит именно на уровне научной самости: «учёный и инженер, являвшиеся по меньшей мере в этом гибридном поле отчётливо отличающимися друг от друга характерами, начали разнообразными способами утрачивать эту разницу. <…> Когда инженерно-научная самость начинает стабилизироваться, это происходит одновременно с выработкой нового отношения к образам. Они становятся инструментами, частью аппаратуры, напоминающими скорее экран компьютера, который показывает работу удалённо контролируемой роботизированной манипуляции в дистанционной хирургии, изменение траектории спутника в космосе, смешивание токсичных химикатов или обезвреживание бомбы» [1]. Стремление к минимизации роли самости¹⁰ в процессе создания и наблюдения объективного образа вплоть до отказа от самости как таковой, способной каким-либо образом вмешаться или неправильно увидеть и проинтерпретировать наблюдаемое явление, всё больше можно видеть в современных научных практиках, использующих технологии на основе ИИ. В этой связи резонным кажется вопрос о том, не грозят ли новые технологии стиранию научной самости как инстанции, которая была призвана регулироваться объективностью как эпистемической добродетелью. Не являемся ли мы свидетелями появления новых эпистемических режимов, разрывающих связь этики и эпистемологии, или же носителями эпистемических добродетелей становятся алгоритмы, пришедшие на смену научным самостям?

Так, например, тип научной самости, определяемый как «объективный» учёный, — это фигура дисциплинированного осторожного наблюдателя, не вмешивающегося в процесс, а только беспристрастно фиксирующего наблюдаемые явления и правильно интерпретирующего их. Быть объективным (то есть придерживаться эпистемической добродетели объективности) значило не просто заниматься наукой, но, прежде всего, усмирять свою волю и самость, например, воздерживаясь от ретуширования фотографии. В этом смысле смена эпистемических добродетелей — это не столько смена научных практик, сколько смена этических установок, регулирующих поведение учёного. Однако, как отмечают Дастон и Галисон, «все эти три добродетели каждая на свой лад служили одной общей цели — тому, что мы называем верной репрезентацией природы» [1]. В связи с тем, что к концу XX в. кажущиеся самоочевидными ранее способы репрезентации природы отошли на второй план с появлением новых технологий, научная самость также трансформируется и радикальным образом расширяется¹¹, беря во внимание нейросети и технологии на основе ИИ как неустранимый агент при принятии решения.

Поскольку визуальные представления в науке всё больше переплетаются с компьютерными и вычислительными форматами, их цифровая материальность требует особого подхода¹². И если ещё недавно, на рубеже XX–XXI вв., присутствие учёного-наблюдателя рассматривалось как некое явление, которое в будущем должно быть устранено путём совершенствования алгоритмов и возможностей обработки изображений без человеческого вмешательства, то сейчас создание новых (по сравнению с предыдущими методами картографирования мозга) цифровых атласов выдвигает новые требования к контролю и ограничениям самости в достижении так называемой цифровой объективности¹³ [12]. Цифровые сканы помещаются в сложную инфраструктуру, которая обеспечивает визуальное знание способом, резко отличающимся от простой оценки механически полученных объективных представлений наблюдателем. Помимо объективного требуется некий реляционный взгляд, с помощью которого изображение рассматривается как набор данных по отношению к исследуемому объекту. Большие данные, накапливаемые в научных практиках, хотя и стремятся дать детальную и исчерпывающую картину представлений данных, но тем не менее дают только выборочное отражение значимой информации, что определяется во многом используемыми технологиями и платформами сбора данных, а также, что не менее важно, — онтологическими установками в отношении используемых данных. Иными словами, данные предполагают избирательный взгляд, настроенный определённым образом и ограниченный использованием определённых инструментов [13].

Новые методы их анализа (разработка новых способов управления данными на основе машинного обучения, компьютерного зрения и новых способов визуализации) знаменуют собой инновации, изменяющие современные научные исследования. Например, в нанонауке пропозиции почти отсутствуют, потому что она ориентирована на создание и изучение новых явлений и, следовательно, на особый вид визуализации, который их фиксирует. Однако простого ответа на вопрос, возникает ли в этом случае новый способ представления, нет: могут возникнуть сомнения относительно того, насколько новым является такой способ. Тем не менее не вызывает сомнений, что в нанотехнологиях и некоторых других развивающихся научных областях сходство с реальным объектом исследования больше не является доминирующим требованием к исследуемому объекту. Наряду с механической объективностью, достигаемой технологиями сканирования и визуализации, цифровые атласы «формируются за счёт привлечения компьютеризированных статистических и количественных приборов, обеспечивающих дальнейший механизм утверждения и гарантии объективности» [12]. Предположение в обоих этих случаях состоит в том, что цифровая обработка изображений может способствовать эпистемическому идеалу объективности посредством развёртывания автоматизированных процессов, что, соответственно, уменьшает необходимость вмешательства в обработку данных.

В конечном счёте эпистемическая добродетель объективности, исторически сформированная как идеал научности, может быть в пределе замещена как научная ценность другой эпистемической добродетелью, образованной в результате тенденции ко всё большему сближению артефакта с образом, который становится уже не столько визуальным, сколько инструментальным. Научное видение становится неотделимым от производства визуального образа. Современный сдвиг от репрезентации к презентации становится поворотным в истории визуальных практик и объективности, подчёркивая сопряжение репрезентативных практик с процессом их конструирования: точность фотографических снимков не делегирует технологиям объективность, понимаемую как стремление к минимизации субъективности¹⁴.

Внедрение технологий на основе ИИ и компьютерного зрения призвано стандартизировать потоки изображений, направленных на первичное и автоматизированное выявление дефектов, патологий, масштабирование программ скрининга и пр. Так, например, разработанный сервис для анализа биомедицинских изображений имеет целью научное исследование возможности использования в системе здравоохранения города Москвы методов поддержки принятия решений на основе результатов анализа данных с ИИ¹⁵. Сервис помимо прочего направлен на минимизацию рисков появления ошибки в диагностике, однако это не исключает и появления ложноположительных результатов. При этом фигура врача как «эксперта» не устраняется из процесса диагностики, но дополняется фигурой «ИИ» и гибридной фигурой «ИИ + Эксперт». Объективность врача при принятии решения будет во многом опираться на анализ тех данных, которые он получил от сервиса. Однако для получения результата первичной диагностики экспертного заключения врача не требуется: оно может понадобиться только на следующем этапе в случае, если результаты ИИ окажутся неудовлетворительными: алгоритмы компьютерного зрения, как указано, проанализируют снимки пациентов, и только при необходимости эти результаты будут проверены опытными экспертами (рис. 1, 2).

Рис. 1. Скриншот страницы проекта телемедицинской платформы врачей с описанием процесса исследования.

Рис. 2. Скриншот страницы проекта телемедицинской платформы врачей с описанием предоставляемых сервисов.

ЭТИЧЕСКИЕ ВЫЗОВЫ: ПЛЮСЫ И МИНУСЫ СУБЪЕКТНОСТИ И СУБЪЕКТИВНОСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Роботизированные аппараты на основе ИИ уже оказывают существенную поддержку как медикам, так и самим пациентам в диагностике, терапии, хирургии. В России уже есть роботизированные медицинские комплексы — например, робот-хирург AST (Assisted Surgical Technologies)¹⁶. В терапии традиционно именно терапевт как врач первичного звена ставит предварительный диагноз. Однако роботы уже перенимают на себя его функции: всю информацию могут собрать специальные датчики, расположенные на теле пациента, и в случае обнаружения патологии передать информацию врачу. Система способна провести и саму диагностику вместо врача. Российский диагностический комплекс RoboScan проводит ультразвуковое сканирование в автоматизированном режиме.

Грамотное использование нейросетей в медицинских практиках (например, в целях выявления ковидного поражения лёгких) позволяет снизить дозу рентгеновского излучения для томографии, поскольку такая предварительно обученная модель нейронной сети выступает в некотором роде уже в качестве эксперта¹⁷. Таким образом, работа по сбору данных и проведению первичной диагностики, а в некоторых случаях и по представлению предварительного решения, стандартизирована и формализована, что должно способствовать большей объективности. Это, с одной стороны, позволяет снизить нагрузку на врачей как на экспертов, позволяя им сосредоточиться на изучении и интерпретации данных, их описании и формировании заключений. Врачи передают ИИ всё больше своих обязанностей, а также ответственность за обработку данных, диагностику, разработку способов лечения, налаживание взаимодействия с пациентом и в том числе за принятие решения. С другой стороны, это естественным образом ставит вопрос о том, как скоро ИИ сможет в таком случае заменить врача полностью, и с какими этическими вызовами в этой связи уже сейчас нам предстоит столкнуться на этом пути.

В случае неправильной постановки диагноза или невыявления патологии, что повлечёт за собой соответствующие последствия, кто будет ответственным субъектом принятия решения? В России в одной из первых стран в мире сформулированы риски и угрозы (включённые в «Кодекс этики ИИ» [17] как угрозы правам и свободам человека), которые может повлечь за собой цифровизация и применение технологий на основе ИИ в сфере медицины: дискриминация, потеря приватности, потеря контроля над ИИ, причинение вреда человеку ошибками, допущенными алгоритмами ИИ, применение ИИ в неприемлемых целях. Так, например, недавно Росздравнадзор приостановил применение системы для анализа снимков компьютерной томографии с использованием ИИ Botkin.AI «в связи с угрозой причинения вреда жизни и здоровью граждан»¹⁸.

Принятие решений сегодня уже не является прерогативой человека-эксперта: эта функция передаётся интеллектуальным системам. Создание природоподобной техносферы невозможно без передачи права принимать решение техническим системам, поэтому в ближайшие 10–20 лет этот тренд будет только продолжаться¹⁹. Цифровая трансформация современной медицины происходит в том числе и на коммуникативном уровне, «на котором врач и больной могут оказаться дистанцированы друг от друга с помощью технических барьеров. C другой стороны, цифровые технологии порождают феномен расширенного сетевого пространства, где резко возрастают возможности сближения и преодоления существующих границ (в частности, географических) между врачами и пациентами. В нём также возникает возможность замещения и вытеснения эксперта-врача с его традиционной профессиональной ниши, но вместе с тем появляются возможности формирования сетевого коллективного экспертного субъекта (цифровые лаборатории и консилиумы врачей)» [19].

«Тенденция замещения и отчасти вытеснения экспертных функций врача квазиэкспертизой, осуществляемой с помощью цифровых технологий, также свидетельствует о новой форме выстраивания коммуникации — от взаимоотношений эксперта (профессионала в области медицины) и профана (неспециалиста-пациента) к гибридной модели “врач + программа-пациент” и в отдалённой перспективе к коммуникативной модели “программа-пациент”, лишающей эксперта (врача) статуса носителя абсолютного (или приближенного к абсолютному) знания и наделяющей этим правом цифровую программу. Последняя модель является техноцентричной, но в определённом смысле она становится и пациентоцентричной, нивелируя роль врача» [19]. Делегирование технологиям экспертной функции демонстрирует общую тенденцию на освобождение от диагностических ошибок врача, и чем точнее ИИ справляется с определением патологии или рисков развития заболевания, тем выше стремление к замещению экспертных функций алгоритмами и тем ярче претензия системы поддержки принятия решений уже не просто на роль инструмента человеческого целеполагания, но на роль полноценного актора, выполняющего сложнейшие манипуляции, что «приводит к неактуальности и излишеству человеческого взгляда, с его ошибками, искажёнными оценками, неизлечимой пристрастностью. Технике предоставляют выносить суждения о картине реальности, с которой она сталкивается» [19]. В таком случае можно предположить, что если сохранится тенденция на ограничение самости в пользу передачи этой самости в конечном счёте ИИ, то мы неизбежно в самом ближайшем будущем должны будем перестать относиться к технологиям на основе ИИ как к инструменту и принять во внимание их полноценную субъектность и субъективность, со всеми плюсами и минусами.

ДОПОЛНИТЕЛЬНАЯ ИНФОРМАЦИЯ

Источник финансирования. Автор заявляет об отсутствии внешнего финансирования при проведении исследования.

Конфликт интересов. Автор декларирует отсутствие явных и потенциальных конфликтов интересов, связанных с публикацией настоящей статьи.

ADDITIONAL INFORMATION

Funding source. This article was not supported by any external sources of funding.

Competing interests. The author declares that she has no competing interests.

¹ Говоря о современных научных практиках, мы подразумеваем принципиально усложнённое и эмпирически многообразное пространство науки, которое включает, помимо пропозициональных режимов производства знания, различные непропозициональные формы в виде графиков, диаграмм, визуальных образов и т.д. Одним из ярких примеров, демонстрирующих, как научная практика не столько познаёт свой объект, сколько создаёт его практически, является исследовательский проект А. Мол, посвящённый множественности онтологии медицинских практик на примере осуществления в разветвлённых практиках такой болезни, как атеросклероз [2].

² Объективность как эпистемическая добродетель возникает на определённом историческом этапе сложной координации наблюдателя и практики наблюдения и находит выражение в определённых изобразительных практиках и технологиях визуализации, поскольку эпистемические добродетели как устойчивые черты характера культивируются в конкретных исследовательских практиках, а через них, в свою очередь, складывается определённый тип научной самости. Каждая практика, совершаемая научной самостью, направлена на достижение какого-то блага. Таким образом, устойчивые практики — это то, что позволяет видеть перемены в эпистемических добродетелях.

³ «Говорить от имени природы самой по себе» становится лозунгом нового вида научной объективности, который появляется во второй половине XIX века. Опасаясь человеческого вмешательства между природой и наукой, французский физиолог Этьен-Жюль Маре, изучающий множество визуальных методов в науке, и его современники обратились к механическому воспроизводству образов для устранения подозрительных опосредований. Они заручаются полиграфами, фотографиями и другими приспособлениями в попытке создать атласы — «библию наблюдаемой науки». Атласы задают новый вектор в разговоре о научной объективности [3]. Атласы поставляют рабочие объекты наукам зрения, тренируя глаз выделять определённые виды объектов в качестве образцовых (то, что можно назвать «типичным») и рассматривать их определённым образом. В случае атласов, которые представляют изображения, полученные новыми инструментами (например, рентгеновские атласы в начале XX века), всё принадлежащее атласу поле должно читаться тоже по-новому. Поскольку атласы приучают глаз, они по необходимости визуальны, даже в тех дисциплинах, где существенную роль играют другие ощущения [3].

⁴ «Техническими артефактами являются объекты, созданные специально для того, чтобы служить определённой цели; естественные объекты появляются без вмешательства имеющих какие-либо намерения агентов. Артефакты существенным образом обладают интенциональными свойствами, а естественные объекты — нет» [5]. С одной стороны, принято считать, что артефактами являются объекты, созданные для определённой цели (в отличие от естественных объектов). Однако в исследованиях, посвящённых современной эпистемологии, справедливо отмечается, что техническим артефактом может быть не только искусственно сконструированная вещь, но и вполне естественный, живой организм, используемый для решения определённых задач. В этом случае следует признать, что конституирующим свойством артефакта будет не его искусственная природа, а его использование в человеческой познавательной деятельности. Функциональность артефакта — одно из его существенных свойств. «Артефактом является и вакцина, и адронный коллайдер, и палка-копалка. Все эти объекты связаны с жизненным миром человека, и именно это позволяет им быть техническими артефактами» [4].

⁵ Как отмечал К. Поппер, «объективность тесно связана с социальным аспектом научного метода, с тем фактом, что наука и научная объективность не могут быть результатом стремления отдельного учёного быть объективным. Это возможно только как результат деятельности сообщества учёных. Научная объективность может быть описана в интерсубъективном научном методе. Но этот социальный аспект науки почти полностью отвергается теми, кто называет себя социологами знания» [6].

⁶ Например, экспериментальный метод Г. Галилея (в отличие от эмпирического метода Ф. Бэкона) делал возможным взаимопереплетение умозрительных конструкций и эмпирических моделей благодаря технической деятельности. При этом производимое с помощью телескопа наблюдение пятен на солнце должно было отстаиваться как результат именно наблюдения, а не как артефакт, порождаемый телескопом.

⁷ Мир права и мир науки неслучайно оказываются столь тесно связанными: их объединяет общая добродетель, в качестве которой выдвигается беспристрастный подход, обеспечиваемый дистанцированностью и точностью. Каждая из областей использует собственный язык и способ мышления. Так, например, Латур предлагает рассмотреть Государственный Совет как лабораторию в поисках той объективности, которую преследуют учёные. Правительственный советник напоминает учёного тем, что «он говорит и публикуется от своего собственного имени; и, точно так же, что-то от правительственного советника есть в каждом учёном, рассматривающем себя как просветителя. Фигура правительственного советника, таким образом, представляет собой причудливый и сложный гибрид: в ней чувствуется что-то от суверенности lex animate, закона, воплощённого в отдельном человеке; однако в рассматриваемом нами случае только сам данный человек этим законом и связан. <…> Правительственный советник — самый специфический пример инстанции, призванной производить возражения, производя тем самым объективность» [8]. Общий корень правовой и научной деятельности — искусство манипуляции с текстами и записями в целом.

⁸ Этот переход характеризуется следующим положением дел: «с одной стороны, есть прежние атласы, стремящиеся посредством репрезентации добиться верности природе. Корректный перенос природы на страницу мог пониматься как следование идее истины-по-природе (XVIII век), но также как приверженность механической объективности (XIX век) или тренированному суждению (XX век). С другой стороны, есть новейшие формы галерей изображений, являющиеся презентациями. Презентационная стратегия может соотноситься либо с новыми типами вещей (пересобранные нанотрубки, нити ДНК или диоды), либо со свойственной презентациям заносчивой склонностью к тому, чтобы намеренно улучшать изображения с целью разъяснения, убеждения, доставления удовольствия, а иногда — продажи» [1]. Выделяя эти две стратегии — репрезентационную и презентационную — Дастон и Галисон, как отмечает О.Е. Столярова, неявным образом создают онтологию «коллективного становления» [9], эпистемологической импликацией которой будет, используя терминологию Я. Хакинга, не представление как воспроизведение уже существующего, а вмешательство как произведение нового. Здесь мы имеем дело с конструктивизмом, истолкованным в прагматическом ключе: «вторая природа» накладывает онтологические рамки на наши теорию и практику. В современной эпистемологии изменяется понимание субъекта: на смену бестелесному субъекту приходит воплощённый субъект. Продуктом взаимодействия телесного субъекта с миром теперь становятся не субъективные образы объективной действительности, а артефакты, расширяющие, по Латуру, наши возможности и связи с другими людьми, социальными группами, изменяя тем самым и наши потребности.

⁹ Способность современных учёных манипулировать нанообъектами и их нанообразами сама по себе поразительна. Однако не менее удивительным представляется и тот факт, что «будучи произведёнными с помощью атомно-силового микроскопа, измеряющего силу между крошечным зондом и поверхностью сканирования, эти картинки не предназначены для того, чтобы изображать “природные” явления. Наоборот, эти и подобные им тактильные образы — неотъемлемая часть самого процесса изготовления» [1].

¹⁰ Стоит, однако, отметить, что стремление к минимизации самости, помимо того, что связано со стремлением минимизировать субъективность и, соответственно, ошибки, связанные с человеческим фактором, тем не менее «также избавляет врачей от выполнения части рутинных операций. Ещё одним существенным плюсом в использовании ИИ в медицине является снижение временных и материальных расходов» [10].

¹¹ Так, например, наблюдение и визуализация с использованием цифровых атласов мозга выстраивается в основном за монитором компьютера [11]. Это подразумевает изменение отношений между наблюдателем, объектом наблюдения, технологиями, используемыми для этой цели, и институциональными механизмами, обеспечивающими практику наблюдения. Цифровой атлас — в отличие от атласов, рассматриваемых Дастон и Галисоном, — приобретает черты инструмента не столько репрезентирующего, сколько презентирующего, поскольку он одновременно может и представлять, и использоваться для совершенствования представлений.

¹² Так, например, результат сканирования мозга не является моментальным снимком, и ряд допущений Дастон и Галисона, связанных с реализмом в отношении механической объективности, не подходит для изображений сканированного мозга [11]. Благодаря развитию компьютерных технологий сканирование мозга стало встроенным в цифровой и сетевой контекст, что делает эту процедуру не столько репрезентативной, сколько презентативной.

¹³ В 1990-е гг., в «десятилетие мозга», был создан ряд цифровых и электронных ресурсов, позволяющих рационализировать и интегрировать различные области нейробиологии. Этот подход был описан как «нейроинформатика». В ходе совершенствования атласов мозга то, что составляло объективное нейробиологическое знание, переосмыслялось в соответствии как с возможностями, заложенными в новые технологии, так и с ограничениями стандартизации, присущими проектам, включающим множество измерений. Понятие «цифровая объективность» предлагается в качестве обозначения конкретной конфигурации идеалов, методов и объектов познания в современной кибернауке [12].

¹⁴ Так, например, Р. Буиани описывает случаи, в которых техника не способна распознать значимые различия, в связи с чем исследователям приходится буквально дорисовывать элементы снимков, выделять их и структурировать [14].

¹⁵ Исследование реализуется в трёх проектах: «Эксперимент по использованию инновационных технологий в области компьютерного зрения для анализа медицинских изображений и дальнейшего применения в системе здравоохранения города Москвы»; HUB — ИИ-консультант врача (сервис автоматического анализа рентгенологических исследований для врачей); «Технологии распознавания речи в здравоохранении» — технология автоматического преобразования устной речи в текст, основанная на алгоритмах ИИ, с помощью которой врач может управлять рабочей станцией голосовыми командами и диктовать описание исследования вместо того, чтобы набирать его вручную [15].

¹⁶ https://new.fips.ru/registers-doc-view/fips_servlet?DB=RUPAT&DocNumber=2715400&TypeFile=html [дата обращения 09.02.2024].

¹⁷ «Предлагаемый способ позволяет уменьшить общее количество рентгеновских проекций, необходимых для выявления COVID-19, и, таким образом, снизить дозу облучения без значительного снижения точности прогнозирования. Предлагаемый протокол был оценён на 163 пациентах из набора данных COVID-CTset, обеспечив среднее снижение дозы на 15,1%, в то время как среднее снижение точности прогнозирования составило всего 1,9%, достигнув улучшения оптимальности по Парето по сравнению с фиксированным протоколом» [16].

¹⁸ https://www.kommersant.ru/doc/6350252 [дата обращения 09.02.2024].

¹⁹ Крупных исследований, касающихся опроса мнений врачей и пациентов относительно их отношения к внедрению ИИ в медицинские практики, пока нет. Тем не менее в недавнем исследовании общественного мнения, проводимом впервые среди врачей с целью оценки их заинтересованности в использовании ИИ в области медицины и здравоохранения и выявления проблем и перспектив внедрения ИИ, был сделан достаточно оптимистичный вывод: «российские врачи выступают за ИИ в медицине. Большинство респондентов считают, что ИИ не заменит их в будущем и станет полезным инструментом. В первую очередь, для оптимизации организационных процессов, исследований и диагностики заболеваний». При этом отмечается, что «среди возможных проблем при использовании ИИ отметили отсутствие гибкости и ограниченное применение по спорным вопросам (64% и 60% респондентов). 56% считают, что принятие решений с использованием ИИ будет затруднено, если для анализа будет представлена неадекватная информация. Треть врачей опасаются, что в разработке ИИ принимали участие специалисты с небольшим опытом, а 89% респондентов считают, что врачи должны участвовать в разработке ИИ для медицины и здравоохранения. Только 20 участников (6,6%) ответили, что согласны с тем, что ИИ может заменить их на работе. В то же время 76% респондентов считают, что в будущем врачи, использующие ИИ, заменят тех, кто этого не делает» [18].

About the authors

Angelina V. Baeva

Author for correspondence.
Email: a-baeva93@mail.ru
ORCID iD: 0009-0005-5871-6217
SPIN-code: 2951-1427

Cand. Sci. (Philosophy)

References

Supplementary files

Supplementary Files

Action

1. JATS XML

Download

2. Fig. 1. Screenshot of the project page for a telemedicine platform for doctors with a description of the research process.

Download (225KB)

Indexing metadata

3. Fig. 2. Screenshot of the project page for a telemedicine platform for doctors with a description of the services provided.

Download (223KB)

Indexing metadata