<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE root>
<article xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:ali="http://www.niso.org/schemas/ali/1.0/" article-type="research-article" dtd-version="1.2" xml:lang="en"><front><journal-meta><journal-id journal-id-type="publisher-id">Digital Diagnostics</journal-id><journal-title-group><journal-title xml:lang="en">Digital Diagnostics</journal-title><trans-title-group xml:lang="ru"><trans-title>Digital Diagnostics</trans-title></trans-title-group><trans-title-group xml:lang="zh"><trans-title>Digital Diagnostics</trans-title></trans-title-group></journal-title-group><issn publication-format="print">2712-8490</issn><issn publication-format="electronic">2712-8962</issn><publisher><publisher-name xml:lang="en">Eco-Vector</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="publisher-id">106796</article-id><article-id pub-id-type="doi">10.17816/DD105582</article-id><article-categories><subj-group subj-group-type="toc-heading" xml:lang="en"><subject>Conference proceedings</subject></subj-group><subj-group subj-group-type="toc-heading" xml:lang="ru"><subject>Материалы конференции</subject></subj-group><subj-group subj-group-type="toc-heading" xml:lang="zh"><subject>会议报告摘要</subject></subj-group><subj-group subj-group-type="article-type"><subject>Research Article</subject></subj-group></article-categories><title-group><article-title xml:lang="en">Does aggregating results of AI system for mammography with ML meta-model improve quality of malignancy detection?</article-title><trans-title-group xml:lang="ru"><trans-title>Улучшает ли качество определения злокачественных изменений молочной железы агрегация результатов работы ИИ-системы с помощью метамодели?</trans-title></trans-title-group><trans-title-group xml:lang="zh"><trans-title/></trans-title-group></title-group><contrib-group><contrib contrib-type="author"><name-alternatives><name xml:lang="en"><surname>Nikitin</surname><given-names>E. D.</given-names></name><name xml:lang="ru"><surname>Никитин</surname><given-names>Е. Д.</given-names></name><name xml:lang="zh"><surname></surname><given-names></given-names></name></name-alternatives><address><country country="RU">Russian Federation</country></address><email>e.nikitin@celsus.ai</email><xref ref-type="aff" rid="aff1"/></contrib></contrib-group><aff-alternatives id="aff1"><aff><institution xml:lang="en">Medical Screening Systems</institution></aff><aff><institution xml:lang="ru">Медицинские Скрининг Системы</institution></aff><aff><institution xml:lang="zh"></institution></aff></aff-alternatives><pub-date date-type="pub" iso-8601-date="2022-04-26" publication-format="electronic"><day>26</day><month>04</month><year>2022</year></pub-date><volume>3</volume><issue>1S</issue><issue-title xml:lang="en"/><issue-title xml:lang="ru"/><issue-title xml:lang="zh"/><fpage>6</fpage><lpage>7</lpage><history><date date-type="received" iso-8601-date="2022-04-26"><day>26</day><month>04</month><year>2022</year></date><date date-type="accepted" iso-8601-date="2022-04-26"><day>26</day><month>04</month><year>2022</year></date></history><permissions><copyright-statement xml:lang="en">Copyright ©; 2022, Nikitin E.D.</copyright-statement><copyright-statement xml:lang="ru">Copyright ©; 2022, Никитин Е.Д.</copyright-statement><copyright-statement xml:lang="zh">Copyright ©; 2022, Nikitin E.</copyright-statement><copyright-year>2022</copyright-year><copyright-holder xml:lang="en">Nikitin E.D.</copyright-holder><copyright-holder xml:lang="ru">Никитин Е.Д.</copyright-holder><copyright-holder xml:lang="zh">Nikitin E.</copyright-holder><ali:free_to_read xmlns:ali="http://www.niso.org/schemas/ali/1.0/"/><license><ali:license_ref xmlns:ali="http://www.niso.org/schemas/ali/1.0/">https://creativecommons.org/licenses/by-nc-nd/4.0</ali:license_ref></license></permissions><self-uri xlink:href="https://jdigitaldiagnostics.com/DD/article/view/106796">https://jdigitaldiagnostics.com/DD/article/view/106796</self-uri><abstract xml:lang="en"><p>.</p></abstract><trans-abstract xml:lang="ru"><p><bold>ОБОСНОВАНИЕ.</bold> Нейронные сети для анализа маммограмм обычно решают задачу детекции или сегментации областей интереса. Однако при тестировании таких систем в первую очередь обычно оценивают их общую способность определять вероятность наличия злокачественных изменений ― по вероятности от 0 до 100% или по шкале Bi-Rads. В большинстве случаев эту вероятность определяют как максимальную вероятность наличия злокачественного объекта на обеих проекциях [1–3].</p> <p><bold>ЦЕЛЬ</bold> ― проверить, может ли более сложная агрегация результатов работы ИИ-системы с помощью метамодели улучшить результаты определения вероятности злокачественных изменений.</p> <p><bold>МЕТОДЫ.</bold> Для данного анализа использовалась ИИ-система «Цельс», маммография версии 0.17.0. Для сравнения выбрали набор данных, состоящий из снимков 867 молочных желёз (Bi-Rads 1 ― 257, 2 ― 495, 3 ― 77, 4–5 ― 38), собранных из медицинских учреждений разных регионов России. В качестве целевой переменной использовали заключение врача по шкале Bi-Rads. В качестве метрики использовали ROC-AUC (площадь под кривой ROC), рассчитанную двумя способами ― с включением Bi-Rads-3 в патологическую категорию и в здоровую соответственно.</p> <p>Сравнивали два метода расчёта вероятности злокачественных изменений молочной железы. Предварительно обе проекции обработали нейронной сетью и для каждой железы получили список обнаруженных объектов с соответствующими типами объектов и вероятностями их присутствия на изображении.</p> <list list-type="order"> <list-item><p>В первом методе вероятность злокачественных изменений определялась как сумма максимальных вероятностей обнаруженных злокачественных объектов (злокачественные образования и кальцинаты) по проекциям CC и MLO.</p></list-item> <list-item><p>Для второго метода обучили специальную метамодель, которая агрегирует различные результаты работы нейронной сети ― обнаруженные объекты и их вероятности на обеих проекциях, предсказанную плотность железы, степень качества изображения и другие. Метамодель обучали на отдельном датасете, не используемом в данном исследовании. Для данного датасета сгенерировали ряд «фич» (признаков), по которым и производилось обучение. Эти «фичи» используют всю информацию, сгенерированную нейронной сетью для обеих проекций. Подробное описание этих «фичей» остаётся за рамками этого тезиса.</p></list-item> </list> <p><bold>РЕЗУЛЬТАТЫ.</bold> Первый метод продемонстрировал следующие результаты по метрике ROC-AUC: 0.857 (с исключением Bi-Rads-3 из патологической категории) и 0.76 (с включением). Второй метод показал результаты 0.881 и 0.794. Статистический анализ с помощью бутстрэппинга демонстрирует значимость этих результатов.</p> <p><bold>ЗАКЛЮЧЕНИЕ.</bold> Использование метамодели для агрегации результатов работы нейронной сети позволяет значительно улучшить качество определения общей вероятности наличия злокачественных изменений у пациента. Кроме этого, использование специальных методов интерпретации (например, Shap) [4] позволяет более точно понять, почему каждому пациенту была присвоена та или иная вероятность риска.</p></trans-abstract><trans-abstract xml:lang="zh"><p/></trans-abstract><kwd-group xml:lang="ru"><kwd>искусственный интеллект</kwd><kwd>маммография</kwd><kwd>скрининг</kwd><kwd>машинное обучение</kwd></kwd-group><funding-group/></article-meta></front><body></body><back><ref-list><ref id="B1"><label>1.</label><mixed-citation>Ribli D, Horváth A, Unger Z, Pollner P, Csabai I. Detecting and classifying lesions in mammograms with deep learning. Sci Rep. 2018;8(1):4165. doi: 10.1038/s41598-018-22437-z</mixed-citation></ref><ref id="B2"><label>2.</label><mixed-citation>Jung H, Kim B, Lee I, et al. Detection of masses in mammograms using a one-stage object detector based on a deep convolutional neural network. PLoS One. 2018;13(9):e0203355. doi: 10.1371/journal.pone.0203355</mixed-citation></ref><ref id="B3"><label>3.</label><mixed-citation>Xiao L, Zhu Ch, Liu J, et al. Learning from suspected target: Bootstrapping performance for breast cancer detection in mammography. In: Proceedings of the International Conference on Medical Image Computing and Computer-Assisted Intervention. Cham: Springer; 2019. doi: 10.1007/978-3-030-32226-7_52</mixed-citation></ref><ref id="B4"><label>4.</label><mixed-citation>Lundberg SM, Lee S-I. A unified approach to interpreting model predictions. In: Advances in Neural Information Processing Systems. 2017:4765–4774. Available from: https://www.researchgate.net/publication/317062430_A_Unified_Approach_to_Interpreting_Model_Predictions</mixed-citation></ref></ref-list></back></article>
