Home    中文  
 
  • Search
  • lucene Search
  • Citation
  • Fig/Tab
  • Adv Search
Just Accepted  |  Current Issue  |  Archive  |  Featured Articles  |  Most Read  |  Most Download  |  Most Cited
Reviews

Progress in application of artificial intelligence in musculoskeletal ultrasound imaging in rheumatoid arthritis

  • Xuelan Li ,
  • Ming Wang ,
  • Chenyang Zhao
Expand

Received date: 2023-02-01

  Online published: 2024-03-05

Copyright

Copyright by Chinese Medical Association No content published by the journals of Chinese Medical Association may be reproduced or abridged without authorization. Please do not use or copy the layout and design of the journals without permission. All articles published represent the opinions of the authors, and do not reflect the official policy of the Chinese Medical Association or the Editorial Board, unless this is clearly specified.

Cite this article

Xuelan Li , Ming Wang , Chenyang Zhao . Progress in application of artificial intelligence in musculoskeletal ultrasound imaging in rheumatoid arthritis[J]. Chinese Journal of Medical Ultrasound (Electronic Edition), 2023 , 20(12) : 1300 -1303 . DOI: 10.3877/cma.j.issn.1672-6448.2023.12.014

类风湿关节炎(rheumatoid arthritis,RA)是以滑膜炎症、软骨及骨破坏为特征的慢性自身免疫性疾病,全球发病率为0.5%~1.0%1。RA起病隐匿,并呈波动性进展,临床不可治愈,如控制不佳,将导致不可逆性关节、器官损伤及功能障碍,因此如何实现早期诊断和治疗以控制炎症、减少和预防并发症至关重要1,2,3。2010年美国风湿病学会(American College of Rheumatology,ACR)/欧洲抗风湿病联盟(European League Against Rheumatism,EULAR)制定了RA新分类标准,即以临床症状及体征、实验室检查和影像学检查等进行综合评估4,5,6。肌骨超声对滑膜炎、腱鞘炎、软骨及骨损伤等RA基本病变检测的敏感度高7,且在RA随访监测、预后评估方面均具有潜在优势,已成为RA辅助诊断常规影像学手段。然而,肌骨超声在操作者依赖性、重复性、精准量化评估等方面存在局限性,标准化超声评分8在反映RA疾病活动度变化方面存在延迟,导致其对RA诊疗有效性信息的反馈能力仍无法满足临床需求。
人工智能(artificial intelligence,AI)是计算机科学的一个分支领域,1956年由John McCarthy首次提出,于20世纪60年代初开始应用于医学影像领域9,10,11。机器学习(machine learning,ML)作为AI研究热点,其特征在于由数据驱动,赋予机器(计算机)无需明确算法自动学习输入数据的能力,通过训练-测试-验证过程实现系统的开发与改进。深度学习(deep learning,DL)是ML的子集,虽同样由数据驱动,但与后者依赖扁平架构的算法不同,DL可接受更为抽象、泛化性的数据信息,在自动识别图像、定量评估影像数据及辅助医师获取高准确性、高一致性结果方面潜力巨大1012。AI不仅在甲状腺、乳腺良恶性结节的超声鉴别诊断、产科相关异常的超声诊断、心血管疾病的超声评估等领域开展了广泛研究与应用13,其在辅助RA关节超声图像分析的报道也日渐增多。因此,本文将首先简要介绍AI在肌骨超声领域的发展,进而对AI在RA肌骨超声的应用相关研究方法和结果进行综述,最后针对AI在RA肌骨超声的临床应用现状和未来发展方向提出思考与展望。

一、AI在肌骨超声领域的发展

AI在肌骨超声领域的应用研究起步相对较晚,早期研究以传统计算机辅助检测/诊断(computer-aided detection/diagnosis,CAD)作为分析工具,通过设计算法程序提取医学图像定量特征识别正常解剖结构和检测异常区域。如Wu等14通过计算机辅助灰度分析技术获取肌肉/皮下脂肪组织超声回声强度比,定量表征肌肉灰度特征,评估脊髓性肌萎缩症疾病严重程度;Jansen等15通过将肌肉超声回声强度及厚度量化,无创性识别杜氏肌营养不良症患儿,评估疾病严重程度及监测疾病进展。随着AI技术的迅速发展,基于ML的CAD系统占据主导地位,肌骨超声AI技术的应用研究逐渐走向更高层面。基于强度、纹理、几何和形态学等特征选择,结合随机森林、支持向量机和决策树等常用的ML分类算法,AI技术使检测和表征多种疾病的诊断过程自动化,目前已用于神经、脊柱、骨骼肌、关节滑膜等结构16。如Faeghi等17提取正中神经超声图像特征后利用支持向量机分类算法诊断腕管综合征,其ROC曲线下面积(area under curve,AUC)可达0.926,诊断效能高于超声医师(AUC最高为0.736和0.721);Yu等18利用支持向量机对孕妇腰椎横切面图像进行分类,识别棘突间区域,辅助腰椎麻醉插入点选择,准确率达95%。然而,由于数据收集、预处理、过滤和泛化等方面存在算法限制,该阶段CAD系统无法充分表征疾病复杂性1619。与之相比,基于DL的CAD系统无需人为特征选择及干预,建立的模型具备更高的稳健性和临床可推广性。Smerilli等20开发的Mask R-卷积神经网络(convolutional neural networks, CNN)基于DL算法对正中神经识别的准确性为95.3%,自动测量结果与金标准间一致性达0.97,展现了DL在腕管综合征全自动超声评估的应用潜力;Tang等21训练的U-Net CNN可在超声扫查活体兔过程中实时追踪、检测腰椎表面并重建脊柱三维形态特征,平均绝对误差较既往同类研究减少了26.28%。

二、AI在RA肌骨超声的应用研究

(一)滑膜炎检测及半定量分级

持续活动性滑膜炎是RA软骨损伤、骨侵蚀等解剖结构变化的重要诱发因素,而肌骨超声在显示增厚滑膜及揭示其侵袭行为方面具有独特优势722,因此针对滑膜炎的AI应用是领域研究的热点问题。AI在RA滑膜炎肌骨超声的应用经历了“检测”“分割”“量化”的研究内容演变,其历程同时涵盖了CAD、ML、DL的研究方法更迭。
1.检测:自动识别增厚滑膜区域并保持过程的高度可重复性及高度准确性是实现滑膜精准评估的前提。Veronese等23道了一项可快速、重复检测滑膜轮廓的技术。研究以CAD技术作为图像分析工具,超声图像经降噪预处理后,两个分别由静态力和动态力驱动自我调整的耦合(或级联)活动轮廓检测技术识别图像中的滑膜-骨和滑膜-软组织界面。结果显示该半自动定位技术对34例RA患者掌指(metacarpophalangeal, MCP)关节和近端指间(proximal interphalangeal, PIP)关节超声图像中滑膜区域检测的最高敏感度可达99.96%、Dice's指数91.73%,比每位医师独立检测的结果都更为精确,且10次重复性模拟的鲁棒性检验平均敏感度达86.01%、Dice's指数79.28%、Hausdorff距离1.53 mm,可重复性及稳定性好。此外,基于CAD的自动滑膜边界检测技术还能与多模态超声检查(如超声造影、能量多普勒超声)相结合,有效辅助分析量化滑膜血管翳,表征滑膜血管生成。
2.分割:根据解剖结构分割关节囊感兴趣区可帮助定位增厚滑膜,但操作者主观依赖性强,人工分割费时、费力。Cao等24将三维超声成像与CAD相结合,实现了关节囊自动分割及体积量化。研究算法校正了由声束入射角度影响导致的强度损失,增强了骨表面检测的稳健性,利用关节解剖结构模型及概率散斑模型迭代优化分割关节囊。结果显示8例受试者的51个MCP关节或跖趾关节三维超声图像骨和关节囊自动分割平均敏感度、准确性分别达到94%、93%和87%、83%,研究展现了CAD在关节三维结构可视化及定量测量的临床应用潜力。Cupek等25研究提出的基于置信图概念的骨表面检测技术解决了手关节骨表面高精度定位问题、基于双边滤波概念的图像去噪及增强方法用于图像分割、基于双边过滤模式的彩色化方法根据像素灰度进行图像着色,并以10个图像过滤器用于随机森林分类算法的特征选择,探测解剖结构,从而客观监测滑膜炎变化。该研究创建了首个基于ML算法的滑膜炎自动评估CAD系统,为后续相关研究提供了新的技术方法支持。
3.量化:随着ML尤其是DL算法的高速发展,更多研究者将目标对准RA滑膜炎量化,以挖掘AI在RA疾病状态定量评估和疗效监测方面的潜力。Szkudlarek等26提出的超声滑膜炎半定量分级与RA临床活动度评分相关性好,是最常用的滑膜炎严重程度量化方法。Mielnik等27以骨骼、关节间隙、皮肤和肌腱等作为解剖学特征,使用分水岭、连通阈值、置信连通等多种图像分割算法,以及加速鲁棒特征和支持向量机分类算法进行滑膜炎0~3分四级分类,分级结果与标准结果间具有中度相关性(κ=0.57, P<0.05)。该研究为后续工作提供了基础,但尚存在关节滑膜炎性区域正确识别受限、正常与轻度异常滑膜炎区别能力差以及未纳入多普勒血流图像等局限性。2019年,Andersen等28首次成功利用DL-CNN实现了基于EULAR-风湿病临床试验结果评价(Outcome Measures in Rheumatology Clinical Trials,OMERACT)滑膜炎评分系统的RA关节多普勒血流图像分级。研究采用两种CNN,VGG-16用于健康和患病二分类,Inception-v3(基于DL的级联CNN)用于0~3分四级分类,1694幅超声图像构成训练集、验证集和测试集,以专家分级为金标准,结果显示VGG-16健康/患病二分类准确性达86.4% / 86.9%,Inception-v3四分类平均准确性达75.0%,与专家分级一致性好(κ=0.84)。经过优化,该团队于2020年29采用Inception-v3将四分级任务划分为3个连续的二分级任务,以包含手部腕、指关节的322幅图像作为测试集获得了更高的分级平均准确性(83.9% vs 75.0%),与专家分级一致性好(线性加权κ=0.79,P=0.85)。研究展现了CNN自动识别和分析图像的强大能力,及其辅助评估RA疾病活动度的临床潜力。然而,上述研究在对多模态数据集成、大样本训练数据集构建及模型临床推行验证等方面均存在局限性,且未进行临床适用性验证。基于此,北京协和医院与清华大学合作开发的RA评估软件“RATING”30集成利用多模态超声图像,并通过自我监督预训练解决了有限数据集问题,其对由28例RA患者的274对超声图像组成的内部测试集和42例RA患者的293对超声图像组成的外部测试集的滑膜炎分级准确性分别达86.1%和85.0%,优于既往同类报道的研究结果。此外,“RATING”软件将超声图像与热图叠加生成可解释特征,使决策过程透明化,针对不同年资超声医师的RA滑膜炎分级辅助成效显著(分级平均准确性由41.4%提升至64.0%),可见AI辅助下的读图分析可显著提高滑膜炎诊断及分级准确性。

(二)关节软骨检测与定量评估

软骨损伤进展常与骨侵蚀并存,与RA患者关节功能丧失和残疾相关,而超声软骨厚度测量需满足声束入射角度垂直,仅少数关节(如MCP)具备扫描条件7。且与滑膜炎检测不同,软骨损伤和骨侵蚀的AI评估只能通过图像对比实现进展监测31,目前相关研究较少。Cipolletta等32采用DL-CNN(VGG-16)识别并分类1600个具有标准透明软骨信息的健康人的超声图像及视频,以专家评估结果为金标准,对VGG-16算法与3例初学者的二分类结果进行比较,结果显示VGG-16算法可达到较高的准确性(AUC=0.99±0.01),且与专家评估结果的一致性更好(κ=0.84 vs κ=0.63),且VGG-16算法用时更短[(6.0±1.0)min vs(2.0±0.8)min]。Fiorentino等33设计了能够自动测量超声图像中MCP关节软骨厚度的DL-CNN框架。该技术通过识别软骨-滑膜和软骨-骨界面间距离场实现软骨厚度测量,与专家测量的平均绝对差仅为(0.032±0.026)mm,为解决超声软骨厚度自动测量问题提供了新思路。

三、思考与展望

AI与医疗融合应用前景广阔,其辅助RA超声评估可有效帮助临床医师做出个性化的临床决策。虽然CNN强大的图像识别、分析能力为医学影像领域相关研究带来爆炸式增长,但其在RA肌骨超声研究领域尚处于起步阶段,且仍存在临床应用的局限性和难点问题:(1)AI在RA关节滑膜炎超声成像半定量分级中的诊断性能待提升。如Mielnik等27基于ML开发的分级软件,对增厚滑膜的半定量分级与金标准间一致性仅为0.57(Cohen's Kappa);“RATING”软件30以DL作为研究基础,分级准确性有显著提升,但仍有优化空间。因此,未来研究需致力于拓展并加强基于DL的CNN应用研究以寻求更高的诊断效能。(2)AI在RA肌骨超声的应用研究范围有待拓展。RA是一种系统性疾病,但现有研究主要集中于AI对RA滑膜炎检测、分割及半定量分级,仅有少量研究关注关节软骨的评估,尚未涉及腱鞘炎、骨侵蚀等RA基本病变的AI检测及评估。后续研究可考虑将关节视为一个整体,开发可实现多关节内所有结构的自动检测、分割及量化的AI系统。(3)AI在RA超声随访中的应用价值有待深入探索。疾病活动度监测是RA临床治疗决策的关键依据,超声评估的主观依赖性强,人眼对图像识别的异质性较大,基于AI的医学图像识别有望实现更精确、客观的定量评估,如能实现超声随访过程中的图像配准并结合AI进行客观评估,将有望突破RA疾病活动度精准评估的临床诊疗瓶颈问题。(4)现有研究报道的RA诊断评估AI模型的总体性能尚不稳定,难以实现推广应用。现阶段AI对于RA超声图像的解读尚不成熟,漏诊、误诊比率高,需人工监督和实时质控;此外,目前报道的AI诊断模型通常只能基于给定的数据集解决特定问题,未经过严格的交叉验证,易出现“过拟合”,推广至外部数据集的应用验证表现欠佳。因此,以临床应用为研究导向,一方面注重算法优化,增强模型鲁棒性,另一方面注重使用更为全面、具有代表性的训练数据,将大幅度提高模型外部推广可行性及增加临床适用性。(5)多模态超声AI研究需引入。人体组织的解剖结构及病生理复杂性需要多维度、多功能的超声成像技术,多模态超声成像有望为AI研究提供更多元的有效信息。“RATING”软件研究中探索开展了灰阶/能量双模态超声图像的数据集成智能分析,为RA多模态超声AI研究提供了实践借鉴。(6)伦理问题。AI以挖掘和分析患者海量医疗数据为基础,而数据收集、管理、共享及应用过程存在个人隐私泄漏潜在风险;此外,AI模型决策实施对象是人,模型“黑匣子”问题带来的医疗风险持续存在,一旦发生医疗事故,患者权益将无法保障。因此,需规范AI本身及其开发者和使用者的道德伦理,完善与AI技术及其产品相关的伦理制度建设,开发者需着力于研究模型决策产生过程的可解释性。
综上所述,AI在RA肌骨超声的应用研究是近年来的热点方向,其已在RA滑膜炎检测及半定量分级、关节软骨检测与定量评估中展现出巨大应用潜力,但尚不成熟。建立适于AI研究的RA超声标准化成像设置及图像预处理流程、建立高质量的大样本图像数据库并开展多中心临床研究、探索深度学习模型过程和结果的可解释性从而提高AI决策的可信任度,是RA相关AI研究中亟待解决的关键问题。相信在临床实践巨大需求及AI技术高速发展背景的驱动下,RA患者疾病管理必将实现全面智能化。
1
Radu AF, Bungau SG. Management of rheumatoid arthritis: an overview [J]. Cells, 2021, 10(11): 2857.

2
Smolen JS, Aletaha D, McInnes IB. Rheumatoid arthritis [J]. Lancet, 2016, 388(10055): 2023-2038.

3
Sparks JA. Rheumatoid arthritis [J]. Ann Intern Med, 2019, 170(1): ITC1-ITC16.

4
Aletaha D, Neogi T, Silman AJ, et al. 2010 rheumatoid arthritis classification criteria: an American College of Rheumatology/European League Against Rheumatism collaborative initiative [J]. Ann Rheum Dis, 2010, 69(9):1580-1588.

5
Sakellariou G, Scirè CA, Verstappen SM, et al. In patients with early rheumatoid arthritis, the new ACR/EULAR definition of remission identifies patients with persistent absence of functional disability and suppression of ultrasonoimagedata synovitis [J]. Ann Rheum Dis, 2013, 72(2): 245-249.

6
Caporali R, Smolen JS. Back to the future: forget ultrasound and focus on clinical assessment in rheumatoid arthritis management [J]. Ann Rheum Dis, 2018, 77(1): 18-20.

7
Filippucci E, Cipolletta E, Mashadi Mirza R, et al. Ultrasound imaging in rheumatoid arthritis [J]. Radiol Med, 2019, 124(11): 1087-1100.

8
D'Agostino MA, Terslev L, Aegerter P, et al. Scoring ultrasound synovitis in rheumatoid arthritis: a EULAR-OMERACT ultrasound taskforce-Part 1: definition and development of a standardised, consensus-based scoring system [J]. RMD Open, 2017, 3(1): e000428.

9
Kaul V, Enslin S, Gross SA. History of artificial intelligence in medicine [J]. Gastrointest Endosc, 2020, 92(4): 807-812.

10
Hosny A, Parmar C, Quackenbush J, et al. Artificial intelligence in radiology [J]. Nat Rev Cancer, 2018, 18(8): 500-510.

11
Gore JC. Artificial intelligence in medical imaging[J]. Magn Reson Imaging, 2020, 68: A1-A4.

12
Barragán-Montero A, Javaid U, Valdés G, et al. Artificial intelligence and machine learning for medical imaging: A technology review [J]. Phys Med, 2021, 83: 242-256.

13
Shen YT, Chen L, Yue WW, et al. Artificial intelligence in ultrasound [J]. Eur J Radiol, 2021, 139: 109717.

14
Wu JS, Darras BT, Rutkove SB. Assessing spinal muscular atrophy with quantitative ultrasound [J]. Neurology, 2010, 75(6): 526-531.

15
Jansen M, van Alfen N, Nijhuis van der Sanden MW, et al. Quantitative muscle ultrasound is a promising longitudinal follow-up tool in Duchenne muscular dystrophy [J]. Neuromuscul Disord, 2012, 22(4): 306-317.

16
Shin Y, Yang J, Lee YH, et al. Artificial intelligence in musculoskeletal ultrasound imaging [J]. Ultrasonography, 2021, 40(1): 30-44.

17
Faeghi F, Ardakani AA, Acharya UR, et al. Accurate automated diagnosis of carpal tunnel syndrome using radiomics features with ultrasound images: A comparison with radiologists' assessment [J]. Eur J Radiol, 2021, 136: 109518.

18
Yu S, Tan KK, Sng BL, et al. Feature extraction and classification for ultrasound images of lumbar spine with support vector machine [J]. Annu Int Conf IEEE Eng Med Biol Soc, 2014, 2014: 4659-4662.

19
Huang Q, Zhang F, Li X. Machine learning in ultrasound computer-aided diagnostic systems: a survey [J]. Biomed Res Int, 2018, 2018: 5137904.

20
Smerilli G, Cipolletta E, Sartini G, et al. Development of a convolutional neural network for the identification and the measurement of the median nerve on ultrasound images acquired at carpal tunnel level [J]. Arthritis Res Ther, 2022, 24(1): 38.

21
Tang S, Yang X, Shajudeen P, et al. A CNN-based method to reconstruct 3-D spine surfaces from US images in vivo [J]. Med Image Anal, 2021,74: 102221.

22
Buch MH, Eyre S, McGonagle D. Persistent inflammatory and non-inflammatory mechanisms in refractory rheumatoid arthritis [J]. Nat Rev Rheumatol, 2021, 17(1): 17-33.

23
Veronese E, Stramare R, Campion A, et al. Improved detection of synovial boundaries in ultrasound examination by using a cascade of active-contours [J]. Med Eng Phys, 2013, 35(2): 188-194.

24
Cao K, Mills DM, Thiele RG, et al. Toward quantitative assessment of rheumatoid arthritis using volumetric ultrasound [J]. IEEE Trans Biomed Eng, 2016, 63(2): 449-458.

25
Cupek R, Ziębiński A. Automated assessment of joint synovitis activity from medical ultrasound and power doppler examinations using image processing and machine learning methods [J]. Reumatologia, 2016, 54(5): 239-242.

26
Szkudlarek M, Court-Payen M, Jacobsen S, et al. Interobserver agreement in ultrasonography of the finger and toe joints in rheumatoid arthritis [J]. Arthritis Rheum, 2003, 48(4): 955-962.

27
Mielnik P, Fojcik M, Segen J, et al. A novel method of synovitis stratification in ultrasound using machine learning algorithms: results from clinical validation of the MEDUSA project [J]. Ultrasound Med Biol, 2018, 44(2): 489-494.

28
Andersen JKH, Pedersen JS, Laursen MS, et al. Neural networks for automatic scoring of arthritis disease activity on ultrasound images [J]. RMD Open, 2019, 5(1): e000891.

29
Christensen ABH, Just SA, Andersen JKH, et al. Applying cascaded convolutional neural network design further enhances automatic scoring of arthritis disease activity on ultrasound images from rheumatoid arthritis patients [J]. Ann Rheum Dis, 2020, 79(9): 1189-1193.

30
Zhou Z, Zhao C, Qiao H, et al. RATING: Medical knowledge-guided rheumatoid arthritis assessment from multimodal ultrasound images via deep learning [J]. Patterns (N Y), 2022, 3(10): 100592.

31
Stoel B. Use of artificial intelligence in imaging in rheumatology - current status and future perspectives [J]. RMD Open, 2020, 6(1): e001063.

32
Cipolletta E, Fiorentino MC, Moccia S, et al. Artificial intelligence for ultrasound informative image selection of metacarpal head cartilage.A Pilot Study[J]. Front Med (Lausanne), 2021, 8: 589197.

33
Fiorentino MC, Cipolletta E, Filippucci E, et al. A deep-learning framework for metacarpal-head cartilage-thickness estimation in ultrasound rheumatological images [J]. Comput Biol Med, 2022, 141: 105117.

Outlines

/

Copyright © Chinese Journal of Medical Ultrasound (Electronic Edition), All Rights Reserved.
Tel: 010-51322630、2632、2628 Fax: 010-51322630 E-mail: csbjb@cma.org.cn
Powered by Beijing Magtech Co. Ltd