CPU也能加速AI?看匯醫慧影醫學影像系統的實戰收獲
利用AI技術加快醫學影像分析速度,支持醫療機構完成從信息化向智能化的轉型,讓更多病患從智慧醫療技術的發展中獲益,是匯醫慧影一直以來的目標和愿景。通過引入第二代英特爾?至強?可擴展處理器、OpenVINO?工具套件以及面向英特爾?架構優化的Python等領先軟硬件產品和技術,使我們醫學影像解決方案的各個平臺的處理效率都獲得了顯著提升。——匯醫慧影CEO&創始人 柴象飛
盡管有多種多樣的檢測方式,但CT影像依然是新冠檢測中更有效的判斷依據。為了助力更加快速和精準地處理海量的影像數據,匯醫慧影在英特爾軟硬件組合拳的幫助下,全面提升其全周期AI醫學影像解決方案的性能,在新型冠狀病毒肺炎篩查、乳腺癌檢測等多場景應用中都成效顯著。
從2019年年底開始迅速擴散的新型冠狀病毒肺炎(COVID-19,以下簡稱“新冠肺炎”)疫情,對醫療機構的快速診斷能力提出了突如其來且非常嚴峻的挑戰,利用人工智能(ArtificialIntelligence,以下簡稱AI)方法開展醫學影像智能分析及輔助診斷,是應對這一挑戰的有效方案。一直致力于計算機視覺和深度學習技術應用開發的匯醫慧影,就通過其自主研發的Dr.TuringAI平臺、Radcloud大數據智能分析云平臺以及Novacloud智慧影像云等產品,為眾多醫療機構提供了一套全周期、高性能的AI醫學影像解決方案,并將其成功應用于包括新冠肺炎在內的數十種疾病的診療。
作為該方案中專攻醫學影像輔助診斷的前端先鋒,Dr.TuringAI平臺可為醫院和患者提供10余種常見疾病的醫學影像AI分析能力,并提供結構化的報告;Novacloud智慧影像云可通過基于云服務的端到端AI互動能力,為醫、患和醫院的管理者提供更為便捷的服務;Radcloud大數據智能分析云平臺作為醫療機構推進科研的重要助手,則能提供多樣化的影像大數據科學分析能力,可大大加快放射組學等新技術在醫療行業的研發與落地進程。
為幫助匯醫慧影優化這一全周期AI醫學影像解決方案的性能,英特爾不僅提供了集成有英特爾?深度學習加速(英特爾?DLBoost)技術的第二代英特爾?至強?可擴展處理器,用作方案的核心計算引擎,還提供了OpenVINO?工具套件以及面向英特爾?架構優化的Python等軟件優化工具。得益于這些軟硬件相互搭配、協作優化帶來的整體加速優勢,匯醫慧影Dr.TuringAI平臺在新冠肺炎篩查、乳腺癌檢測等影像分析場景中的推理速度獲得了顯著提升。同時,放射組學分析方案在優化后的Radcloud大數據智能分析云平臺的支持下,在處理效率上也收獲了明顯的加速效果。
匯醫慧影全周期AI醫學影像解決方案實現的應用優勢:
?在與新冠肺炎篩查相關的肺部CT影像分析場景中,第二代英特爾?至強?可擴展處理器帶來的算力與OpenVINO?工具套件帶來的優化相配合,可令Dr.TuringAI平臺的平均推理耗時縮短至原先的35%;
?在乳腺癌影像分析場景中,基于第二代英特爾?至強?可擴展處理器,及其集成的英特爾?深度學習加速技術提供的INT8推理加速,在Dr.TuringAI平臺上構建的檢測模型在采用OpenVINO?工具套件進行轉換和優化后,其推理速度較原始方案提升高達8.24倍,且精確度損失不到0.17%;
?通過使用面向英特爾?架構優化的Python,并結合第二代英特爾?至強?可擴展處理器提供的算力支持,放射組學分析方案在基于Radcloud大數據智能分析云平臺的醫療科研平臺上的推理速度,實現了多達2.08倍至2.12倍不等的提升。
新冠肺炎的突然爆發和大規模流行,對于中國及全球醫療機構而言,是一個在速度和烈度上都堪稱嚴峻的挑戰。
控制新冠疫情的原則,和預防及控制其他傳染病基本一致,即遵循“三早原則”——早發現、早診斷、早治療。其中,“早發現”或者說“早診斷”是將被感染者從疑似人群中及時辨識出來,并盡早進行后續隔離治療的關鍵步驟。如圖一所示,在實踐中,中國醫療機構普遍以核酸試劑檢測(圖一左)為主要診斷方式,以肺部CT 影像檢查(圖一右)為輔助方式,來對新冠肺炎進行篩查診斷。
圖一 新冠肺炎篩查診斷方法圖示
核酸檢測雖有便捷的優勢,但其會受樣本病毒含量、病毒是否變異、病毒核酸是否有效提取,以及樣本是否合理保存等因素的影響,存在一定概率的檢測結果誤判,即呈“假陰性”。肺部CT影像檢查是通過分析肺部真實影像來判別患者肺部是否出現病變,因此在對早期新冠肺炎癥狀的檢測敏感度上,要優于核酸檢測。一項數據表明,在51例患者的檢測結果中,肺部CT影像檢測對于新冠肺炎的靈敏度為98%,遠高于核酸檢測(反轉錄-聚合酶鏈反應方法)71%的靈敏度。
不過,肺部CT影像檢查這一方法的應用“門檻”,要遠高于核酸檢測,它不僅需要醫生具有專業的CT影像分析能力,也需要對新冠肺炎征象有敏銳的臨床判斷力。例如,新冠肺炎的典型征象之一——肺部磨玻璃影,同時也是多種肺炎、病原體感染的重要征象。因此,醫生在分析傳統二維的CT影像時,往往需要反復比對判讀。遇到更復雜的情況時,可能還需進行多科室會診。在疫情出現爆發的情況下,這種應對方式顯然會造成疫情防控上的延誤。
為破解這一難題,讓肺部CT影像檢查在疫情防控中發揮更及時、更重要的作用,作為全球醫學影像AI應用研發領跑者的匯醫慧影,開始出動Dr.TuringAI平臺作為抗疫先鋒,來推動新冠肺炎的快速篩查。
軟硬協同優化提升新冠肺炎篩查速度
作為匯醫慧影全周期AI醫學影像解決方案中專攻AI醫學影像輔助診斷的平臺,Dr.TuringAI平臺可為醫院和患者提供“多病種AI輔助應用”及“結構化報告”兩大主要功能。它不僅可提供10余種常見疾病的AI輔助診療能力,也能實現自動化病灶分割、檢測和測量,并輸出帶有**-RADS分級等信息的AI結構化報告,在幫助醫院提升診療效率之余,也能助患者獲得更精準的診療方案。
雖然Dr.TuringAI平臺已久經考驗,但在面對新冠肺炎的篩查任務時,還是需要進行一些有針對性的優化升級。這些優化升級如圖二所示,包括:一方面,平臺需要通過收集大量新冠肺炎數據,由專業醫生進行標注后,再結合平臺內置的深度學習算法,實現對肺炎病灶區的精準分割和測量;另一方面,平臺也需要結合InceptionV4、InceptionResNetV2等深度學習算法模型,將原本二維的CT切片進行一系列的“三維”重構,更加清晰直觀地反映出病灶的位置、尺寸、面積變化以危重程度等量化數據,為醫生提供更全面的病理圖像分析,從而幫助他們更快、更準確地進行綜合研判。
圖二 基于匯醫慧影Dr.TuringAI平臺的新冠肺炎篩查
上述調整雖然更適用于新冠肺炎的CT篩查,但也會讓Dr.TuringAI平臺執行推理等過程的計算量和復雜度急劇增加。為了在這種情況下確保令人滿意的推理性能,匯醫慧影與英特爾一起,在借助第二代英特爾?至強?可擴展處理器實現更強算力支持的同時,還引入了OpenVINO?工具套件,使用其內置的優化工具,將已有的、通過Pytorch深度學習框架構建的NestedU-Net和HR-Net網絡模型轉換為可利用OpenVINO?工具套件加速的模型,并使用該工具套件提供的推理引擎對整個管道(pipeline)進行了更新。后續進行的基準測試如圖三所示,相比優化前用時長達140.3秒,調優后的每數據樣本的推理時長僅為48.47秒,平均推理耗時縮短至原先的35%,或者說,其平均推理性能提升高達2.89倍。
這樣的性能提升成果,可令新冠肺炎CT影像的篩查速度實現大幅提升。而事實上,這已經不是Dr.TuringAI平臺首次從英特爾這一軟一硬、協同優化的組合中獲取如此強勁的AI加速支持了。此前匯醫慧影在該平臺上構建以ResNet50卷積網絡模型作為基礎網絡(Backbone)的RetinaNet目標檢測模型,來對乳腺癌影像實施模型訓練及推理時,就曾使用過這對構成英特爾?至強?平臺AI加速技術核心的組合。
由于OpenVINO?工具套件內置有多種優化工具和預訓練模型,且能對已訓練好的模型進行壓縮和加速等優化,來提升模型推理速度,因而匯醫慧影當時的優化手段,如圖四所示,是先使用它優化用于乳腺癌檢測的FP32模型,優化后的模型在推理速度上達到了原始模型的3.02倍;繼而,匯醫慧影又借助OpenVINO?工具套件,將上述FP32模型轉換成INT8模型,在確保模型精確度只受輕微影響的情況下,啟用第二代英特爾?至強?可擴展處理器集成的英特爾?深度學習加速技術對于INT8提供的特定加速支持,將其推理速度進一步提升達初始模型的8.24倍,且精度損失還不到0.17%。
圖四 使用OpenVINO?工具套件對乳腺癌檢測模型進行優化前后的效果對比
不論是對新冠肺炎CT影像篩查的加速,還是對乳腺癌AI檢測模型的性能優化,它們的成功都足以證明:第二代英特爾?至強?可擴展處理器與OpenVINO?工具套件的引入和搭配,可以在醫學影像分析場景中發揮出“1+1>2”的功效。它們也表明,在眾多醫療機構既有的、基于CPU的IT基礎設施上部署和運行醫學影像類的AI應用,不僅可行,而且高效。
打造全周期AI醫學影像解決方案
Dr.TuringAI平臺在新冠肺炎等疾病檢測,或者說輔助診斷上的優異表現,是匯醫慧影與英特爾等合作伙伴一起,通過協作創新助力醫療機構從信息化向智能化轉型的又一抹亮色。
這一轉型,也確實至關重要。雖說醫療信息化的全面鋪開,讓各類醫療設備和醫用信息系統,尤其是醫學影像設備的應用越來越普及,使之成為了各醫療機構、醫學科研部門的重要助手,甚至造就了“臨床上有超過70%的診斷有賴于醫學影像提供支持”的重要成果,但僅有信息化策略推動的硬件設施普及,對提升醫療機構診療水平來說還是遠遠不夠的。在大眾真實的就醫體驗中,常會發現在肺結節、乳腺癌、前列腺癌、骨折等一些醫療資源相對緊張的病種診斷上,長時間排隊等候、影像分析誤判的情況仍是屢見不鮮。
究其原因,是因為醫學影像分析不僅需要設備就位,更需要使用這些設備的醫生能夠熟練掌握臨床醫學、放射學、醫學影像學等方面的專業知識和技能,也需要他們能夠充分運用各種影像分析技術,對疾病進行輔助診斷。而有以上綜合能力的醫生,即便在大醫院也是相對缺乏的。
圖五 多場景化部署的匯醫慧影AI醫學影像解決方案
而這也正是眾多醫療機構在完成初步的信息化建設之后,就希望進一步借助AI、大數據、云計算等新興技術手段來完 成智能化轉型的目的所在。如圖五所示,這也是匯醫慧影以旗下Dr.TuringAI平臺、Novacloud智慧影像云及Radcloud大數據智能分析云平臺等領先產品為抓手,通過公有云、私有云或AI一體機等多場景部署方式,為醫療機構提供全周期、高性能和智能化AI醫學影像解決方案的初衷。
如果說Dr.TuringAI平臺提供的是高效、便捷的前端醫學影像AI分析和輔助診斷能力,那么Novacloud智慧影像云擔當的角色,就是為醫療機構和患者提供基于云服務的端到端 AI互動能力。如圖六所示,在醫生側,結合Dr.TuringAI平臺,影像云可提供多終端AI閱片、遠程會診、轉診等功能;在患者側,影像云能夠提供基于自然語言處理(NaturalLanguageProcessing,NLP)技術的智能報告解讀、遠程專家咨詢及多終端影像閱覽等功能;而對醫療機構來說,影像云不僅能對Radcloud大數據智能分析云平臺提供支持,也可讓管理者以管理駕駛艙的模式,對診療、科研進度獲得更直觀的了解,并支持其對相關策略和計劃進行調整。
圖六 打通全周期AI醫療影像解決方案的Novacloud智慧影像云
優化版Python改善醫療科研工作效率
如前文所述,與Dr.TuringAI平臺、Novacloud智慧影像云并列為匯醫慧影全周期AI醫學影像解決方案支柱的,還有Radcloud大數據智能分析云平臺,它的主要任務是承載醫療機構的科研工作。
目前眾多醫療機構都在利用CT、MRI、PET等醫學影像,通過放射組學等新技術開展癌癥等惡性疾病的早期發現和防治。作為開發放射組學解決方案的領先企業,匯醫慧影就正以Radcloud大數據智能分析云平臺等產品為基礎,為醫療機構提供“全周期”、“一鍵式”的影像大數據科學分析能力,以加速放射組學等新技術在醫療行業的科研和應用進程。
要進一步了解Radcloud大數據智能分析云平臺在放射組學科研項目中發揮的作用,就要先了解什么是放射組學。簡而言之,它就是通過將醫學影像轉換為可挖掘的高通量影像特征數據,并使用特定方法,篩選出最有價值的影像組學特征,進而再通過AI模型訓練,建立起具有診斷、預后或預測價值的模型,最終為精準化、個體化診療提供有效支持。
圖七 放射組學基本分析流程
如圖七所示,放射組學的基本流程可分為數據收集、VOI分割、特征提取、特征選擇、模型訓練以及模型評價及預測等步驟。為了更好地辨識醫學影像中的細節,平臺在特征提取步驟中會盡可能地提取更多數據特征,因此平臺可能會面對“維度災難”等問題,即指在樣本量一定的情況下,隨著輸入維度的增加,空間數據會變得更為稀疏,這會嚴重影響模型的預測效果,并大幅增加平臺計算量,帶來推理效率的下降。
為應對這一問題,匯醫慧影與英特爾一起,選擇LASSOCV、PCA等特征選擇算法,來有效預防科研平臺可能面臨的維度災難,并幫助平臺在壓縮數據的同時保持信息損失最小化。為提升這些特征選擇算法的效率,科研平臺不僅引入了第二代英特爾?至強?可擴展處理器作為算力基石,還加持以面向英特爾?架構優化的Python,來全面調優其運行效率。
與原生版的Python相比,面向英特爾?架構優化的Python內置最新的矢量化指令,支持更多元化的英特爾?性能庫(如英特爾?MKL),同時也對重要的第三方AI知識庫sklearn庫有著良好的支持,使平臺特征選擇的執行效率獲得了顯著提升。
算法優化后的效果如圖八所示,其左圖反映了勾選全部放射組學特征,采用K-Fold10交叉驗證的LASSOCV算法工作負載,采用面向英特爾?架構優化的Python后,其執行速度是采用原生Python時的2.12倍;其右圖則反映了勾選全部放射組學特征,采用K-Fold10交叉驗證的LASSOCV+PCA算法工作負載,采用面向英特爾?架構優化的Python后,其執行速度是采用原生Python時的2.08倍。
圖八 使用面向英特爾?架構優化的Python與使用原生Python時的性能對比
基于英特爾?至強?平臺上述軟硬件融合輸出的AI加速能力,匯醫慧影Radcloud大數據智能分析云平臺已被引入20余種疾病的研究,并成功申報20余項基金課題。更值得一提的是,平臺基于放射組學的AI方案也被用于新冠肺炎的精準鑒別和診斷,并在實踐中獲得了用戶的良好反饋。
未來展望
隨著AI、大數據等新技術的落地與持續創新,整個醫療行業正在它們的驅動下迎來巨變,尤其是通過引入創新的AI醫學影像解決方案,很多傳統意義上的疑難雜癥,乃至絕癥正在被一一攻克,以往會帶來巨大災難的傳染病,也開始在新技術、新平臺的幫助下實現更為高效的防控。
面向未來,英特爾還將與匯醫慧影等合作伙伴一起,推動更多領先產品技術、尤其是與AI和數據分析相關的產品技術與醫療行業應用需求的深度融合,從而進一步加速醫療機構從信息化到智能化的轉型,進而打造出更多樣化、也更有價值的智慧醫療解決方案,造福全民健康事業。
(本文由英特爾供稿)