賈文輝等基于機(jī)器學(xué)習(xí)算法構(gòu)建了腦梗死后出血轉(zhuǎn)化預(yù)測(cè)模型及進(jìn)行相關(guān)危險(xiǎn)因素研究
腦梗死后出血轉(zhuǎn)化（HT）是腦梗死最危險(xiǎn)的并發(fā)癥,。HT是導(dǎo)致臨床醫(yī)療事故糾紛常見(jiàn)原因,，同時(shí)因?yàn)榕R床醫(yī)師和患者擔(dān)心出血轉(zhuǎn)化導(dǎo)致我國(guó)靜脈溶栓率低,、房顫抗凝藥物使用率低、抗栓藥物使用率低,、患者不當(dāng)停藥等，嚴(yán)重阻礙腦梗死有效防治,。所以能夠早期發(fā)現(xiàn)識(shí)別HT危險(xiǎn)預(yù)測(cè)因素,，建立一種準(zhǔn)確高效簡(jiǎn)易的預(yù)測(cè)量表模型將是我們防治腦梗死出血轉(zhuǎn)化并發(fā)癥，進(jìn)行預(yù)防的有力工具,。國(guó)外已經(jīng)開(kāi)發(fā)了一些HT預(yù)測(cè)模型,，如溶血后出血評(píng)分（HAT評(píng)分）,、溶栓后癥狀性腦出血評(píng)分模型（SITS-MOST評(píng)分）,、 GRASPS癥狀性顱內(nèi)出血預(yù)測(cè)評(píng)分、iScore預(yù)測(cè)模型等,，以上各預(yù)測(cè)模型雖然各有優(yōu)點(diǎn),，但都存在缺乏影像學(xué)資料,、影像學(xué)新技術(shù)和血清標(biāo)志物而預(yù)測(cè)效能差的問(wèn)題,，有必要建立一種全面準(zhǔn)確的HT預(yù)測(cè)模型。
賈文輝等在臨床研究中,，針對(duì)數(shù)據(jù)處理和模型構(gòu)建方面,，患者信息呈現(xiàn)幾何數(shù)量級(jí)增長(zhǎng)、海量大數(shù)據(jù)的特點(diǎn),，腦梗死相關(guān)危險(xiǎn)因素往往是信息量大,、復(fù)雜多變，傳統(tǒng)數(shù)據(jù)處理方法弊端顯現(xiàn),，其無(wú)法解決數(shù)據(jù)之間非線性的問(wèn)題,，很難去擬合數(shù)據(jù)的真實(shí)分布，特別是數(shù)據(jù)量大,、變量多,、變量之間關(guān)系復(fù)雜呈共線等的情況下傳統(tǒng)模型處理低效效能差，采用機(jī)器學(xué)習(xí)算法,，為開(kāi)展海量信息的挖掘分析,，提供了有效的解決途徑。機(jī)器學(xué)習(xí)并不需要事先對(duì)大量數(shù)據(jù)進(jìn)行人工分析,，然后提取規(guī)則并建立模型,，而是提供了一種更為有效的方法來(lái)捕捉數(shù)據(jù)中的知識(shí)，逐步提高預(yù)測(cè)模型的性能,，以完成數(shù)據(jù)驅(qū)動(dòng)的決策,。
機(jī)器學(xué)習(xí)模型中，LR是機(jī)器學(xué)習(xí)中的一種基于概率的分類算法,，屬于監(jiān)督學(xué)習(xí)技術(shù),，是一種使用邏輯函數(shù)對(duì)條件概率進(jìn)行建模的統(tǒng)計(jì)模型,。RF是集成學(xué)習(xí)Bagging算法當(dāng)中的典型代表，它使用了CART決策樹(shù)作為基學(xué)習(xí)器,，結(jié)合自助采樣法從總體樣本當(dāng)中隨機(jī)取一部分樣本進(jìn)行訓(xùn)練,，通過(guò)多次這樣的抽取來(lái)并行化訓(xùn)練許多棵決策樹(shù)，并將多棵決策樹(shù)的預(yù)測(cè)結(jié)果整合起來(lái)使用,，這樣使得最終集成模型具有很強(qiáng)的泛化能力,，并且能夠降低模型的方差。AdaBoost算法屬于集成學(xué)習(xí)Boosting算法中的一種,，模型的訓(xùn)練過(guò)程是不斷迭代提升的,，每一個(gè)基分類器都是根據(jù)前一個(gè)基分類器的預(yù)測(cè)結(jié)果，增加分類錯(cuò)誤樣本集合的權(quán)重,，減小分類正確樣本集合的權(quán)重,，以此來(lái)提升模型的泛化能力。XGBoost算法是集成學(xué)習(xí)Boosting算法中的一種,，它是通過(guò)新加入的基分類器進(jìn)一步擬合預(yù)測(cè)值與真實(shí)值之間的差異,，同時(shí)XGBoost在損失函數(shù)中加入正則化項(xiàng)，并對(duì)損失函數(shù)進(jìn)行二階泰勒展開(kāi),，以減少過(guò)擬合的可能,，并加快模型的收斂速度。SVM是由Cortes和Vapkin 在統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)上提出的一種機(jī)器學(xué)習(xí)方法[6],。它的基本思想是找到一個(gè)能夠滿足分類要求的最大間隔超平面,，并且在保證分類精度的情況下，最大化該分類面兩側(cè)的空白區(qū)域,。SVM能夠執(zhí)行線性或非線性分類,、回歸，甚至是異常值檢測(cè)任務(wù),，在醫(yī)療診斷,、圖像識(shí)別、文本分類等有著非常廣泛的應(yīng)用,。
在機(jī)器學(xué)習(xí)中,，采用混淆矩陣（Confusion Matrix）作為分類問(wèn)題的性能評(píng)價(jià)指標(biāo)，混淆矩陣又稱為可能性矩陣,，在無(wú)監(jiān)督學(xué)習(xí)中一般叫做匹配矩陣,，通過(guò)混淆矩陣，能夠直觀地看出模型對(duì)每個(gè)類別的預(yù)測(cè)情況,。常用的指標(biāo)有精確度,、準(zhǔn)確度、特異度,、靈敏度,、約登指數(shù),。（模型技術(shù)路線圖見(jiàn)圖1）。
圖1 預(yù)測(cè)模型技術(shù)路線圖
在研究中對(duì)腦梗死后出血轉(zhuǎn)化的66個(gè)變量進(jìn)行單因素比較后,，將28項(xiàng)代入機(jī)器學(xué)習(xí)算法預(yù)測(cè)模型進(jìn)行篩選變量和模型評(píng)價(jià),，結(jié)果如下：
研究結(jié)果1 LR模型篩選結(jié)果
將篩選出來(lái)的28個(gè)變量作為特征，是否發(fā)生腦梗死出血轉(zhuǎn)化作為標(biāo)簽輸入到LR模型,。從Scikit-Learn庫(kù)導(dǎo)入Logistic Regression模塊構(gòu)建LR模型,，在訓(xùn)練集上對(duì)模型進(jìn)行訓(xùn)練，在測(cè)試集上對(duì)訓(xùn)練好的模型進(jìn)行性能評(píng)估,。此外LR對(duì)HT風(fēng)險(xiǎn)因素進(jìn)行篩選重要度排序,，排名前10的是：NIHSS評(píng)分、入院舒張壓,、白蛋白,、血紅蛋白Hb,、中心粒與淋巴細(xì)胞比值NLR,、PT、雙抗治療,、空腹血糖,、腦微出血CMB、腦白質(zhì)病變,。模型預(yù)測(cè)結(jié)果為：精確度為0.73,，準(zhǔn)確度為0.70，靈敏度為0.80,，特異度為0.67,，約登指數(shù)為0.45，AUC為0.83,。具體指標(biāo)見(jiàn)下表1,、圖2。
圖2 LR模型分析結(jié)果
研究結(jié)果2 RF模型篩選結(jié)果
將篩選出來(lái)的28個(gè)變量作為特征,，是否發(fā)生HT作為標(biāo)簽輸入到RF模型,。從Scikit-Learn庫(kù)導(dǎo)入Random Forest Classifier模塊構(gòu)建RF模型，在訓(xùn)練集上對(duì)模型進(jìn)行訓(xùn)練,，同時(shí)調(diào)用Grid SearchCV函數(shù)探索模型的最優(yōu)超參數(shù)組合,，采用5折交叉驗(yàn)證的方式，以“rocauc”作為模型評(píng)價(jià)標(biāo)準(zhǔn),，保存最優(yōu)模型并在測(cè)試集上對(duì)模型進(jìn)行評(píng)估,。最優(yōu)超參數(shù)組合：max_features=20，nestimators=100,。此外,，RF對(duì)腦梗死出血轉(zhuǎn)化風(fēng)險(xiǎn)因素進(jìn)行重要度篩選排序,，排名前10的是：肌鈣蛋白、BNP,、白蛋白,、CMB、NIHSS,、大面積腦梗死LHI,、NLR、D-二聚體,、雙抗治療,、尿酸。模型預(yù)測(cè)結(jié)果為：精確度為0.97,，準(zhǔn)確度為0.97,，靈敏度為0.97，特異度為0.97,，約登指數(shù)為0.93,，AUC為0.97。具體指標(biāo)見(jiàn)下表2,、圖3,。
圖3 RF模型分析結(jié)果
研究結(jié)果3 AdaBoos模型篩選結(jié)果
將篩選出來(lái)的28個(gè)變量作為特征,，是否發(fā)生腦梗死出血轉(zhuǎn)化作為標(biāo)簽輸入到AdaBoost模型,。從Scikit-Learn庫(kù)導(dǎo)入AdaBoost Classifier模塊構(gòu)建AdaBoost模型,，在訓(xùn)練集上對(duì)模型進(jìn)行訓(xùn)練,，同時(shí)調(diào)用GridSearchCV函數(shù)探索模型的最優(yōu)超參數(shù)組合,，采用5折交叉驗(yàn)證的方式,，以“rocauc”作為模型評(píng)價(jià)標(biāo)準(zhǔn),，保存最優(yōu)模型并在測(cè)試集上對(duì)模型進(jìn)行評(píng)估,。最優(yōu)超參數(shù)組合：learning_rate=0.4,，nestimators=300,。此外，AdaBoost對(duì)HT風(fēng)險(xiǎn)因素進(jìn)行重要度排序,，排名前的是：肌鈣蛋白,、BNP、血糖,、白蛋白,、NLR、尿酸,、腦白質(zhì)病變WMH,、雙抗治療、年齡,、NIHSS,。模型預(yù)測(cè)結(jié)果為：精確度為0.97,，準(zhǔn)確度為0.97，靈敏度為0.97,，特異度為0.97,，約登指數(shù)為0.93，AUC為0.99,。具體指標(biāo)見(jiàn)下表3,、圖4。
圖4 AdaBoost模型預(yù)測(cè)結(jié)果
研究結(jié)果4 XGBoost模型篩選結(jié)果
將篩選出來(lái)的28個(gè)變量作為特征,，是否發(fā)生腦梗死出血轉(zhuǎn)化作為標(biāo)簽輸入到XGBoost模型,。從Scikit-Learn庫(kù)導(dǎo)入XGBClassifier模塊構(gòu)建XGBoost模型，在訓(xùn)練集上對(duì)模型進(jìn)行訓(xùn)練,，同時(shí),，調(diào)用GridSearchCV函數(shù)探索模型的最優(yōu)超參數(shù)組合，采用5折交叉驗(yàn)證的方式,，以“roc_auc”作為模型評(píng)價(jià)標(biāo)準(zhǔn),，保存最優(yōu)模型并在測(cè)試集上對(duì)模型進(jìn)行評(píng)估。最優(yōu)超參數(shù)組合：colsample_bytree=0.6,learning_rate=0.01,max_depth=2,min_child_weight=1, nestimators=100, subsample=0.9,。此外,，XGBoost對(duì)腦梗死出血轉(zhuǎn)化風(fēng)險(xiǎn)因素進(jìn)行重要度排序，排名前10的是：肌鈣蛋白,、BNP、CMB,、LHI,、靜脈溶栓、NIHSS,、雙抗治療,、NLR、D-二聚體,、尿酸,。模型預(yù)測(cè)結(jié)果為：精確度為0.98，準(zhǔn)確度為0.97,，靈敏度為1.00,，特異度為0.97，約登指數(shù)為0.97,，AUC為0.99,。具體指標(biāo)見(jiàn)下表4、圖5,。
圖5 XGBoost模型預(yù)測(cè)結(jié)果
研究結(jié)果5 SVM模型篩選結(jié)果
將篩選出來(lái)的28個(gè)變量作為特征,，是否發(fā)生腦梗死出血轉(zhuǎn)化作為標(biāo)簽輸入到SVM模型,。從Scikit-Learn庫(kù)導(dǎo)入svm模塊構(gòu)建SVM模型，選取核函數(shù)為線性核函數(shù),，在訓(xùn)練集上對(duì)模型進(jìn)行訓(xùn)練,，同時(shí)，調(diào)用GridSearchCV函數(shù)探索模型的最優(yōu)超參數(shù)組合,，采用5折交叉驗(yàn)證的方式,，以“roc_auc”作為模型評(píng)價(jià)標(biāo)準(zhǔn)，保存最優(yōu)模型并在測(cè)試集上對(duì)模型進(jìn)行評(píng)估,。在kernel為最優(yōu)超參數(shù)組合：C=8,，gamma=0.01。此外,，SVM對(duì)HT風(fēng)險(xiǎn)因素進(jìn)行重要度篩選排序,，排名前10的是：CMB、WMH,、蛋白尿,、房顫、LHI,、雙抗治療,、國(guó)際標(biāo)準(zhǔn)化比值INR、紅細(xì)胞RBC,、TG,、白細(xì)胞WBC。模型預(yù)測(cè)結(jié)果為：精確度為0.71,，準(zhǔn)確度為0.70,，靈敏度為0.72，特異度為0.70,，約登指數(shù)為0.42,，AUC為0.82。具體指標(biāo)見(jiàn)下表5,、圖6。
圖6 SVM模型預(yù)測(cè)結(jié)果
研究結(jié)果6 各種機(jī)器學(xué)習(xí)模型結(jié)果比較
五個(gè)模型各項(xiàng)指標(biāo)均顯示良好,，其中RF,、AdaBoost、XGBoost表現(xiàn)更佳,，精確度,、準(zhǔn)確度、特異度、靈敏度均在0.97以上,，AUC為0.97 ,，顯示出對(duì)HT很好的預(yù)測(cè)性能預(yù)測(cè)；單個(gè)模型中XGBoost模型的靈敏度最高,；AdaBoost和XGBoost模型的AUC最高,。而LR和SVM表現(xiàn)一般，具體指標(biāo)見(jiàn)下表6,、圖7
圖7 各種模型結(jié)果比較ROC曲線
研究結(jié)果7 腦梗死后出血轉(zhuǎn)化聯(lián)合預(yù)測(cè)模型構(gòu)建結(jié)果
根據(jù)機(jī)器學(xué)習(xí)算法預(yù)測(cè)模型篩選因素結(jié)合專業(yè)方面最終選擇NIHSS、NLR,、雙抗治療,、WMH、LHI,、年齡,、靜脈溶栓、CMB,、空腹血糖9項(xiàng)變量進(jìn)行多因素建模分析，最終除年齡外8項(xiàng)變量進(jìn)入模型建立Logistic多因素回歸預(yù)測(cè)模型,，靈敏度為91.9% 特異度為98.8%,，陽(yáng)性似然比110.385，聯(lián)合預(yù)測(cè)模型ROC曲線AUC為0.918,，P<0.05,。見(jiàn)表7,、8，圖8,。
表7 腦梗死后出血轉(zhuǎn)化logistic回歸模型
變量 |
回歸系數(shù) |
標(biāo)準(zhǔn)誤 |
OR值（95%置信區(qū)間） |
P值 |
常量 |
-6.454 |
1.175 |
- |
- |
NIHSS |
0.150 |
0.053 |
1.163(1.047,1.290) |
0.005* |
NLR |
0.164 |
0.074 |
1.178(1.019,1.361) |
0.027* |
雙抗治療 |
1.107 |
0.551 |
3.026(1.028,8.909) |
0.045* |
WMH |
1.680 |
0.673 |
5.363(1.433,20.067) |
0.013* |
LHI |
1.552 |
0.622 |
4.722(1.396,15.977) |
0.041* |
靜脈溶栓 |
1.824 |
0.561 |
6.194(2.064,18.589) |
0.001* |
CMB |
1.647 |
0.625 |
5.193(1.527,17.633) |
0.008* |
空腹血糖 |
0.210 |
0.085 |
1.234(1.045,1.457) |
0.013* |
注：P<0.05為有統(tǒng)計(jì)學(xué)差異
表8 ROC曲線下的區(qū)域
檢測(cè)項(xiàng)目 |
AUC |
標(biāo)準(zhǔn)誤 |
P |
95%CI |
下限 |
上限 |
Y值 |
0.918 |
0.022 |
<0.001 |
0.875 |
0.961 |
Y值= NIHSS+NLR+雙抗治療+WMH+LHI+靜脈溶栓+CMB+空腹血糖
腦梗死后出血轉(zhuǎn)化多因素風(fēng)險(xiǎn)預(yù)測(cè)模型方程為：
X1= NIHSS X2= NLR X3=雙抗治療X4=WMH X5=LHI X6=靜脈溶栓X7=CMB X8=空腹血糖
圖8 HT多因素預(yù)測(cè)模型結(jié)果ROC曲線
綜上所述,，我們?cè)诒狙芯恐袑?duì)66項(xiàng)變量進(jìn)行單因素篩選后，篩選出年齡,、INR,、MWH、BNP,、CMB等28項(xiàng)變量進(jìn)入機(jī)器學(xué)習(xí)模型中,，經(jīng)模型訓(xùn)練驗(yàn)證后發(fā)現(xiàn)大部分變量均表現(xiàn)良好，機(jī)器學(xué)習(xí)算法LR、RF,、AdaBoost,、XGBoost及SVM5個(gè)模型篩選出年齡、NIHSS,、靜脈溶栓,、雙抗治療、WMH,、LHI,、CMB、NLR及空腹血糖為HT獨(dú)立危險(xiǎn)因素,；在預(yù)測(cè)HT方面,，LR、RF,、Ada Boost,、XGBoost以及SVM5個(gè)機(jī)器學(xué)習(xí)模型表現(xiàn)均良好，RF,、AdaBoost,、XGBoost表現(xiàn)更佳；最后建立的腦梗死出血轉(zhuǎn)化多因素預(yù)測(cè)模型同時(shí)包含了臨床,、生物學(xué)和影像學(xué)因素,，預(yù)測(cè)效能方面較其他模型更加全面準(zhǔn)確，對(duì)于臨床有很大的指導(dǎo)預(yù)測(cè)意義,。肌鈣蛋白,、BNP、低水平尿酸為HT潛在危險(xiǎn)因素,。
本研究主要研究者為山西醫(yī)科大學(xué)第一臨床醫(yī)學(xué)院博士賈文輝,，指導(dǎo)教師為李常新教授，共同研究者為太原理工大學(xué)信息與計(jì)算機(jī)學(xué)院李鳳蓮教授,、杜鵬,、謝靜，大連醫(yī)科大學(xué)公共衛(wèi)生學(xué)院雷芳等,。本課題受到國(guó)家自然基金合作項(xiàng)目“強(qiáng)化學(xué)習(xí)視域下的腦卒中多模態(tài)數(shù)據(jù)集成學(xué)習(xí)優(yōu)化算法及發(fā)病風(fēng)險(xiǎn)預(yù)測(cè)研究（No.62171307）”和山西省人民醫(yī)院省級(jí)專項(xiàng)配套項(xiàng)目基金“腦卒中大數(shù)據(jù)相關(guān)風(fēng)險(xiǎn)預(yù)測(cè)模型研究（No.sj20019007）”資助,。
