數據類(lèi)型多樣、數據量大、異構是中醫藥數據的典型特征。目前,對中醫藥數據信息的存儲和管理,主要依賴(lài)于關(guān)系數據庫(RDBMS)。然而,面對海量異構的中醫藥數據如何實(shí)現高并發(fā)讀寫(xiě)、高可擴展性以及異源數據間的互操作等一系列問(wèn)題,RDBMS由于其自身的局限遇到了困境,難以滿(mǎn)足中醫藥大數據高效存儲和訪(fǎng)問(wèn)的迫切需求。因此,亟需研究新的數據管理模型來(lái)解決中醫藥數據的管理問(wèn)題,而非關(guān)系型數據庫(NoSQL)的出現有效地彌補了RDBMS的不足。
不同于RDBMS,NoSQL是一種分布式、非關(guān)系型數據庫系統,不僅能夠實(shí)現各類(lèi)型數據的高并發(fā)讀寫(xiě),而且支持鍵值(Key-Value)、圖、列族、文檔等常見(jiàn)數據類(lèi)型。NoSQL可以高效管理海量數據,并且具有較好的可擴展性和靈活性。MongoDB屬于NoSQL的范疇,在NoSQL領(lǐng)域占有舉足輕重的地位。本文以MongoDB為代表,研究基于NoSQL的中醫藥大數據存儲方法。采用全國各省中醫院在線(xiàn)公開(kāi)的大量藥方數據庫資源,通過(guò)研究存儲系統的體系結構和關(guān)鍵技術(shù),與傳統關(guān)系型數據庫在相同的大數據條件下進(jìn)行實(shí)驗對比,驗證了本文提出的方法在存儲和訪(fǎng)問(wèn)海量中醫藥數據時(shí)具有更高的性能。
MongoDB介紹
MongoDB是一個(gè)模式靈活、開(kāi)源、高性能、可擴展的文檔型數據庫。主要特性包括:存儲模式自由,面向集合存儲;支持動(dòng)態(tài)查詢(xún)和完全索引,查詢(xún)表達式豐富;自動(dòng)分片機制,支持動(dòng)態(tài)添加機器;支持數據復制和自動(dòng)故障恢復。MongoDB的以上特性為海量、異構、多元的中醫藥大數據的存儲和訪(fǎng)問(wèn)提供了支持。
中醫藥數據管理系統設計
中醫藥數據管理系統的設計需考慮以下因素:負載均衡性、數據冗余性和水平擴展性。因此,主要進(jìn)行以下三方面設計。
2.1MongoDB分布式集群設計由于單機節點(diǎn)無(wú)法滿(mǎn)足大數據高效存儲和訪(fǎng)問(wèn)的要求,因此需要建立分布式集群環(huán)境來(lái)解決。一個(gè)MongoDB集群通常由三個(gè)部分組成。
2.1.1分片節點(diǎn)(Shard)分片節點(diǎn)用于存儲實(shí)際的數據塊,一個(gè)分片節點(diǎn)可以由多個(gè)服務(wù)器組成副本集合,每個(gè)服務(wù)器存儲的數據相同,實(shí)現數據冗余和系統擴展。
2.1.2路由服務(wù)(RouteServer)主要功能是處理終端請求和返回執行結果,即MongoDB把不同的請求分發(fā)給不同的Shard,最后把所有相關(guān)分片結果整合后返回。
2.1.3配置服務(wù)器(ConfigServer)主要負責存儲集群上元數據信息。
本文設計的MongoDB分布式集群架構如圖1所示。
其中,圖1中的Mongos屬于控制服務(wù)器,提供路由服務(wù)。其根據ConfigServers存儲的每個(gè)塊數據記錄確定Client的不同請求要路由到哪個(gè)分片服務(wù)器,把結果融合后返回給Client終端。對于分片節點(diǎn)Shard來(lái)講,兩臺以上的mongod服務(wù)器為一組,即一個(gè)分片,一組里mongod數據相同,每個(gè)分片上存放的是一定范圍的數據,當一個(gè)分片的數據量過(guò)多時(shí),為保持負載平衡,會(huì )遷移到另外的分片,這樣的分片機制提高了系統的訪(fǎng)問(wèn)能力和擴展能力。
2.2分片設計所謂數據分片是指把數據分散地存儲于多個(gè)分片服務(wù)器上,減小單個(gè)服務(wù)器的負擔,進(jìn)而使系統性能得到提高。本文設計的存儲系統選擇基于ID特征的分片策略。比如對記錄ID進(jìn)行取模運算,結果為n,則該記錄被分配到編號為n的分片服務(wù)器(數據分區)上。數據分片流程如圖2所示。
根據圖2流程,以數據文件作為分片對象,基本分片原理是把整個(gè)數據文件根據所獲取的分片大小進(jìn)行分片計算。因此,分片流程的第一步就是獲取需要分片的數據源文件,并計算數據源文件的總大小。基于chunksize的值,如果當前數據源文件總大小大于chunksize,則重復執行與chunksize取模的運算,得到相應的分片號。分片的大小等于分片的長(cháng)度,一直到當前總大小減去chunksize大小小于chunksize時(shí),把最后剩余的未分片部分分配給下一個(gè)分片服務(wù)器。
每個(gè)已分片的數據用來(lái)作為一個(gè)記錄的值和關(guān)鍵字,并且在每個(gè)記錄里面添加分片號、數據文件名、數據文件大小、分片大小等鍵值對。
2.3負載均衡和冗余設計本文設計的存儲系統采用副本集的方式來(lái)實(shí)現數據冗余。即在一個(gè)分片節點(diǎn)中包含兩個(gè)以上存儲相同數據的mongod服務(wù)器,在寫(xiě)數據文件時(shí),把該數據分片寫(xiě)入到多個(gè)mongod上,保持備份mongod之間的更新。那么即使其中某一臺mongod服務(wù)器出現故障,也可以立即啟用分片中的其他副本提供數據,避免數據丟失,保障存儲系統的正常工作,增強系統的安全性、可靠性、穩定性。
3實(shí)驗結果與分析
3.1實(shí)驗環(huán)境搭建由于基于NoSQL的中醫藥大數據存儲系統依賴(lài)于一定的大數據平臺。選擇1臺計算機做為主機,另外8臺計算機作為從機,搭建實(shí)際的集群節點(diǎn)。逐步配置大數據平臺,具體步驟在此不做贅述。
3.2數據來(lái)源采用數據源來(lái)自全國各省中醫院在線(xiàn)公開(kāi)的大量藥方數據庫資源,數據總大小達280GB。該數據源記錄了自2006年起至今的多所中醫院公開(kāi)的藥方數據。例如:復方藿香洗劑治療手足癬(克白醋500克,黃精、明礬各10克,生大黃2克,藿香25),熏洗法治足癬感染(黃柏、黃芩、白鮮皮、百部、防風(fēng)各15克,萆薢20克,枯礬12克,廣丹3克)等。
采用的藥方對象具有數據量大、關(guān)系復雜、數據異構等特點(diǎn),RDBMS針對這類(lèi)數據通常很難達到預期效果。因此通過(guò)基于NoSQL的大數據存儲技術(shù)進(jìn)行管理,對大量公開(kāi)的藥方進(jìn)行收集、整理,探究其內在規律,以期把實(shí)驗結果提供給臨床進(jìn)行檢驗。
3.3MongoDB數據存儲系統與傳統RDBMS性能對比
3.3.1存儲性能對比分別對基于MongoDB數據存儲系統與RDBMS各進(jìn)行1,20,100,500,1000次文件存儲,其中每個(gè)文件所占空間大小為40KB。MongoDB與RDBMS在數據存儲性能方面的比較如圖3所示。
由圖3可以看出,處理的文件數量越多,兩種方式所需的處理時(shí)間越長(cháng),另一方面,數據量超過(guò)某一“閾值”時(shí),RDBMS所需時(shí)間急劇增加,而MongoDB的時(shí)間增長(cháng)率一直比較平穩,甚至趨近于線(xiàn)性增加。由此可以看出,數據量越大MongoDB數據存儲系統的性能優(yōu)勢越明顯,更適用于大數據的存儲。
3.3.2查詢(xún)性能對比分別對基于MongoDB數據存儲系統和RDBMS各進(jìn)行數據量為500,1000,3000,6000,10000查詢(xún)操作,MongoDB與RDBMS數據查詢(xún)性能的對比如圖4所示。
由圖4不難看出,基于MongoDB數據存儲系統的查詢(xún)過(guò)程耗時(shí)非常少,幾乎可以忽略不計,在數據量大幅增多的情況下,其耗時(shí)增幅沒(méi)有明顯變化。而RDBMS查詢(xún)耗時(shí)較大,隨著(zhù)數據量的增加,其耗時(shí)增幅會(huì )有明顯增加。
因此,與RDBMS相比,基于NoSQL的數據存儲系統具有更好的數據讀寫(xiě)性能、擴展性和靈活性。
4結論
本文首先研究了MongoDB的特性和關(guān)鍵技術(shù),設計了基于MongoDB的中醫藥大數據存儲系統架構,包括集群設計、數據分片設計、負載均衡和冗余設計等關(guān)鍵方面,具有較強的可擴展性、負載均衡性和可靠性。實(shí)驗結果表明,基于NoSQL的中醫藥大數據存儲方法從系統架構層面進(jìn)行的設計與改進(jìn),使得對海量非結構化、半結構化中醫藥數據的讀寫(xiě)效率大幅提高。
不斷擴大中醫藥數據量和集群規模,從更廣的層面檢驗系統性能并完善系統,以加強數據檢索能力,進(jìn)一步提高中醫藥數據存儲和訪(fǎng)問(wèn)性能是下一步的研究方向。
養陰生津。用于面黃肌瘦,津少口渴,腰膝酸軟,食欲不振,頭暈眼花,心悸氣短,神經(jīng)衰弱。
健客價(jià): ¥28用于單純皰疹或帶狀皰疹感染。
健客價(jià): ¥2.29瀉熱導滯,潤腸通便。用于熱結便秘,長(cháng)期臥床便秘,一時(shí)性腹脹便秘,老年習慣性便秘。
健客價(jià): ¥8.5調節三高、提高視力、益智健腦、抗菌消炎。
健客價(jià): ¥138調節全身代謝,恢復細胞活力,改善心血管功能,健腦健身,延緩衰老,扶正固本。用于冠心病、高脂血癥、腦動(dòng)脈硬化、老年性視力減退。對甲狀腺機能減退和慢性老年性支氣管炎有輔助治療作用。
健客價(jià): ¥119清熱利濕,涼血止血。用于急、慢性腎盂腎炎血尿、腎小球腎炎血尿,泌尿結石及腎挫傷引起的血尿及不明原因引起的血尿,亦可作為治療泌尿系統腫瘤的輔助藥物。
健客價(jià): ¥75結腸癌輔助化療:卡培他濱適用于 Dukes’ C 期、原發(fā)腫瘤根治術(shù)后、適于接受氟嘧啶類(lèi)藥物單獨治療的結腸癌患者的單藥輔助治療。其治療的無(wú)病生存期(DFS)不亞于 5-氟尿嘧啶和甲酰四氫葉酸聯(lián)合方案(5-FU/LV) 。卡培他濱單藥或與其他藥物聯(lián)合化療均不能延長(cháng)總生存期(OS),但已有試驗數據表明在聯(lián)合化療方案中卡培他濱可較 5-FU/LV 改善無(wú)病生存 期。醫師在開(kāi)具處方使用卡培他濱單藥對 D
健客價(jià): ¥319手機開(kāi)啟網(wǎng)絡(luò )(移動(dòng)數據或無(wú)線(xiàn)網(wǎng)絡(luò )),接聽(tīng)免費業(yè)務(wù),移動(dòng)、聯(lián)通、電信用戶(hù)均可使用。(本軟件僅適用于智能手機的安卓、蘋(píng)果系統)
健客價(jià): ¥100舒肝開(kāi)郁,鎮驚安神。用于頭昏頭痛,心煩易怒,心悸不寧,胸悶少氣,少寐多夢(mèng)。
健客價(jià): ¥15解表散寒,宣肺止咳,清熱解毒。用于感冒、頭痛發(fā)燒,鼻塞流涕,咳嗽咽痛,肢體酸痛等癥,亦可作防治流感常備藥。
健客價(jià): ¥9解表散寒,宣肺止咳,清熱解毒。用于感冒、頭痛發(fā)燒,鼻塞流涕,咳嗽咽痛,肢體酸痛等癥,亦可作防治流感常備藥。
健客價(jià): ¥13解表散寒,宣肺止咳,清熱解毒。用于感冒、頭痛發(fā)燒,鼻塞流涕,咳嗽咽痛,肢體酸痛等癥,亦可作防治流感常備藥。
健客價(jià): ¥11.5清熱瀉火,解毒止痛。用于復發(fā)性口瘡(輕型口瘡或口炎性口瘡)心脾積熱證,癥見(jiàn)口腔潰瘍、疼痛、伴有心煩急躁、口熱口干、舌質(zhì)偏紅而干、苔黃而膩、脈弦細數等。
健客價(jià): ¥28心絞痛發(fā)作的預防性治療。眩暈和耳鳴的輔助性對癥治療。
健客價(jià): ¥25本品適用于治療有乙型肝炎病毒活動(dòng)復制證據,并伴有血清氨基酸轉移酶(ALT或AST)持續升高或肝臟組織學(xué)活動(dòng)性病變的肝功能代償的成年慢性乙型肝炎患者。
健客價(jià): ¥33希刻勞適用于治療下列敏感菌株引起的感染: 中耳炎:由肺炎雙球菌、流感嗜血桿菌、葡萄球菌、化膿性鏈球菌(A組β溶血性鏈球菌)和卡他莫拉氏菌引起。 下呼吸道感染(包括肺炎):山肺炎雙球菌、流感嗜血桿菌。化膿性鏈球菌(A組溶血性鏈球菌)和卡他莫拉氏菌引起。 上呼吸道感染(包括咽炎和扁桃體炎):由化膿性鏈球菌(A組溶血性鏈球菌)和卡他莫拉氏菌引起。 注:青霉素是治療和預防鏈球菌感染(包括預防風(fēng)
健客價(jià): ¥26本品為免疫刺激劑,適用于細胞免疫功能低下的下列患者: 1.呼吸道反復感染(氣管炎、支氣管炎); 2.耳鼻喉科反復感染(鼻炎、鼻竇炎、耳炎、咽炎、扁桃體炎); 3.泌尿系統反復感染; 4.婦科反復感染; 可用于預防感染急性期病癥、縮短病程、減輕疾病的嚴重度、減少反復發(fā)作的次數、也可作為急性感染時(shí)抗菌藥物治療的輔助用藥。
健客價(jià): ¥361、改善腸胃,2、改善體寒,3、提高免疫力,4、美容養顏,5、減肥瘦身,6、淡斑"。
健客價(jià): ¥17501.用于成人和1歲及1歲以上兒童的甲型和乙型流感治療(磷酸奧司他韋能夠有效治療甲型和乙型流感,但是乙型流感的臨床應用數據尚不多)。2.用于成人和13歲及13歲以上青少年的甲型和乙型流感的預防。
健客價(jià): ¥731.化膿性鏈球菌引起的急性咽炎、急性扁桃體炎。 2.敏感細菌引起的鼻竇炎、中耳炎、急性支氣管炎、慢性支氣管炎急性發(fā)作。 3.肺炎鏈球菌、流感嗜血桿菌以及肺炎支原體所致的肺炎。 4.沙眼衣原體及非多種耐藥淋病奈瑟菌所致的尿道炎和宮頸炎。 5.敏感細菌引起的皮膚軟組織感染。
健客價(jià): ¥6.5高血糖的病機主要在于陰津虧損,燥熱偏盛,而以陰虛為本,燥熱為標,兩者互為因果,陰愈虛則燥熱愈盛,燥熱越盛則陰愈虛。高血糖進(jìn)一步發(fā)展易引起下肢動(dòng)脈硬化,此時(shí)尚是糖尿病足早期,在服用降血糖藥物的同時(shí),配合足浴外用有一定的效果。本方桂枝、丹參活血通經(jīng),忍冬藤清熱解毒,黃芪利尿托毒,乳香、沒(méi)藥活血止痛。現代藥理學(xué)研究表明:桂枝、丹參、乳香、沒(méi)藥等均具有改善周?chē)貉h(huán)、抗炎、鎮痛等作用,忍冬藤具有抗菌消炎
健客價(jià): ¥240癲癇: 對12歲以上兒童及成人的單藥治療: 簡(jiǎn)單部分性發(fā)作 復雜部分性發(fā)作 繼發(fā)性全身強直-陣攣性發(fā)作 原發(fā)性全身強直-陣攣性發(fā)作 目前暫不推薦對12歲以下兒童采用單藥治療,因為尚未得到對這類(lèi)特殊目標人群所進(jìn)行的對照試驗的相應數據。 2歲以上兒童及成人的添加療法: 簡(jiǎn)單部分性發(fā)作 復雜部分性發(fā)作 繼發(fā)性全身強直-陣攣性發(fā)作 原發(fā)性全身強直-陣攣性發(fā)作 本品也可用于治療合并有
健客價(jià): ¥45拉莫三嗪片,適應癥為癲癇: 對12歲以上兒童及成人的單藥治療: 1. 簡(jiǎn)單部分性發(fā)作 2. 復雜部分性發(fā)作 3. 續發(fā)性全身強直- 陣攣性發(fā)作 4. 原發(fā)性全身強直- 陣攣性發(fā)作目前暫不推薦對十二歲以下兒童采用單藥治療,因為尚未得到對這類(lèi)特殊目標人群所進(jìn)行的對照試驗的相應數據。 兩歲以上兒童及成人的添加療法 ( add-on therapy ) : 1. 簡(jiǎn)單部分性發(fā)作 2. 復雜部
健客價(jià): ¥94