《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 設計應用 > 公共元數據配置管理平臺設計
公共元數據配置管理平臺設計
2020年電子技術應用第1期
任李娟,盧 軍,郭 維
成都信息工程大學 軟件工程學院,四川 成都610225
摘要: 隨著互聯網快速發展,各平臺利用元數據來組織和管理平臺數據資源,平臺內平臺具有封閉性使得元數據資源分散、反復存儲,增大元數據共享難度,降低元數據利用率。為解決這一問題,提出公共元數據配置管理平臺,將公共元數據統一配置管理,利用Web Service技術提供配置與共享元數據服務,采用Redis內存數據庫提高數據共享效率。目前,已在氣象大數據平臺中運用了基于氣象公共元數據的配置管理平臺,其不僅提高了平臺公共元數據的利用率、節約存儲,也提高了服務的響應速度。同時,將配置管理平臺的主要功能抽象,使平臺設計可適用于其他類似的基于元數據的數據共享平臺。
中圖分類號: TN915.09;TP319
文獻標識碼: A
DOI:10.16157/j.issn.0258-7998.190761
中文引用格式: 任李娟,盧軍,郭維. 公共元數據配置管理平臺設計[J].電子技術應用,2020,46(1):100-103.
英文引用格式: Ren Lijuan,Lu Jun,Guo Wei. Public metadata configuration management platform design[J]. Application of Electronic Technique,2020,46(1):100-103.
Public metadata configuration management platform design
Ren Lijuan,Lu Jun,Guo Wei
Software Engineering Institute,Chengdu University of Information Technology,Chengdu 610225,China
Abstract: With the rapid development of the Internet, each platform often uses metadata to organize and manage system data resources. The system within the platform is closed so that metadata resources are dispersed and stored repeatedly, which increases the difficulty of metadata sharing and reduces the utilization of metadata. In order to solve this problem, this paper proposes a public metadata configuration management platform, which provides unified configuration and management of public metadata, provides configuration and shared metadata services by using Web Service technology, and improves data sharing efficiency by using Redis memory database. At present, a configuration management platform based on meteorological public metadata has been used in the meteorological big data platform, which not only improves the utilization of the platform common metadata, saves storage, but also improves the response speed of the service. This article abstracts the main functions of the configuration management platform, making the system design applicable to other similar metadata-based data sharing platforms.
Key words : metadata;Web Service;configuration;sharing;Redis

0 引言

    隨著信息技術不斷發展,各領域數據資源不斷擴大,數據量呈幾何增長,數據呈現多樣性。不同平臺之間元數據資源分散、資源反復存儲,使得數據共享難的問題日益嚴重。元數據是實現科學數據共享的4種方式之一[1],因此集中配置管理公共元數據為解決這一問題提供了有效途徑。元數據(Metadata)是“關于數據的數據”或“關于信息的信息”[2]。如年齡、身高、性格等就是描述人的元數據,可根據其推測人的樣子。元數據可以記錄數據的來龍去脈,可以把整個業務的工作流、信息流有效地管理起來,提高平臺的可擴展性[3]。而公共元數據是指在領域中可通用的并具有重要參照意義的元數據,其需要滿足一定的行業標準,標準中除要詳細列出實體與元素集以外,還要說明元數據標準適用范圍、參考標準、術語與定義、元數據分級、元數據性質、標識、格式和類型以及元數據擴展原則等[4]。元數據在科學數據領域中的研究與應用取得了較大進展,科學元數據標準的逐漸豐富和發展為元數據在科學數據不同領域的應用提供較為充分的工具和標準[5]

    目前,元數據存儲分散使各平臺中元數據難以共享,元數據反復存儲浪費了存儲空間。為解決此問題,本文提出將公共元數據集中管理,通過Web Service技術提供對外的公共元數據配置服務與共享服務,并利用Redis內存數據庫來提高服務速度。實際上,平臺不僅保證了元數據的統一管理和高速共享,也簡化各平臺數據交換的流程,使平臺間只需開發簡單的接口調用和數據解析功能即可完成數據交互。

1 元數據配置管理研究現狀

    SUFI S等[6]認為元數據描述框架相比元數據內容標準,其承擔的指導性和框架性作用更強,不局限于特定領域的術語平臺限制,強調了數據描述框架在領域中的重要性,對元數據配置管理在領域中的指導性與框架性給予肯定。同時,Jian Qin等[7]指出,龐大的、復雜的標準和廣泛多樣的命名實踐是構建元數據基礎設施的主要障礙,而可移植是元數據方案“基礎結構”的必要條件或先決條件,因此在元數據配置管理上統一元數據標準是構建平臺的基礎。

    元數據的應用不僅能提高平臺的靈活性與適應性,強化其穩定性,也使平臺更易維護[8],同時利用元數據的整合,可提高平臺靈活性與適應性,提高數據質量控制力度[9]。在元數據的配置管理上,王國復等[10]對元數據在科學數據共享平臺的作用、元數據的分類、元數據的管理、元數據平臺和元數據的應用模型進行了闡述。隨后,張英俊[11]提出利用元數據的標準化來統一管理分布式的數據資源,通過網絡實現數據共享與服務,使得用戶能夠快速準確地獲取所需科學數據。進一步地,周寶平[12]提出元數據匯交、數據發布、元數據檢索以及多種方式的數據共享等功能。

    總的來說,國內外學者都已十分重視元數據的應用。目前,在統一元數據標準與跨平臺數據共享上的研究比較充分,但在元數據跨平臺配置管理與高效服務上的研究仍然不足。本文利用Web Service與Redis技術,設計了一種可跨平臺配置管理公共元數據并提供高效共享服務的平臺,有助于組織和管理海量數據資源,提高數據利用率。

2 元數據配置管理特點

    元數據配置管理平臺應具有以下特點:

    (1)數據適用性。平臺數據應采用行業通用標準,數據標準化可提高數據適用性,易與不同平臺進行數據交換。如氣象大數據平臺中,配置管理平臺采用國家氣象信息中心制定的我國氣象數據集元數據格式標準(草案)將元數據標準化,以適用于氣象大數據平臺建設和數據集的編目、歸檔、發布和交換等。

    (2)跨平臺性。平臺應具有跨平臺的特性,為數據匯交、數據共享提供可行性。元數據配置管理平臺作為平臺的基礎部分,元數據匯交與元數據的共享都依賴平臺跨平臺性。

    (3)高效性。平臺應具有高速響應并發訪問的能力,為不同平臺提供高效的在線元數據支持。元數據配置管理的目的是集中元數據資源,實現公共元數據的共享,提高元數據利用率。平臺的高效性提高了元數據共享效率,是平臺穩定運行的保障。

3 元數據配置管理平臺設計

    元數據是數據的基本信息,有助于數據的分類標注[13]。元數據的配置管理不僅能集中資源與節省存儲,還能幫助組織和管理平臺數據資源。公共元數據的配置管理是一個動態過程,既需要滿足公共元數據跨平臺的匯交,同時需要對配置信息進行審核,審核成功后的元數據需要通過接口為其他平臺提供數據共享服務。

3.1 平臺架構

    平臺是針對元數據集中化配置管理與共享而設計的,主要功能包括個人信息管理、配置管理、審核管理、接口管理、用戶管理。平臺架構圖如圖1所示。

jsj3-t1.gif

    管理員根據平臺中人員的安排,在用戶管理功能中對用戶信息進行維護,可以增加、刪除、修改和查詢用戶。當平臺人員離職后,管理員需要將該用戶狀態修改為離職,限制其登錄平臺以保證平臺數據的安全性。當平臺人員權限有所變化時,管理員需要及時修改信息,以便用戶正常使用平臺。

    審核員主要負責對配置后的公共元數據進行審核,也可以查看整個審核流程。審核員可分為多個級別,應具有一定的專業知識,以保證公共元數據的正確性。

    操作員可增加、刪除、修改、查看公共元數據,對元數據配置后,操作員可查看審核進度。操作員可以在接口管理中查看、配置、監測公共元數據采集接口與共享接口,也可以修改接口的發布狀態。其中,接口狀態為打開時其他平臺可以調用,狀態為關閉時其他平臺不可調用。

3.2 主要功能

3.2.1 配置管理

    配置管理分為配置元數據與查看審核功能。配置元數據功能中,配置方式分為新增、變更、廢止。由平臺人員根據業務需求在數據配置頁面對元數據進行配置,配置成功可查詢流程信息。新增時,平臺生成流程單并將新增的元數據存入臨時表中,直到流程審批成功才會存入正式表。變更與廢止時,平臺會生成流程單并拷貝正式表中被配置的元數據到臨時表中,直到流程審批成功后,才會修改正式表中的數據。查看審核功能用于操作員查看審核狀態,以便實時跟蹤元數據審核情況。

    配置成功后的待審批元數據將存入到臨時表中,等待流程審批人員審核通過后再將其存入正式表中。平臺使用臨時表存儲,既能實現對元數據配置進行監控,也能減少數據誤配置造成的數據污染。配置管理流程圖如圖2所示。

jsj3-t2.gif

3.2.2 審核管理

    審核管理分為審核申請與查看審核流程功能。審核申請功能是具有相應權限的審核員對配置元數據后生成的申請進行審核。其中,元數據配置成功后便會對此配置信息生成對應的流程信息,每一級的審核員審核完成都會產生一條流程信息。查看審批流程功能用于跟蹤配置信息的審核過程,便于追溯配置過程。

    審核管理是元數據質量的保證,需要十分熟悉業務的人員才能進行審核,不正確的數據易造成參照錯誤,產生不可逆的影響。審核管理流程圖如圖3所示。

jsj3-t3.gif

3.2.3 接口管理

    接口管理分為配置接口、狀態管理與監測接口功能。配置接口功能主要用于管理接口的增加、刪除、修改、查詢操作。狀態管理功能是用于管理接口的狀態,狀態分為打開狀態與關閉狀態。監測接口用于操作員監測接口調用情況,打開的狀態下可以進行實時監控,關閉的情況下只能查看歷史監控信息,一般有調用頻度、數據狀況等。

    平臺中接口主要分為數據采集接口與數據共享接口兩類。具體地,兩類接口由平臺操作人員配置并發布,使用Web Service技術實現,使其他業務平臺通過網絡訪問,根據業務不同傳遞不同的參數。平臺發布接口后根據WSDL文檔,加入描述信息生成接口文檔,便于其他業務平臺使用。其中,WSDL文檔是用來描述Web 服務及Web服務通信過程的XML語言[14]。

    數據采集接口提供公共元數據配置服務,主要是供其他平臺調用以實現公共元數據的跨平臺配置。具體地,其他平臺根據接口文檔將需要配置的公共元數據信息拼接為XML格式并發送到Web服務器,Web服務器接收后根據請求參數后通過SOAP(Simple Object Access Protocol)發送數據包,并在分布式的服務器上調用相應Web Service。配置管理平臺服務器接收數據到請求數據后進行信息校驗,校驗成功后將配置的公共元數據存入臨時表中,并生成審核申請與流程信息,然后將結果集生成XML文檔返回[15]。

    數據共享接口提供公共元數據共享服務,主要是供不同平臺調用以實現公共元數據的跨平臺高效共享。具體地,其調用過程與數據采集接口相似,不同之處在于請求參數與數據處理過程上。在數據共享接口中,請求參數是用于定位共享的公共元數據,一般是數據分類等。同時,為提供高效共享服務,數據共享接口中的數據處理是先從Redis內存數據庫中查詢數據,不滿足時再讀取數據庫將數據取出并生成XML格式的查詢結果集返回,并將數據存入內存數據庫中。接口管理流程圖如圖4所示。

jsj3-t4.gif

3.3 平臺主要支撐技術

    配置管理平臺主要采用Web Service技術實現跨平臺接口發布,利用Redis內存數據庫來提高數據響應速度。

    Web Service是一種通過Web部署提供對業務功能訪問的技術,具有跨平臺、簡單和高度可集成能力等特點[16]。通常被定義為一組模塊化的API,可通過網絡進行調用,執行遠程平臺的請求服務。同時,Web Service為多層分布式應用平臺的構建創造了條件,使開發人員可以將來自不同地方的Web Service組裝起來, 并在應用程序中使用[17]。依據Web Service規范實施的平臺之間即使開發語言、平臺或內部協議不一致也可相互交換數據。Web Service的發現、訪問、集成和調用需要通過UDDI、WSDL、SOAP來完成[18]。具體地,Web服務客戶端應用程序通過名字、分類、標識符等從UDDI 注冊中心查詢所需的服務,一旦找到,客戶便從UDDI注冊中心獲取WSDL 文檔的位置信息,并按照WSDL 中發現的XML 模式生成一個SOAP 消息,發送給服務端。

    Redis是高性能的key-value數據庫,支持存儲類型有字符串、鏈表、集合、有序集合和哈希類型,為保證效率將數據緩存在內存中[19]。Redis數據庫具有持久化、多數據結構的支持、支持主從復制、Virtual Memory功能等特征[20]。Redis數據庫的數據模型是建立在外層,類似于其他結構化存儲平臺。不同于其他結構化存儲平臺的是,其支持在多種數據類型上做多種原子性操作,這也是Redis數據庫高效性的原因之一[21]。Redis基于內存的特性使其具有高速讀的優點,查詢響應時間為納秒級。

    平臺使用Web Service技術,提供數據采集接口、數據共享接口,使網絡連接的不同平臺可通過接口進行數據交互,實現了公共元數據的統一配置管理。同時,利用Redis內存數據庫的回收策略將超過設置的過期時間的數據淘汰,利用其基于內存的特性實現高速共享元數據,利用其持久化的特性也能提高數據的安全性。

4 結論

    公共元數據配置管理平臺使用Web Service技術解決跨平臺配置數據與共享數據,利用Redis內存數據庫提高公共元數據共享效率。平臺將公共元數據統一配置管理,提供統一參照,提供高效數據共享服務,解決元數據重復存儲難以共享的問題,節省硬件資源,節約人力。同時,平臺的設計有助于了解組織和管理平臺數據資源、提供數據發現、檢索服務。實際上,平臺的設計滿足跨平臺、可擴展性的要求,對其他類似的基于元數據的數據共享平臺具有一定參考意義。

參考文獻

[1] 王培正,張志強,吳一民.科學數據共享方式研究[J].科技管理研究,2010(17):201-204.

[2] 吳增祥,臧海佳,王國復.氣象科學數據與氣象數據集元數據[C]科學數據管理與共享.北京:中國科學技術出版社,2002.

[3] 謝益武,何宇峰,曹志英.基于模式的CWM元數據交換方法的研究[J].電子技術應用,2007,33(11):114-116,120.

[4] 王國復,徐楓,吳增祥.氣象元數據標準與信息發布技術研究[J].應用氣象學報,2005,16(1):115-121.

[5] 黃如花,邱春艷.國內外科學數據元數據研究進展[J].圖書與情報,2014(6):102-108.

[6] SUFI S,MATTHEWS B.A metadata model for the discovery and exploitation of scientific studies[M].Knowledge and Data Management in GRIDs.Springer US,2007.

[7] Jian Qin,Li Kal.How portable are the metadata standards for scientific data? A proposal for a metadata infrastructure[EB/OL].[2014-08-09].http://jianqin.metadataetc.org/wp-content/uploads/2013/08/DC2013-metadatad-portability.pdf.

[8] 王小奇,王英.分析電信資源管理的主要問題及元數據的應用策略[J].數據庫技術,2017(20):187-188.

[9] 余葉蘭.基于銀行數據倉庫的元數據管理體系研究[J].湖北第二師范學院學報,2017,34(2):38-40.

[10] 王國復,涂勇,王卷樂,等.科學數據共享中的元數據技術研究[J].中國科技資源導刊,2008,40(1):30-36.

[11] 張英俊.基于元數據技術的科學數據共享平臺設計與實現[J].太原科技,2008,177(10):9-11.

[12] 周寶平.論科學數據共享平臺的設計與實現[J].山西科技,2010,25(2):48-49.

[13] 趙卓寧,李湘,舒紅平,等.氣象大數據資源匯交可視化分析研究[J].氣象科技進展,2018,8(1):203-207,263.

[14] 于洪波,劉鴻飛,方麗英,等.基于Web服務的物聯接入系統設計[J].電子技術應用,2015,41(7):33-36,43.

[15] 焦圣明,嚴明良,郭靜,等.基于WebService的分布式交通氣象信息共享技術研究[J].計算機工程與科學,2012,24(3):196-200.

[16] 胡澤,廖聞劍,彭艷兵.WebService技術研究及應用[J].硅谷,2009(5):48.

[17] 龔小勇,羅軍.Web Service技術在開發多層分布式數據庫系統中的應用研究[J].計算機應用研究,2004,21(8):55-57.

[18] 甄少鵬.淺談WebService與主流實現技術框架[J].湖南農機,2012,39(1):62,64.

[19] 曾超宇,李金香.Redis在高速緩存系統中的應用[J].微型機與應用,2013,32(12):11-13.

[20] 楊曉軍,臧飛,李春雷.云計算在軍事領域中的應用分析[J].電子技術應用,2018,44(6):129-132,137.

[21] 馬豫星.Redis數據庫特性分析[J].物聯網技術,2015(3):105-106.




作者信息:

任李娟,盧  軍,郭  維

(成都信息工程大學 軟件工程學院,四川 成都610225)

此內容為AET網站原創,未經授權禁止轉載。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
久久人人爽爽爽人久久久| 国产精品播放| 亚洲欧美日韩天堂一区二区| 91久久综合| 久久黄色级2电影| 欧美亚洲三区| 亚洲欧美中文日韩在线| 亚洲一区免费| 亚洲免费视频成人| 亚洲欧美精品suv| 亚洲欧美精品| 欧美一区=区| 久久精品国亚洲| 亚洲国产高清视频| 亚洲国产一区二区在线| 亚洲国产婷婷| 亚洲欧洲日本一区二区三区| 亚洲国产精品久久久久秋霞不卡| 久久成人免费日本黄色| 久久精品视频在线观看| 亚洲高清影视| 亚洲久久在线| 国产精品99久久久久久人| 亚洲一区二区视频| 亚洲欧美色婷婷| 久久精品99国产精品| 久久国产精品72免费观看| 久久精品久久综合| 久久综合亚州| 欧美精品成人91久久久久久久| 欧美另类一区二区三区| 欧美日韩天堂| 国产精品入口| 好吊色欧美一区二区三区视频| 影音先锋中文字幕一区| 亚洲欧洲一区二区在线观看 | 亚洲级视频在线观看免费1级| 亚洲国产欧美日韩| av成人动漫| 午夜精品久久久久久久| 亚洲大胆在线| 中文亚洲视频在线| 久久国产加勒比精品无码| 免费中文字幕日韩欧美| 欧美日韩精品综合| 国产精品一区毛片| 在线日韩中文字幕| 在线综合+亚洲+欧美中文字幕| 午夜精品久久久久久久久久久久久 | 亚洲一区影音先锋| 欧美一区午夜视频在线观看| 久久综合一区二区三区| 欧美日韩精品是欧美日韩精品| 国产精品久久久一区二区三区| 国产一区二区精品久久99| 亚洲激情视频网站| 亚洲一区在线视频| 亚洲三级影院| 欧美一区二区三区免费观看视频| 久热精品在线| 国产精品免费看久久久香蕉| 亚洲第一久久影院| 亚洲综合99| 亚洲精品影视| 久久精品欧洲| 欧美视频三区在线播放| 好看的av在线不卡观看| 一本色道久久综合狠狠躁的推荐| 久久精品99国产精品| 亚洲午夜激情网站| 麻豆精品精华液| 国产精品私拍pans大尺度在线| 亚洲国产另类久久精品| 午夜欧美大片免费观看| 99re6这里只有精品| 久久嫩草精品久久久精品| 国产精品久久久久久久久久免费 | 欧美成人午夜激情视频| 国产精品日韩在线一区| 亚洲国产精品一区二区第一页| 亚洲欧美怡红院| 一本色道久久综合狠狠躁篇的优点| 久久久久网址| 国产精品一区二区三区免费观看| 亚洲人成久久| 亚洲国产精品v| 欧美在线高清视频| 国产精品mm| 亚洲精品在线观看免费| 亚洲国产精品电影| 久久福利电影| 国产精品毛片高清在线完整版 | 亚洲伦理在线观看| 亚洲欧洲在线视频| 久久免费精品日本久久中文字幕| 国产精品麻豆欧美日韩ww | 亚洲欧美日韩电影| 欧美日韩黄色大片| 在线精品亚洲| 亚洲福利视频专区| 久久久精品国产一区二区三区| 国产精品久久久久久久久免费桃花| 亚洲国产小视频在线观看| 亚洲丰满在线| 久久久久久一区二区三区| 国产精品一区一区| 亚洲资源在线观看| 欧美亚洲日本网站| 国产精品高潮呻吟久久av无限| 日韩视频一区| 中文亚洲免费| 欧美日韩中字| 一区二区成人精品| 制服丝袜亚洲播放| 欧美精品在线极品| 亚洲卡通欧美制服中文| 日韩视频一区二区三区在线播放免费观看 | 久久精品人人| 久久久精品2019中文字幕神马| 国产欧美日韩综合一区在线播放 | 亚洲乱码国产乱码精品精| 免费一级欧美在线大片| 亚洲成色精品| 亚洲免费av网站| 欧美日本韩国| 日韩一级大片| 亚洲中字黄色| 国产精品日本精品| 欧美亚洲综合久久| 久久久97精品| 在线高清一区| 日韩网站在线| 欧美日韩一区二区三区高清| a4yy欧美一区二区三区| 亚洲视频在线观看免费| 国产精品成人一区二区艾草| 中文网丁香综合网| 午夜精品久久久久久久久久久久久| 国产精品大片| 亚洲欧美日韩成人高清在线一区| 久久er精品视频| 一区二区三区在线看| 亚洲免费福利视频| 国产精品www.| 欧美一区二区日韩一区二区| 久久综合国产精品| 亚洲欧洲日产国码二区| 亚洲一区二区欧美| 国产美女一区| 亚洲精品乱码久久久久| 欧美日韩一区综合| 午夜精品亚洲一区二区三区嫩草| 久久亚洲综合色一区二区三区| 亚洲国产精品久久久久秋霞影院 | 午夜国产精品影院在线观看| 久久一二三国产| 亚洲精品一品区二品区三品区| 亚洲免费一区二区| 国产一区视频观看| 日韩视频第一页| 国产精品亚洲人在线观看| 亚洲第一精品影视| 欧美日韩免费看| 午夜精品一区二区三区电影天堂| 麻豆精品视频| 中国女人久久久| 久久久国产精品亚洲一区| 亚洲国产精品久久久久| 亚洲伊人色欲综合网| 国产主播一区| 亚洲视频1区2区| 国内外成人免费激情在线视频网站| 亚洲免费观看在线观看| 国产精品一区二区三区免费观看| 亚洲激情黄色| 国产精品视频精品| 亚洲精品日韩在线观看| 国产精品视频自拍| 亚洲精选大片| 国产综合久久| 亚洲一区久久久| 在线观看视频日韩| 午夜精品国产| 亚洲精品久久久久久一区二区| 欧美中文在线观看| 亚洲日本欧美在线| 久久免费国产| 亚洲五月六月| 欧美韩日一区| 久久精品av麻豆的观看方式| 欧美视频一区二区三区| 亚洲国产精品第一区二区三区 | 欧美一级在线播放| 国产精品爱久久久久久久| 91久久精品日日躁夜夜躁欧美| 国产麻豆精品视频| 亚洲午夜小视频| 亚洲国产日韩在线| 久久夜色精品国产欧美乱极品| 亚洲伊人网站|