《電子技術應用》
您所在的位置:首頁 > 其他 > 設計應用 > 基于OLAP技術的污染源在線監測數據分析系統
基于OLAP技術的污染源在線監測數據分析系統
來源:微型機與應用2012年第6期
朱亞興
(廣東科學技術職業學院, 廣東 珠海519090)
摘要: 污染源在線監測數據分析系統基于污染源管理綜合系統數據庫提供的數據源,經過數據清洗、轉換,加載到數據倉庫中,進行主題設計與多維建模,采用OLAP技術實現海量數據展示、分析統計,同時提供功能強大的共享查詢、多維分析和污染源企業排口監測因子預警、事件自動提醒及各類數據報表統計等,提高了減排工作信息化的水平和工作效率。
Abstract:
Key words :

摘  要: 污染源在線監測數據分析系統基于污染源管理綜合系統數據庫提供的數據源,經過數據清洗、轉換,加載到數據倉庫中,進行主題設計與多維建模,采用OLAP技術實現海量數據展示、分析統計,同時提供功能強大的共享查詢、多維分析和污染源企業排口監測因子預警、事件自動提醒及各類數據報表統計等,提高了減排工作信息化的水平和工作效率。
關鍵詞: 聯機分析處理; 數據倉庫; 多維分析

    根據國家環保總局《關于制定主要污染物總量減排年度計劃的通知》(環辦[2007]33號)要求,及廣東省人民政府《關于加強我省主要污染物總量控制工作的實施意見》(粵府辦[2007]118號),對已建成在線監控設備的企業提出了考核要求。為加強減排工作信息化,提高工作效率,強化數據處理能力,完善在線監測數據庫,同時結合“減排”工作的需要,需建立在線監控數據上報及聯機數據分析系統。
1 聯機分析系統研究
    聯機分析處理OLAP(On Line Analytical Processing)的概念最早是由關系數據庫之父CODD E F于1993年提出的。當時,CODD認為聯機事務處理OLTP(On Line Transactioinal Processing)已不能滿足終端用戶對數據庫查詢分析的需要,用戶的決策分析需要對關系數據庫進行大量計算才能得到結果,因此提出了多維數據庫和多維分析的概念,即OLAP[1-3]。OLAP是數據倉庫系統的主要應用,支持復雜的分析操作,為人們提供直觀易懂的查詢結果[1]。
    OLAP服務器一般作為數據倉庫系統的中間層和用戶預定義的多維數據視圖,對數據倉庫的信息進行統計分析處理,為具有明確分析范圍和分析要求的用戶提供高性能的決策支持[2]。OLAP技術通過基本多維分析操作為用戶提供一幅幅直觀的視圖。常用的多維分析操作有鉆取、切片、切塊和旋轉等。
2 系統需求及功能概述
    污染源在線監測數據分析系統基于污染源管理綜合系統數據庫提供的數據,要求將系統監控數據收集到分析數據庫中,實時分析監測數據,即時發現數據異動發出報警,實現數據分析、發布上報和報警,同時提供功能強大的即席查詢和統計分析能力,提高工作效率。
    系統主要功能模塊劃分為:實時監測和異常報警、事件提醒及待辦處理、數據分析、設備維護、數據同步和系統管理。
     實時監測和異常報警功能模塊包括對數百家重點企業進行實時排污監控,主要是排水和排氣。每家排污企業根據其行業類別、生產工藝等不同設立了不同監測因子和排放范圍,當企業的排放超出了設定的排放標準或產生其他異動狀況,系統及時發出警報,并向值班人員發送短信提醒;發現設備運行異常時通知運營單位進行檢修,填寫設備異常報告等。
    事件提醒及待辦處理功能模塊包括:當系統偵測發生異常和設備維護等事件時,系統自動提醒用戶;由用戶輸入相應事件處理的日程安排。
    數據統計分析功能包括對污染源企業、監測因子排放、現場巡視、企業生產異常事件、污染源排放、超標排放、掉電情況、超標率等統計分析等。
    數據同步功能分為業務數據更新后同步和數據補登后數據同步。
    系統管理功能模塊包括用戶管理、角色管理、權限分配和系統參數設置等功能。只能由系統管理員操作使用。
3 在線監測與分析系統數據倉庫設計
3.1數據倉庫設計框架

    數據倉庫的設計為決策、分析及高效管理提供保障和服務,是系統在線監測與分析的基礎與核心。
    本系統的數據倉庫設計總體框架如圖1所示,按照數據獲取層、數據存儲層、數據展現層模式建設。其好處是層次分明,層次之間松耦合,保證整個系統的穩定運行,并方便維護和功能的擴展工作。

 

 

    數據獲取層  從污染源管理綜合數據庫中獲取的數據作為數據源,經過必要的抽取、清洗、轉換等處理后加載到數據倉庫系統中,即ETL(Extraction Transformation Loading)過程。本系統關于數據抽取和轉換使用基于商業智能的開源工具Kettle ETL對多種不同數據源、不同格式的數據進行清洗、轉換、加載等繁雜工作。
    數據存儲層  包括數據倉庫和從屬的數據集市。數據倉庫是信息的邏輯和物理的存儲。在數據倉庫實施過程中,對于某些主題業務的分析問題,按照主題采用數據集市的方式對數據進行進一步的組織。在中央數據倉庫的基礎上根據分析需求創建相應的從屬數據集市。
    數據展現層  通過對數據存儲層的數據進行各種加工整理,將獲得的數據以文字、報表、曲線和各種圖形的方式,簡便、快捷地展現出來。主要包括即席查詢、聯機分析處理、報表輸出和信息結果發布等功能。
3.2主題分析設計與多維建模
    數據倉庫中的數據都圍繞相關主題組織,面向主題是在線監測與分析系統數據倉庫區別于污染源管理綜合數據庫系統的主要特征。經過需求分析和與用戶反復探討最終確定了在線數據分析系統數據倉庫的幾個基本主題:污染源類型主題、異常事件類型主題、監控設備類型主題,并確定其公用類主題。如污染源類型主題包括所屬行業、監測站類別、工藝流程、監測因子、企業規模、注冊類型、管理級別、排放去向、污染物處置方法等信息。異常事件類型主題包括異常類型、監控類型、超標因子等信息。監控設備類包括設備類型、調試目的等信息。
    公用類主題類型包括的維度有日期、時間和地區。如圖2所示。

    確定主題后,可以用多維模型進行描述。多維建模方式表現了屬性間更為豐富的關系和靈活性。多維建模易于使用者進行多維分析[5-6]。在多維分析模型建設中主要存在兩種模型:星型模型(Star Schema)和雪花模型(Snowflake Schema)。以污染源排污監控分析主題關系邏輯雪花型多維模型如圖3所示。

    此模型對應的系統分析目標和功能為:從時間段、污染類型、企業規模、行政區域等角度對排放因子進行分析,掌握各類排放因子的排放平均值、最大值、最小值和累計排放值,并可進行不同時間段內趨勢和比較分析,了解排放值的變化趨勢。
4 在線監測數據分析
4.1 污染源排放統計分析

    采用企業級商務智能分析處理模塊,引入主流的ROLAP(關系型聯機分析處理系統)技術,通過Mondrian多維分析工具,實現海量數據展示、分析統計,同時提供功能強大的共享查詢和多維分析功能[7]。可以多視角多維度觀察監測數據,對數據進行上鉆、下鉆、切片、切塊等操作[8]。污染源排放數值多維統計分析如圖4所示。

4.2污染源企業排口監測因子預警及閥值設置
    考慮到排污、流量等情況的多變性,采取實時在線學習訓練及仿真、預測,即采用近期的實測資料(依據連續幾個時間周期取值的變化做實驗),建立預測模型,通過實際數據比較,得到與實際結果相近的預測率。實測結果示例如圖5所示。

    企業據此填報污染源排放煙氣連續監測系統審核評分表,如圖6所示。
    對于不同行業的閥值有不同,通常依據連續幾個時間周期取值的變化來做監測,智能分析超標率,默認時間周期內(h或者min)80%時間超標提醒,例如排水的工廠,以6 h為周期,連續5 h,或者有85%的離散數據接近閥值,則系統產生預警,如果發現企業有違反環保規定的行為,可以下達限期整改通知書,責令企業在特定的期限內完成整改。
    本系統采用基于數據倉庫和智能分析技術實現海量數據查詢及分析、污染源企業排口監測因子預警、事件自動提醒、各類數據報表統計、任意格式數據報表導出,自動填寫電子化報告等功能,基本達到低碳、環保的無紙辦公。實現了環境監察業務的流程化、標準化和規范化,為數字環保和智慧城市提供基礎信息方案。系統正式投入運行近一年,得到了使用單位的一致好評。
參考文獻
[1] BAEZA-YATES R, HURTADO C, MENDOZA M. Query  recommendation using query logs in search engines [C].  Proc of EDBT Workshops,2004:588-596.
[2] 陳啟買,賀超波,劉海.基于OLAP的高校教學協同決策[J]. 計算機應用,2009,29(1):304-305,333.
[3] KOUTRIKA G,IKEDA R,BERCOVITZ B,et al. Flexible recommendations over rich data[C]. Proc of ACM Conference on Recommender Systems,2008:203-210.
[4] 李婧. 商務智能與數據倉庫在保險業的應用研究[D].西安:西安電子科技大學,2007.
[5] 黃曉穎,李亞芬,王普. 基于數據倉庫的學科建設決策支持系統的設計[J] .計算機工程與設計, 2010,31(23):4995-4998.
[6] 秦永平,王麗萍,孫慶.基于數據倉庫的突發公共衛生事件預警預報系統[J].計算機工程與設計, 2010,31(23):3119-3122.
[7] 王亞妮,李茜. 基于OLAP 技術的社區衛生服務體系信息管理平臺的設計與實現[C]. 2010 3rd International Conference on Power Electronics and Intelligent Transportation System,2010.
[8] 陳元中. 基于聚類的OLAP多維分析查詢推薦方法研究[J].計算機工程與設計, 2010,31(15): 3503-3505.

此內容為AET網站原創,未經授權禁止轉載。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
香蕉乱码成人久久天堂爱免费| 亚洲人成绝费网站色www| 国产一区二区激情| 国产精品美女午夜av| 欧美日韩日日夜夜| 欧美日韩另类一区| 欧美伦理91i| 欧美精品一区二区三区蜜桃 | 欧美成人性网| 欧美国产第二页| 欧美激情精品久久久久久| 欧美大片在线看| 欧美国产高潮xxxx1819| 欧美大片一区| 欧美区一区二区三区| 欧美精品一卡| 欧美色欧美亚洲另类二区 | 欧美视频精品在线| 欧美视频在线观看一区二区| 欧美日韩精品二区第二页| 欧美日韩国产成人在线| 欧美日韩另类丝袜其他| 欧美日韩在线免费| 国产精品国产a级| 国产精品尤物| 激情校园亚洲| 亚洲欧洲一区二区在线观看| 亚洲另类一区二区| 中国亚洲黄色| 午夜欧美视频| 亚洲黄色在线视频| 一区二区三区色| 新片速递亚洲合集欧美合集 | 久久蜜臀精品av| 免费国产一区二区| 欧美日韩国产在线| 国产精品久久久久久亚洲调教| 国产精品婷婷| 黄色国产精品| 91久久综合亚洲鲁鲁五月天| a91a精品视频在线观看| 午夜精品免费在线| 亚洲人午夜精品| 亚洲综合视频在线| 久久久亚洲国产天美传媒修理工| 国产视频精品xxxx| 欧美在线播放一区二区| 欧美一区成人| 亚洲精品免费在线| 亚洲欧美电影院| 久久性天堂网| 欧美国产日本高清在线| 国产精品欧美久久久久无广告| 国产欧美在线| 亚洲经典在线看| 亚洲自拍偷拍一区| 亚洲欧洲一区| 午夜在线精品偷拍| 欧美不卡在线视频| 国产精品久久毛片a| 精品88久久久久88久久久| 日韩视频在线播放| 久久国产夜色精品鲁鲁99| 9i看片成人免费高清| 欧美一区二区在线看| 欧美国产日韩一区二区| 国产精品一区在线观看| 最新中文字幕一区二区三区| 午夜电影亚洲| 艳女tv在线观看国产一区| 欧美中文在线观看国产| 欧美日本一区二区三区| 国产亚洲成年网址在线观看| 亚洲精品在线观看免费| 欧美专区日韩专区| 亚洲摸下面视频| 久久艳片www.17c.com| 欧美日韩中文在线| 伊人成人在线| 欧美一区二区精品久久911| 一区二区日本视频| 免费观看一区| 国产一区二区三区av电影| 一区二区三区免费看| 亚洲日本中文| 久久久精品tv| 国产精品丝袜久久久久久app| 亚洲精品久久久久久久久久久| 久久se精品一区精品二区| 亚洲欧美在线免费| 欧美日韩伦理在线| 亚洲国产高清一区| 久久精品国语| 欧美综合国产精品久久丁香| 欧美涩涩视频| 亚洲国产美女精品久久久久∴| 欧美专区在线观看| 性色av一区二区三区在线观看 | 欧美日韩精品一区二区| 亚洲电影在线看| 久久大综合网| 欧美中文字幕| 国产精品一级二级三级| 中文在线资源观看网站视频免费不卡 | 亚洲高清三级视频| 欧美在线资源| 欧美在线一区二区| 国产精品日韩专区| 亚洲无线视频| 亚洲一区在线直播| 国产精品sss| 一本色道久久综合亚洲精品不卡 | 亚洲网站在线看| 欧美日韩国产在线看| 亚洲日本久久| 一区二区欧美视频| 欧美日韩国产成人在线91| 亚洲日韩欧美视频| 亚洲免费av片| 欧美日韩综合另类| 一本高清dvd不卡在线观看| 日韩亚洲国产欧美| 免费一区二区三区| 亚洲电影免费在线| 亚洲三级影院| 欧美激情综合亚洲一二区| 最新日韩中文字幕| aa级大片欧美| 国产精品啊v在线| 亚洲一区二区三区欧美| 亚洲欧美制服另类日韩| 国产欧美欧洲在线观看| 性色av一区二区三区在线观看| 久久99在线观看| 国产亚洲精品综合一区91| 欧美在线视频免费| 蜜臀av在线播放一区二区三区| 一区免费视频| 99精品视频免费全部在线| 欧美日韩午夜剧场| 亚洲免费影视第一页| 久久精品国产成人| 亚洲第一在线综合在线| 一本久久精品一区二区| 国产精品久久9| 欧美中文字幕视频在线观看| 免费成人网www| 亚洲乱码一区二区| 亚洲欧美影音先锋| 国产一区二区三区高清在线观看 | 亚洲精品乱码久久久久久日本蜜臀 | 一区在线视频| 日韩亚洲欧美成人一区| 欧美午夜欧美| 欧美在线视频一区二区| 欧美国产欧美亚州国产日韩mv天天看完整| 亚洲精品欧美激情| 欧美亚洲一区二区三区| 国内自拍一区| 在线天堂一区av电影| 国产日本亚洲高清| 亚洲看片一区| 国产精品视频1区| 最新亚洲视频| 国产精品欧美激情| 亚洲国产另类久久久精品极度| 欧美日韩亚洲91| 香蕉成人伊视频在线观看 | 欧美另类久久久品| 亚洲在线一区二区| 欧美不卡高清| 亚洲一区二区三区视频| 美女视频网站黄色亚洲| 夜夜爽99久久国产综合精品女不卡| 欧美一区二区三区在线免费观看| 在线不卡中文字幕| 亚洲欧美日韩在线| 亚洲国产高清自拍| 小黄鸭视频精品导航| 亚洲人成在线播放网站岛国| 欧美一区二区日韩| 亚洲欧洲综合另类| 久久国产精品久久久久久久久久 | 韩国视频理论视频久久| 一区二区三区成人| 国产真实久久| 亚洲一区免费网站| 在线电影院国产精品| 性8sex亚洲区入口| 亚洲激情在线激情| 亚洲一区二区三区四区五区午夜| 很黄很黄激情成人| 亚洲一区免费| 亚洲黑丝一区二区| 久久精品30| 在线亚洲欧美视频| 欧美国产一区在线| 欧美一区免费视频| 国产精品久久久久高潮| 亚洲精品免费一区二区三区|