健康大数据平台平台

2022-12-27 版权声明 我要投稿

第1篇:健康大数据平台平台

基于云计算的健康医疗大数据平台

摘 要: 中国新医改的大背景下,用互联网+、大数据等技术助推进行深化医改,让改革红利惠及更多群众,加快健康信息化资源体系建设,实现全区域数据共享、全过程业务监督、全方位数据分析、跨部门业务协同、全流程惠民服务的全面健康医疗大数据平台应运而生。平台运用大数据与云平台技术、OLAP多维分析、SOA体系结构,解决了制约平台建设的系统分割、业务流程不统一、以及纵向信息系统的“孤岛”问题。

关键词:医疗大数据;云计算;OLAP多维分析;SOA体系结构

【Key words】: Medical big data; Cloud computing; OLAP multi-dimension analysis; SOA architecture

0引言

近些年来,医疗卫生资源的分布不均,急需大数据调配、均衡。慢性疾病成死亡首因,急需大数据监测、防控[1-2]。通过卫生信息共享来提高医疗服务效率、提高医疗服务质量、提高医疗服务可及性、降低医疗成本、以及降低医疗风险的作用已经得到充分验证,并被公认是未来卫生信息化建设的发展方向[3-4]。

全民健康大数据平台在全员人口信息数据库,电子病历数据库和电子健康档案数据库三个数据库融合的基础上,构建文档库、医学影像库、空间数据库,形成一个省级信息平台,在平台上支持六大类业务应用:公共卫生、计划生育、医疗服务、医疗保障、药品供应保障和综合管理[5]。以集成为手段,打通全民健康医疗大数据平台与横向跨域系统的对接,主要包括含有全员人口信息、电子病历信息、公共卫生信息、妇幼健康信息、严重精神障碍信息等业务系统,并对其中部分核心业务的数据整合,并提供从全民健康医疗大数據平台入口后单点登录到各业务系统[6]。

1平台总体架构

1.1系统架构

全民健康医疗大数据项目的架构设计由下至上分为七层框架:数据支撑层、基础数据层、数据交换层、数据管理层、数据挖掘层、数据应用层和用户层[7]。系统各层都紧密地架构在统一的标准和规范、安全保障体系、组织机构、审计和监管支撑环境上,并遵循统一的资源共享和业务协同标准规范体系[8-9]。系统总体架构图如下图1所示。

1.2业务架构

业务架构主要围绕“数据共享、纵向业务协同、横向跨域协同、业务监管及惠民服务、居民健康卡”展开,主要包括:全民健康信息共享平台、业务协同平台、全民健康业务监管平台、惠民服务平台四部分。业务架构图如图2所示。

1.2.1 全民健康信息共享应用业务规划

全民健康信息共享应用主要分为三期进行建设,如下图3所示:

第一期为框架型建设,是开展卫生、计生业务信息系统应用整合的基础;

第二期为全面型建设,将全面建设数据共享应用的业务功能;

第三期为完善性建设,进一步优化、完善共享应用的基础设施、业务功能。

1.2.2 全民健康业务监管应用业务规划

全民健康业务监管应用业务规划图如下图4所示。

1.2.3 惠民服务应用业务规划

惠民服务应用业务规划图如下图5所示。

1.2.4 纵向业务协同业务规划和横向跨域协同业务规划

纵向业务协同主要包括7大应用(全员人口、公共卫生、计划生育、医疗服务、医疗保障、药品管理、综合管理)及单点登录。

横向业务协同主要包括各业务系统的数据整合、跨行业数据交换共享以及提供单点登录。

2平台关键技术

2.1大数据与云计算

大数据分析技术将使临床决策支持系统更智能,这得益于对非结构化数据的分析能力的日益加强。比如可以使用图像分析和识别技术,识别医疗影像(X光、CT、MRI)数据,或者挖掘医疗文献数据建立医疗专家数据库,从而给医生提出诊疗建议[10]。通过全面分析病人特征数据和疗效数据,然后比较多种干预措施的有效性,可以找到针对特定病人的最佳治疗途径[11]。基于疗效的研究包括比较效果研究。

智慧医疗的云计算平台采用自主计算的可靠性技术,医疗信息化系统在运行过程中能够提供失效的自预测、自检测、自定位、自隔离和自愈合功能,可根据收集到的系统运行状况数据预测系统可能发生的故障,在发生故障后能够自动发现故障,自动定位到故障源,并且在系统发生故障后能够自动将故障源隔离,并且自动修复故障[12]。

2.2 J2EE体系和SOA体系结构

J2EE是主流的技术体系,J2EE技术的基础是JAVA语言,JAVA语言的与平台无关性,保证了基于J2EE平台开发的应用系统和支撑环境可以跨平台运行。

数据交换系统是实现分布式异构应用系统之间信息交换的基础平台。基于服务协议来调用,SOA结构可以实现不同的系统之间进行的数据交换,这样就可以完全屏蔽因为底层的数据内容纷繁复杂而造成在使用时的麻烦,同时也可以减少分布式技术解决数据采集与交换的复杂性,从而对于各类异构系统之间的通信和信息交换完全没有障碍。

2.3中间件和数据集成技术

中间件是一种独立的系统软件或服务程序,应用软件借助这种软件在不同的技术之间共享资源。中间件软件管理着客户端程序和数据库之间的通讯。中间件在分布式的客户和服务之间扮演着承上启下的角色,如事务管理、负载均衡以及基于Web的计算等。

数据交换集成技术是实现资源共享交换的核心技术。交换集成技术必须具有完全的开放性和兼容性。考虑到需要接入各种不同的系统和数据接口,该系统需要满足多种国际工业标准,能够与现有的常见数据载体进行对接,支持XML标准数据交换并提供数据访问的定制能力。通过数据集成技术,可以通过累加软件模块的方式,完成数据集成和交换流程的定义,并可以根据業务的需要进行逐步更改[13]。

3结语

在国家人口健康信息化政策的带动下,各地政府牵头开始进行区域人口健康信息化建设的有益探索和实践,推动以全员人口信息数据、电子医疗数据、健康档案数据共享为核心的区域性人口健康信息网络建设,以提升整体医疗服务质量、提高医疗服务可及性、降低医疗费用、减少医疗风险。我国区域人口健康信息化建设呈现出加速发展的态势,各地各级取得的成效证明了区域人口健康信息化建设的必要性和社会价值。

参考文献

邵星, 王翠香, 孟海涛, 等. 基于物联网的社区智慧医疗系统研究[J]. 软件, 2015, 36(12): 45-48.

方辉, 梁晨, 梁振兴. 基于互联网下的社区医疗资源整合[J]. 软件, 2018, 39(6): 174-176.

王会举. 面向大规模机群的可扩展OLAP查询技术[J]. 计算机学报, 2015(1): 47-60.

梁宏涛, 房正华, 杨新艳, 等. 面向本科教学评估的高校数据SOA 服务模型研究[J]. 软件, 2016, 37(4): 22-24.

杜明超. 健康医疗大数据的应用范围与价值分析[J]. 中国卫生信息管理杂志, 2017(5): 22-24.

陈晋阳. “互联网+”视角下健康医疗大数据研究[J]. 南京医科大学学报(社会科学版), 2017(4): 16-19.

李岳峰. 中国健康医疗大数据资源目录体系与技术架构研究[J]. 中国卫生信息管理杂志, 2019(3): 9-16.

李伟. 区域健康医疗大数据平台解决方案策划与初步设计[J]. 医疗卫生装备, 2018(7): 40-46.

尹航, 杨欢, 崔海斌, 等. 基于大数据应用的虚拟化云平台建设方法研究[J]. 软件, 2018, 39(4): 201-207.

卓广平. 数据挖掘开发及应用研究[J]. 软件, 2015, 36(5): 81-83.

周政尹. 基于医疗大数据的数据挖掘方法研究[J]. 经贸实践, 2017(23): 15-16.

吴政. 云计算在医疗大数据平台建设中的应用研究[J]. 信息与电脑(理论版), 2017(17): 58-59.

周乐明. 公立医院区域医疗数据集成与接入的难点及对策[J].中国卫生信息管理杂志, 2018(6): 117-120.

作者:孙凯旋 翟凌宇

第2篇:大数据平台网络数据库云计算技术优化与平台搭建研究

摘要:网络数据库(Network Database,以下简称ND),是一种跨越基本数据载体如电脑、服务器等,通过互联网、云系统搭建并运行的虚拟数据库。ND理念中的数据之间关系为一对一、一对多关系。随着互联网普及程度的提升,利用网络数据库进行视频、图像以及其他各类型数据保存所带来的数据存储压力飞速提升。基于此,对大数据平台网络数据库云计算技术优化与平台搭建进行研究,仅供参考。

关键词:大数据;网络数据库;支计算技术

引言

随着网络技术使用范围扩大,需要提升计算机使用能力。网络云计算技术可以调计算机网络使用效率。云计技术可以将巨大的系统池连接提供IT服务,云计算提供安全可靠的数据存储中心,摆脱终端设备设备性能限制。近年来云计算技术得到快速发展,目前部分国家企业形成广泛合作,对云计算应用进行针对性研究。云计算理论研究日益受到关注,当前我国云计算技术处于起步阶段,存在服务功能不完善,关键技术被国外公司掌握等问题,研究计算机网络云计算技术发展具有重要意义。

1云计算技术概述

对于云计算技术来说,作为一种全新的网络技术,展现出较强的拓展性、稳定性、虚拟性、开发性等特点。在实际应用中,要想满足不同用户的实际需求,在对计算机网络开发建设中,增加了储存、备份等功能。一般情况下,高效使用的服务模式有三种。第一种,基础设施和服务,在虚拟机、计算机网络硬件设施的作用下,完成数据采集、整理和保存等。第二种,软件即服务。利用虚拟化桌面流程和相关软件,实现网络中各项数据信息的保存。第三种,平台即服务。结合实际需求,加强Web服务器设计与开发。无论采用哪种服务模式,云计算技术都要将分布式数据保存技术应用其中,在各个物理设备中实现对各种数据信息的保存和管理,从而促进数据信息保存和处理效率的提升,让使用规模不断扩大,处理效率升高,满足不同用户的实际需求。

2云计算技术服务模式

云计算为基于网络的共享资源计算池,以最小化管理可以快速提供释放,具有3种商业交付模式。云计算技术是先进的数据处理技术,采用高效的分布式计算方式,可将海量数据简化为简单的运算进行分布式计算,在网络技术、计算机软硬件等发展下,云计算技术可以更好地契合时代发展需求。网络时代中云计算技术得到广泛应用,由于其具有独特优势,计算机网络云计算技术具有可靠性,虚拟化、通用性等特点。云计算具有划分独立资源池、按需自助服务等特征。消费者可借助不同客户端对网络随时访问;无需同云计算服务供应商可以自动得到自助计算资源能力;根据消费者需求动态划分不同物理资源,用户可以知道资源池所属行政区域。云系统对服务类型通过计量自动控制,资源使用可被监控及对用户提供透明报告。云计算商业交付模式包括基础设施、云平台软件方式。IaaS是将基础资源封装后对消费者提供处理及基础计算资源的服务能力,IaaS基础设施包括计算机网络及相关设施。

3大数据平台网络数据库云计算技术优化与平台搭建策略

3.1数据整合与预处理

云数据库可供用户储存的资源类型极多,如个人用户的文件日志、视频数据以及企业用户的关系数据、对象数据等。云数据库中储存的数据类型囊括了结构与非结构等不同性质的数据。本次构建系统实现了云数据库结构与非结构性数据的整合,以便用户能够利用云数据库服务总线对数据进行预处理、传输以及可视化等。本次构建云数据库采用HiveSQL工具作为系统完成数据整合与预处理的主要工具,进一步增强了系统对大规模数据的管控。

3.2数据加密技术

计算机网络安全保存中算法并不是不成不变,对称加密算法在保护网络信息保存安全上有着明显的优势,但是需要一定的解密和加密过程,从而影响数据信息使用效率。如果在网络数据保存过程中,只是采用了对称加密算法,则会给数据保存效率和质量带来一定影响。对于非对称加密算法在数据安全保存中应用,与对称加密算法的优势呈现出相反状态,能够确保数据保存效率和质量,安全性强,但是在使用非对称算法过程中,加密与解密交叉进行,因此,非对称加密算法更具繁琐性,在网络数据安全保存速率上也会面临一些问题。要想将问题全面处理,一般应将对称加密算法与非对称加密算法相互结合,在某种程度上可以确保数据保存效率和安全性。

3.3将传统防火墙和虚拟防火墙有效结合

在现在整个计算机网络的运行中,对计算机网络和其系统起到最为至关重要的保护作用的便是防火墙,它不仅仅可以在一定程度上规避和拦截一些病毒或者是恶意软件的侵入,还能够利用自身所具有的一些技术进行防御,故此提升防火墙的安全性对减小网络安全风险,有效的保障计算机网络安全,具有及其重要的意义。目前传统防火墙是一个物理实体设备,通过一系列预先设定的规则来控制通过设备的信息流,隔离内外网络,有效保护内部用户系统及信息的安全性。虚拟防火墙一般具有传统的网络防火墙一样的功能。主要通过对虚拟化环境中的服务器进行网络流量过滤和监控,检查数据包并使用安全策略规则来控制虚拟化环境中各个服务器之间的通信。防止未经授权的用户访问和传输数据和文件,还能监测控制传输任何敏感数据或文档。由于虚拟防火墙具有管理集中方便,性价比高,能够在云中按需设置和迁移,具有良好的灵活性,能够有效对虚拟化环境中的每一台服务器进行分布式隔离,科学地将传统防火墙和虚拟防火墙有效结合,相互扬长避短,能够对计算机网络实现横向到边,纵向到底的网络安全防护,从而提高计算机网络安全保障能力。

结束语

综上所述,在当前网络信息技术应用飞速发展的时代背景下,计算机网络的安全存储正面临着迫切需要解决的复杂问题。积极运用身份认证、分布式存储、数据加密、密钥管理等等云计算技术,给人们的生活、工作方面提供更加高效,安全的计算机网络服务。

参考文献:

[1]杨月江,田立勤,张志远.基于云计算技术的应急管理研究[J].华北科技学院学报,2020,17(06):101-106.

[2]吴一梦.大数据时代的计算机网络安全及防范分析[J].中国储运,2020(12):103-105.

[3]楊鑫.计算机安全管理中云计算技术的应用[J].数码世界,2020(12):74-75.

[4]李万彬.云计算技术发展分析及其应用探究[J].现代工业经济和信息化,2020,10(11):98-99.

[5]黄海,李佳,汪有杰.云计算技术在计算机网络安全存储中的应用[J].信息技术与信息化,2020(11):162-164.

作者:杨薇 王子瑜

第3篇: 口腔医疗大数据平台构建研究

摘要:为了充分挖掘和利用口腔诊疗过程中产生的海量数据,提出构建稳定、高效的口腔医疗大数据平台,实现不同来源数据之间的共享和应用。从口腔医疗大数据平台的安全体系建设、硬件平台建设、数据接入范围以及数据接入方式的选择等方面进行分析,研究了平台的总体架构、需求目标和建设要点。口腔医疗大数据平台能够在口腔临床、医学研究、医院管理、患者服务等方面发挥重要作用。

关键词:医疗大数据;数据挖掘;数据治理;医院信息化

0引言

随着科技的飞速发展,信息技术在各行业中的应用也不断得到创新与融合,健康医疗大数据作为战略性的资源,在提升医疗服务质量、提高患者满意度、服务临床及科研等方面的作用越来越明显。国务院于2016年发布了有关健康医疗大数据应用发展的规范性文件,提出创新医疗模式,建设医疗大数据平台,为患者提供更优质的医疗服务,为临床提供更好的诊疗帮助,为科研提供更便捷的辅助。医疗大数据平台的建设近年来在综合性医院开展得较多,也较为成熟,然而在口腔专科诊疗方面由于口腔专科的临床业务范围相对较窄,平台建设与研究也不如综合性医院广泛,但口腔专科对于大数据的应用及大数据平台的需求也是不可或缺的,所以建设口腔医疗大数据平台是口腔专科医院创新医疗模式,建设数字化医院、智能化医院的一个关键举措。国家将福建列入大数据试点省份之一,如何抓住机遇开展相关建设,使数据库中的医疗数据得到有效利用,实现数据之间的充分共享,为患者、医护人员和科研人员提供有力的帮助,建立一个高效的大数据平台不仅是综合性医院的课题,也是口腔专科医院值得思考的问题。

1基本概念

1.1健康医疗大数据

健康医疗大数据一般是指关于个人的医疗健康相关数据集,它涵盖了生命个体的整个周期,包含的数据量大、范围广,既包括临床数据也包含非临床的有关信息。临床数据的内容涵盖了病人在医院就诊期间的数据,而非临床信息包括了患者的饮食习惯、与疾病有关的生活习惯等一系列相关的数据。

1.2医疗大数据的主要特点

医疗大数据具有数据量大、数据的格式及形态多样化、处理时效性要求高、有着严格的准确性要求,蕴藏着丰富的使用价值等特点。除此之外,医疗大数据还因其数据来源于临床医学,因此其数据存在着医学术语的专业性及复杂性特点。医院信息系统围绕着患者就医的整个过程所产生的数据由于来源不同,导致数据产生的格式不同,数据存在着多样化特点。医疗数据会由于人工记录而发生缺失与偏差,数据的不完整性特点会缺失与偏差,影响后期对于疾病的研究。同时,患者个人信息与就诊信息需要高度保密,形成了数据的隐私性特点。各个信息系统往往由不同软件公司建设,其数据共享程度差,容易形成信息孤岛现象,导致医疗数据出现冗余性特点。

1.3医疗大数据平台

医疗大数据平台可以实现医疗机构对医疗过程中所产生的相关数据进行存取、加工、分析,从而实现对数据的有效利用。平台具体含以下功能。

(1)系统之间数据的交换。通过采用多种技术从而实现医院内部不同科室之间异构数据的汇聚与共享。

(2)数据的存储功能。支持多种不同的数据库,支持结构化与半结构化的数据存储。

(3)分布式计算功能。能够通过高可用的集群资源实现大量的数据运算,实现数据高效地处理。

(4)提供数据的可视化。可以使用可视化的展现方式,使用户可以直观的使用大数据。

2总体架构设计

2.1主要需求

口腔医疗大数据平台的主要需求为:建设一个稳定、高效的大数据平台,要求平台能够采集到现有的HIS、EMR、PACS、LIS等信息系统的数据,并能够对采集到的数据进行清洗、加密、脱敏等操作,使处理后的数据能够服务于临床、科研、教学、管理、病人。

2.2主要目标

通过大数据平台实现数据的充分利用,分析与挖掘数据蕴藏的价值。为医生提供临床辅助决策支持、為医院的科研提供更为有价值的数据,为病人的就诊提供更为方便智能的模式。

2.3总体架构

根据医疗大数据平台建设标准,口腔医疗大数据平台的总体架构如图1所示。最底层的基础硬件环境为整个平台提供硬件支撑,由各信息系统所产生的数据构成了数据的来源,数据集成平台经过各接口把数据抽取出来,转交给上一层去经过标准化、清洗、加工等处理,然后提供给上层应用。

3建设要点

3.1硬件平台建设

大数据平台建设,需要搭建稳定的硬件基础环境,口腔医院相对综合性医院而言,其数据量、就诊病人数量、检验及影像数据相对较少,但随着年限的积累,可供分析的数据也达到了相当的规模。构建口腔医疗大数据平台的硬件基础设施可分步投入,在初期阶段可部署2-3台应用数据服务器用来提供搜索引擎服务和大数据平台的访问服务,2-3台数据处理服务器来提供离线的大数据计算服务,并部署1台流量控制器来对数据流量进行控制。另外购置相应的安全设备,诸如堡垒机、防火墙、数据库审计等。多数医院采用虚拟化方式来实现资源的充分利用嘲,但此种方式如果用于大数据平台的硬件部署,会带来性能瓶颈,因此建议采用若干台性能较强的物理机来单独部署。

3.2安全体系建设

数据安全是医疗大数据得以利用的前提,只有保障病人的隐私才能够讨论数据的使用。安全体系的构建,既包括使用杀毒软件、防火墙、数据库审计等基本的安全防护措施,也包括数据在使用过程当中的加密与脱敏等方面的安全。在基本的安全防护措施方面,按照三级等保的要求做好安全防护与评测工作。在网络架构方面,按照业务内网与办公宽带网物理隔离的拓扑方式,充分保障网络安全与数据安全。由于产品需要更新,部分医院在建设过程以及后期维护中使用远程协助的方式来对产品及数据进行维护,存在着极大的风险,面临着数据被删改和泄漏的可能性。最安全的办法是到院内实行现场更新,而对于确实有困难的用户,可考虑使用VPN外加网闸和防火墙的方式。技术人员在进行更新时,不直接登录到核心业务区,应通过堡垒机的登录方式,对操作行为留记录,并配合数据库审计等安全设备加强对维护人员的行为监督。在数据使用之前,要确保对数据进行了脱敏操作,并且所有的脱敏操作需使用专门的服务器,进一步保证数据在操作过程中的安全性。

3.3数据资源处理

(1)数据接入范围

大数据平台需要将在口腔诊疗过程中所产生的病人基础数据及诊疗相关数据接入。主要包括HIS系统中的患者基本信息、病人处方、病历数据、诊断以及检查和影像报告等数据信息。还包括住院电子病历当中的病案首页、入院病历、出院小结等数据。由于口腔医疗行为主要发生在门诊,在前期建设中可以先将门诊相关数据接入。

(2)数据接入方式的选择

数据接入方式有多种,包括备份数据库、数据同步、物化视图、ETL、集成平台等。每种方式都有其优缺点,如表1所示。我院的集成平台建设已完成初期功能,部分信息系统已完成接口的对接工作,因此可以尝试使用集成平台抽取数据传递给大数据平台的方式,通过集成平台来实时获取相关医疗数据。由于集成平台具有适配不同的业务系统功能,可通过接口对不同的数据封装。大数据平台获取到集成平台的数据后,需进行数据的过滤、标准化处理、有效性检验。可通过消息订阅的方式实时地将集成平台的数据及时地发送给大数据平台。

由于我院为集科、教、研一体的三甲口腔专科医院,医生在做好临床诊疗工作的同时,还要承担教学和科研工作,而从大数据平台提取的数据在教学演示以及科研展示的时候,需要保护患者的隐私,因此从大数据平台提取出来的数据需要数据脱敏与加密。数据脱敏和加密工作应根据国家和医院有关规定,设置信息访问权限,对不同的字段进行加密以保护患者隐私。

(4)数据处理

从不同的信息系统获取到的数据,经过大数据平台的一系列处理后,还需要经过完整性、一致性检验,然后经过ETL映射和数据清洗后应用于临床、科研、教学及医院管理。

4应用部署

口腔医疗大数据平台建成后,可应用于口腔临床、教学科研、医院管理以及惠民服务。

(1)大数据应用于口腔临床工作

目前我院的门诊及住院电子病历对病人数据的检索功能较弱,医生对已就诊病人相关信息的检索常常感到过程复杂并且检索的效率低下,有些数据无法通过已有的信息系统提供检索,对病人的影像、检验报告等信息的查询,只能通过病人姓名等最传统的方式来检索,而无法通过设定主题、条件、范围等高级别方式来进行查询、歸类、统计。而大数据平台能够为口腔医生解决病人信息检索的困境。国家卫健委要求医院电子病历应用水平达到3级以上,其中就有要求电子病历系统要具备医疗决策支持的功能,而大数据平台能够将大量的病历作为支持样本,结合已有的医学知识库,为临床提供有效的辅助决策支持。

(2)大数据应用于口腔科研工作

我院作为口腔临床医学博士点以及省高校口腔医学重点实验室,需要大量的口腔科研素材,依托口腔医疗大数据平台能更为有效地挖掘有用科研数据,相比传统人工寻找科研热点课题的方式,大数据平台能够为科研提供更好的思路和灵感。

(3)大数据应用于医院的管理工作

国家进一步加强公立性医院改革的政策对医院的管理提出了更多的挑战。利用大数据平台,可以给医院的运营管理科、医务科、病案室、质控科提供更为精确的数据和管理辅助。给医院的运营管理、病历评价分析、医疗质量的追踪等方面提供更为完善的解决方案。

(4)大数据更好地服务于患者

由于口腔诊疗的专业特殊性,口腔专科医生每天的号源量非常有限,大多数病人对于口腔疾病的分类缺乏认识,常发生挂错号而浪费资源且造成病人就诊不便的情况。利用口腔医疗大数据平台,可以给病人提供智能导诊服务。通过病人的口腔疾病症状描述,为患者匹配最合适的科室,提高患者的满意度。

5结束语

随着信息技术的快速发展以及国家对电子病历等信息系统标准的进一步规范化,大数据平台所能获取到的医疗数据质量将更有保障,大数据平台在医疗卫生领域将发挥越来越重要的作用。构建口腔医疗大数据平台可以为口腔医生提供临床辅助决策,为口腔科研人员提供智能科研检索,为医院精细化管理提供帮助,为病人提供更为全面的服务模式。从临床、科研、管理、服务病人等多维度展现了大数据平台的优势,提高了医院的服务效率和管理能力,为群众的口腔健康提供了更有力的保障。但同时也要认识到医疗大数据平台建设过程中面临的一系列问题,包括基础硬件环境支撑、数据安全、病人隐私保护等,以及诸如数据缺乏有效整合、数据共享不充分、数据质量有待提高、数据管理机制不够健全、数据分析和利用能力等有待提升、数据标准不够统一等一系列挑战。要提高认识,加强安全防护,健全规章制度,完善标准体系,体现大数据平台更大的作用。口腔医疗大数据平台的建设与普及将是口腔专科医院信息化建设中一个重要环节,也将成为我院实现健康中国2030计划的强大助推力量,将带来不可估量的社会效益。

作者:毛玮

第4篇:大数据平台建设

当前,我部门应用系统之间都是独立的,数据没有统一标准、系统也没有相连。这种现状导致,各公司部门之间的信息资源无法共享、部门之间工作移交无法电子化。这极大地限制了信息化提高公司工作效率的效果,更重要的是信息资源无法打通,就无法站在全县的角度去进行政务应用的大数据分析,成为了政务应用大数据技术的最大阻碍。

为了提高资源使用率,节约管理成本,推动信息产业发展,拉动社会资金在信息化方面的投入,为了提高行政管理和服务效率,促进公司职能转变,改善投资和营商环境,促进经济发展,为了提高公司服务效率,使公司管理服务从各自为政、相互封闭的运作方式,向跨部门、跨区域协同互动和资源共享转变,提高公司工作效率。有必要构建统一的大数据平台,更好地为公司决策服务,提高信息服务质量。

建成覆盖全县各公司部门的信息资源整合平台,支撑用户单位开展跨部门、跨层级的政务应用大数据分析,业务协作,提供应用集成模板、集中监控管理、远程配置部署等工具,降低跨地域实施难度。电子政务应用中存在大量跨部门、跨层级的业务协作,数据交换平台是县级各部门共享数据,进行全县内大数据分析的基础也是解决跨部门协作的有效手段。全县统一规划、统一规范、统一架构,避免各级单位独立建设带来的格式各异、接口混乱、无法重用、难以扩展的局面;施行统一部署、统一监控、统一管理的集中管理模式,总体上降低各级公司部门信息整合的建设、管理、应用的成本。 社会经历了由磁盘、磁带、光盘存储数据,向以公文档为主要形式数据的发展,后来互联网的兴起促成了数据量的第三次大规模增长,到了今天,随着互联网、物联网、云计算应用的进一步丰富,数据已呈指数级增长,“大数据”概念逐渐在各界引起热议。在大数据时代,我们分析的数据因为“大”,摆脱了对传统对随机采样的依赖,而是面对全体数据;因为所有信息都是“数”,可以不再纠结具体数据的精确度,而是坦然面对信息的混杂;信息之“大”之“杂”,让我们分析“据”也由传统的因果关系变为相关关系。

大数据平台由网络基础设施层、数据支撑层、信息安全层、统一管理等构成。数据支撑层必须能够对数据采集、数据质量、数据安全、数据挖掘、数据处理和数据可视化进行大数据的全生命周期管理。通过对全县范围内从不同部门收集到数据运转起来成为流化的资源,为应用支撑层的运转提供丰富的高质量的不同维度的数据资源的接口。在全县数据集中的同时需要考虑数据在传输和存储时的安全问题以及不同部门对外共享自身内部数据时数据边界控制的问题,从技术和制度上保障这些数据资源得到科学、有效、合规的使用。

大数据平台建设的主要任务:

(一)建立政务云平台。

建设全县统一的政务云计算平台。以县广电公司的设施为基础,进行云化改造,建立自行管理的云计算资源池,为各部门不宜采用社会化云计算服务的关键性业务系统提供基础设施共享服务。

(二)实施大数据管理。

1.建立政务数据交换和目录体系。以县广电公司的交换中心为主交换平台,构建全县统一的电子政务数据交换体系。统筹各部门可供共享的信息和共享需求,编制政务信息资源共享目录,明确可供共享的信息名称、数据格式、提供方式、提供单位、共享条件、更新方式、更新时限等要素,按需向其他部门提供信息共享服务。

2.建设政务数据集中共享平台。建立健全共享数据汇聚机制,按照“一类数据来源于一个权威部门,权威部门负责更新维护”原则,通过统一数据交换平台,将具有公共性、标识性、基准性的共享数据进行汇聚,集中存储于云平台,逐步形成人口、法人、经济、空间地理、社会信用等各类城市重要基础性数据库。充分发挥云平台共享数据的中心作用,建立向云平台直接获取为主,部门间数据交换获取为辅的共享应用机制,提高城市综合数据共享使用效率。

(三)推进大数据应用。

提高决策数据服务水平。围绕县公司决策需要,以建设决策支持电子政务系统为抓手,充分整合各部门现有办公应用和业务系统数据资源,逐步建立支撑领导决策研判的决策数据资源库,提供更加及时高效的信息获取方式,丰富展现形式,为公司决策提供全面准确便捷的数据服务。使县领导能够及时掌握经济运行与社会发展的实际状况和发展趋势,不断提升政务数据保障和辅助决策能力。

(四)构建大安全体系。

1.加强统一电子政务网络建设管理。在现有电子政务外网平台基础上,提升县级骨干网络业务承载能力,按需扩充统一互联网出口,为公司大数据平台提供高速、稳定、安全的网络运行环境。

2.加强安全技术防护体系建设。按照信息系统安全等级保护要求,针对大数据平台的技术特点,进一步完善以病毒防范、漏洞管理、入侵防范、信息加密、访问控制等为重点的安全防护体系,确保电子政务系统不被破坏和数据不被窃取泄漏。

第5篇:大数据平台分析报告

密级:内部公开

环境数据中心

大数据平台分析

Big data platform analysis

SOFTWARE PRODUCT

聚光科技(杭州)股份有限公司

内部资料 注意保密

目 录

1. 大数据背景............................................................................................................... 1

1.1. 什么是大数据................................................................................................ 1 1.2. 发展现状........................................................................................................ 1 1.3. 大数据的应用................................................................................................ 2 2. 大数据平台介绍....................................................................................................... 4

2.1. 定位................................................................................................................ 4

2.1.1. 产品概述............................................................................................ 4 2.2. 功能................................................................................................................ 4 2.3. 设计................................................................................................................ 4 2.4. 技术.............................................................................. 错误!未定义书签。 2.5. 总结................................................................................................................ 4 3. 环境数据中心........................................................................................................... 5

3.1. 背景定位........................................................................................................ 5 3.2. 功能................................................................................................................ 5

3.2.1............................................................................................................... 5 3.2.2............................................................................. 错误!未定义书签。 3.3. 设计................................................................................................................ 6 3.4. 技术.............................................................................. 错误!未定义书签。 4. 总结........................................................................................................................... 6

I

内部资料 注意保密

1.大数据背景

1.1. 什么是大数据

大数据最早在上世纪90年代被提出,是指无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。

现在,业界普遍认同所谓“大数据”具有明显的“3V特征”:量级(Volume),速度(Velocity)和多样性(Variety)。大数据普遍具有量级大,要求处理速度快,数据本身具有丰富的多样性。在甲骨文公司和中国移动研究院的相关研究文档里,都追加了第四个V——Value,价值;而IBM在其相关文档中给出的第四个“V”则是真实性(Veracity)。

大数据的价值:在海量的规则或不规则数据之中,用新的数据处理手段,以很快的速度计算或分析出潜在规律性、根本性的判断、趋势或预见。

1.2. 发展现状

随着移动互联网的带宽的增加和智能设备销售量的上升,互联网业迎来了“云计算”和“大数据”。世界经济论坛一份有关大数据的研究报告称,每天全球几十亿人使用计算机、GPS设备、电话和医疗设备,产生海量的数据信息。这些用户大部分来自发展中国家,他们的需求和习惯尚未被真正理解,如果能够借助大数据相关技术分析和挖掘数据背后的信息,将有助于认识需求、提供预测和防范危机。

大数据的真正意义并不在于大带宽和大存储,而在于对容量大且种类繁多的数据进行分析并从中萃取大价值。采用大数据处理方法,生物制药、新材料研制生产的流程会发生革命性的变化,可以通过数据处理能力极高的计算机并行处理,同时进行大批量的仿真比较和筛选,大大提高科研和生产效率。数据已成为矿物和化学元素一样的原始材料,未来可能形成“数据探矿”、“数据化学”等新学科和新工艺模式。大数据处理的兴起也将改变云计算的发展方向,云计算正在进入以AaaS(分析即服务)为主要标志的Cloud 2.0时代。

- 1

内部资料 注意保密

项目使得卫生单位及早研制预防疫苗,及早控制疫情的扩散,大幅降低了流感的传播。

3、飞机票价高低和多早预购的关系

也许大家会直觉地认为越早买机票就越可以买到较便宜的机票。一家叫Farecast公司的创始人从他的亲身经验启发了一个新的服务。他发现坐他旁边的人比他晚好几天购买机票却比他的购买价格还低。于是他搜集了所有航空公司的票价与提前订购时间的数据关系,并建立了数学模型。现在我们任何人可以上到他的网站:farecast.com,输入你的出发地和目的地,加上你要出发的时间,马上这个网页能告诉你是现在就赶快买票还是再等几天才买。

- 3

内部资料 注意保密

3.环境数据中心

3.1. 背景定位

环境管理部门每天要面对大量的数据,如环境监测数据、排污收费数据、排污申报数据、环境统计数据、环保信访数据、行政处罚数据、总量减排数据等。这些数据,往往存在来源复杂、格式多样、不一致、不准确、不完整、存放分散等问题,给环境管理带来诸多困难。各业务系统也彼此独立,从而形成了一个个信息孤岛,数据难以共享,环境决策缺乏有效的数据支持,难以做到科学决策。因此,需要建立统一的环境数据中心,全面整合各类环境资源数据,实现数据的集中管理。使之成为环保各业务科室之间协同工作的数据中心,成为多媒体、文档资料和政策法规的存储中心,成为环保决策所需的数据仓库中心。

3.2. 功能

3.2.1. 数据的管理

数据中心的数据来源主要于:

1. 国家下发的软件系统,如污染源普查软件、环境统计软件; 2.已有的业务系统,如排污申报与收费管理系统、12369环保热线等。 3.Excel表格、电子文档、图片、视频、扫描件等;

4.数据直报系统:系统提供定制的录入界面,用户手工填报。

对于这些来源复杂、格式多样、不一致、不准确、不完整、存放分散的数据进行统一的标准建立,实现信息共享,数据交互

3.2.2.数据的管理

1.文件的上传、修改、删除 2.元数据的编辑

- 5

第6篇:车联网大数据平台架构设计

车联网大数据平台架构设计-软硬件选型

1.软件选型建议 1.1 数据传输

处理并发链接的传统方式为:为每个链接创建一个线程并由该线程负责所有的数据处理业务逻辑。这种方式的好处在于代码简单明了,逻辑清晰。而由于操作系统的限制,每台服务器可以处理的线程数是有限的,因为线程对CPU的处理器的竞争将使系统整体性能下降。随着线程数变大,系统处理延时逐渐变大。此外,当某链接中没有数据传输时,线程不会被释放,浪费系统资源。为解决上述问题,可使用基于NIO的技术。 1.1.1 Netty

Netty是当下最为流行的Java NIO框架。 Netty框架中使用了两组线程:selectors与workers。其中Selectors专门负责client端(列车车载设备)链接的建立并轮询监听哪个链接有数据传输的请求。针对某链接的数据传输请求,相关selector会任意挑选一个闲置的worker线程处理该请求。处理结束后,worker自动将状态置回‘空闲’以便再次被调用。两组线程的最大线程数均需根据服务器CPU处理器核数进行配置。另外,netty内置了大量worker功能可以协助程序员轻松解决TCP粘包,二进制转消息等复杂问题。 1.1.2 IBM MessageSight

MessageSight是IBM的一款软硬一体的商业产品。其极限处理能力可达百万client并发,每秒可进行千万次消息处理。

1.2 数据预处理 1.2.1 流式数据处理

对于流式数据的处理不能用传统的方式先持久化存储再读取分析,因为大量的磁盘IO操作将使数据处理时效性大打折扣。流式数据处理工具的基本原理为将数据切割成定长的窗口并对窗口内的数据在内存中快速完成处理。值得注意的是,数据分析的结论也可以被应用于流式数据处理的过程中,即可完成模式预判等功能还可以对数据分析的结论进行验证。 1.2.1.1 Storm

Storm是被应用最为广泛的开源产品中,其允许用户自定义数据处理的工作流(Storm术语为Topology),并部署在Hadoop集群之上使之具备批量、交互式以及实时数据处理的能力。用户可使用任意变成语言定义工作流。

1.2.1.2 IBM Streams

IBM的Streams产品是目前市面上性能最可靠的流式数据处理工具。不同于其他基于Java的开源项目,Streams是用C++开发的,性能也远远高于其他流式数据处理的工具。另外IBM还提供了各种数据处理算法插件,包括:曲线拟合、傅立叶变换、GPS距离等。 1.2.2 数据推送

为了实现推送技术,传统的技术是采用‘请求-响应式’轮询策略。轮询是在特定的的时间间隔(如每1秒),由浏览器对服务器发出请求,然后由服务器返回最新的数据给客户端的浏览器。这种传统的模式带来很明显的缺点,即浏览器需要不断的向服务器发出请求,然而HTTP request 的header是非常长的,里面包含的数据可能只是一个很小的值,这样会占用很多的带宽和服务器资源。

面对这种状况,HTML5定义了WebSockets协议,能更好的节省服务器资源和带宽并达到实时通讯。应用Websockets技术,服务器可以通过一个双工通道主动推送数据至客户端浏览器。 1.3 数据存储 1.3.1 车载终端数据

自2006年以来,基于Google提出的MapReduce编程模型以及分布式文件系统的开源项目Hadoop,得到了分布式计算领域的广泛关注,近年来更是几乎成为了大数据行业的标准框架。众多国际互联网公司如Yahoo!、Twitter、Facebook、Google、阿里巴巴等均开源发布了大量基于Hadoop框架的软件,从而使得此框架拥有其他大数据工具所不具备的软件生态圈。

2013年底,Hadoop 2 发布,新一代的计算框架YARN在兼容MapReduce之外,使得其他第三方计算工具可以更便捷的与HDFS整合。同时HDFS也增加了HA(高可用)等新功能。

Cloudera是一家美国的Hadoop软件发行商,其CDH提供了企业级的服务支持,超过50%的Hadoop开源项目贡献来自于Cloudera的工程师。恒润科技目前使用的是Cloudera的CDH5。

数据存入HDFS中时,Hadoop会自动将数据切分为block并均匀分布的存储在集群的各个数据节点。读取数据时,往往通过Map Reduce的方式将数据汇总并提取。这种方式非常适用于对海量数据(eg. 100GB+)进行检索或分析的场景。这是因为,首先海量数据很难用单机进行处理,因为大量数据需要先加载至内存;其次因为MapReduce(或基于YARN的其他计算方式)可以充分利用整个集群中的计算资源,任务的执行效率远远快于单机。

而对于交互应答及时性要求较高的应用场景,比如查看某列车某一时段的车速变化曲线(涉及数据量相对较小)。用户往往期望指定检索条件后可得到秒级的响应。但如果采用上述方式直接从HDFS取数据,整体集群任务派发与资源协调所需的时间将远大于数据处理与展示的时间。用户体验将会大幅下降,这种情况下一般会采用非结构型Nosql数据库。HBase是Hadoop生态圈中非结构型数据库的代表,其架构参考了Google的bigTable设计。旨在为客户提供基于HDFS,支持快速写入与读取的数据库。

HBase的一个典型应用场景便是车载终端数据存储,车载终端数据的特点包括: 数据类型多样、数据具有时序性、车载终端有移动性以及数据粒度小。车载数据也符合上述特征,因此HBase相对于HDFS是一个更加合适的选择。然而,HBase表的设计对数据检索效率的影响可谓巨大,因此必须紧密结合应用场景、数据结构以及数据的元数据才能确保HBase的性能满足应用需求。 1.3.2 应用数据

应用数据一般则采用关系型数据库进行存储。常见的关系型数据库包括:Mysql,SqlServer,Oracle等。 1.4 数据分析 1.4.1 基础运算功能

大数据平台需根据数据类型的相应特点封装基础运算功能。例如,对于布尔量,需提供某段时间区间内,0、1变化的次数统计,0、1所占比例分布等功能;对递增量如列车里程,应提供某段时间区间内该信号的变化率。而这些功能在分布式环境下主要是通过MapReduce的思想实现。

MapReduce是Hadoop的核心组件之一。 所有计算任务都被分解为两个过程:Map与Reduce。其中Map过程的核心思想为‘移动计算优于移动数据’,即将计算任务Mapper分发至数据所在计算节点。计算节点对本地数据进行计算并将计算结果记录在本地HDFS。Reduce过程,则由reducer去各个计算节点收集mapper的中间计算结果再整理成最终结果。这一过程适合的场景是大批量数据运算,而针对交互性较强的应用,因整个计算过程涉及大量磁盘IO操作,很难做到及时响应。为此Hadoop软件生态圈对MapReduce过程进行了大量优化,而Spark的出现则进一步颠覆了MapReduce的实现方式。 1.4.2 Apache Spark

Spark将数据源封装为RDD(一种可伸缩的分布式数据结构)。针对RDD的Mapreduce过程,将所有中间结果都保存在内存,而不需读写HDFS,从而提高计算任务的整体效率。除MapReduce外,Spark还提供许多其他数据操作。自2014年起,spark已经成为Apache开源社区中最活跃的开源项目。 1.4.3 SQL on Hadoop

在传统关系型数据库中进行数据分析往往是依靠SQL语言。对于不熟悉分布式编程的数据分析人员,SQL on Hadoop的出现无疑为他们提供了一种便捷而强大数据分析工具。为Hbase提供SQL操作的工具包括Hive,Impala与Pheonix。其中Hive与Impala都是为HDFS而设计同时提供了对Hbase的接口;Pheonix则是专门为Hbase设计的,底层实现完全依赖Hbase 的原生接口。 1.4.4 机器学习算法

数据挖掘中常用的许多机器学习算法都是迭代式的,当数据分布在集群中,传统的单机算法实现将难以生效。Apache Mahout提供了多种机器学习算法基于MapReduce的实现,包括聚类、拟合、协同过滤等。Spark也提供了Mlib组件并以Spark的方式对上述算法进行了实现。 1.4.5 BI

传统的的BI工具近年来也开始提供基于Hadoop的数据计算接口,如Matlab提供了MapReduce的接口(http:///discovery/matlab-mapreduce-hadoop.html)。而SPSS更是宣布除与Hadoop集成之外,还将于2015年完成与Spark的集成。值得注意的是,这些集成仅是底层实现的集成,即仍然要求数据分析人员具备MapReduce的编程思想并学习这些工具关于Mapreduce的客户端接口。 1.4.6 工作流

Oozie是Hadoop生态圈中第一款关于计算流程规划的工具。通过这款工具,开发人员可以将上述数据分析工具进行整合,以完成非常复杂的数据统计任务。然而Oozie缺乏可视化的工具对工作流进行设计,且调试十分不便。

Azkaban是由LinkedIn贡献的一款类似的开源工具并提供了用户友好的可视化界面。

1.4.7 数据可视化

由于前段的框架采用的是基于浏览器的B/S架构,因此数据的可视化可以依托于大量开源的javascript工具库,例如D3(https://github.com/mbostock/d3/wiki/Gallery)、Highcharts(http:///demo)以及Baidu Echarts(http://echarts.baidu.com/doc/example.html)。

以Echarts为例,其提供的工具包括:折线(面积)图、 柱状(条形)图、 散点(气泡)图、 K线图、 饼(圆环)图、 雷达(面积)图、 和弦图、 力导向布局图、 地图、 仪表盘、 漏斗图。具体demo请参考上述链接。 2 硬件选型建议 2.1 服务器选型 2.1.1 配置

Hadoop集群中DateNode的推荐配置为: • 12~24 块1~4TB 硬盘

• 2 ~8核 CPU, 频率2~2.5GHz • 64-512GB 内存 • 10~100G以太网网口 NameNode的推荐配置为:

• 4~6 块1TB 硬盘 (操作系统1块, 文件系统2块,Zookeeper1块) • 2 ~8核 CPU, 频率2~2.5GHz • 64-128GB 内存 • 10~100G以太网网口 2.1.2 规模

车载终端数据进入Hbase后,以Hfile的形式存于HDFS。这意味着所有数据在整体集群中将会至少保存3个备份。规划集群规模时需考虑下列几个参数: •

车载终端数量(车载数据采集设备)sensors •

采集端口数量ports •

采集频率 frequency •

采集时间period •

端口大小 size •

备份数量 redundancy

由于Hadoop集群支持动态扩展,因此策划时可先按最小需求搭建物理集群。

第7篇:蒙草搭建农业大数据平台资料

一、

蒙草集团依托20余年的生态科研实践,运用互联网、云计算、物联网等技术,结合实地监测,整理收集指定区域水、土、气、人、草、畜等生态系统相关数据,建立指标分析模型,从而精准指导生态修复实践,科学指导产业发展决策,优化引导农牧民生产生活,成为生态产业、农林牧产业等移动版的“GPS”+“科技110”。作为“生态+农业”大数据的一项实践,五原县农业大数据平台是蒙草依据当地农业生态现状和农业生产实际需求,搭建的以农业大数据为核心的生态公众服务平台。

大数据指导农业生产

五原县农业大数据平台使当地的农业生态实现了农业技术服务“一网覆盖”,农业资源数据“一键获取”,有效监控农畜产品的产量和质量。同时,大数据平台的遥感数据也提供该县农作物种类的空间分布、作物长势的变化以及不同程度的盐碱地分布的各类信息,为该县因地制宜规划农业生产提供依据。

大数据平台中的物联监测,可提供农作物生长环境、生长需求以及不同气候温度条件下病虫害发生情况的信息,提示农业部门及农民及早预防治疗,保证农作物健康生长,并通过精准施肥灌溉,减少水肥浪费,保护生态环境,促进农业可持续发展。

平台可监测家畜疫病的防治。防疫员可通过“智慧农业”APP快速地将牲畜图片、视频、农户和防疫员确认签字情况等防疫信息实时上报,并汇总到大数据平台。平台可对疫苗进行追溯,并做出该地区防疫热区图。2018年2月14日,五原县养羊农户赵瑞花在平台留言,家里的羊腿疼,走路一瘸一拐,不吃草,情况不止出现过一次,且附近几个村子都有类似情况发生。专家王强胜看到提问后回复了有效的治疗措施。平台通过为农户提供与专家沟通的渠道,为农户及时解决问题。

此外,农业信息员也将防灾减灾、土地流转与疫病防控等相关信息发布在农业综合信息平台上。平台信息结合科技服务直通车的

蒙草搭建农业大数据平台资料

辅助,打通了农牧业科技信息服务的“最后一公里”,为农牧民解决难题,为农业生产保驾护航。

搭平台服务市场决策

五原县素有“河套粮仓、葵花之乡”的美誉,盛产葵花、小麦、玉米、油料、甜菜、番茄、瓜果、瓜菜籽等农产品,是全国著名的粮、油、糖及绿色无公害农产品生产基地。

五原县农业大数据平台可监测当地农作物价格。通过有效监测当地农作物市场情况,分析判断每年农作物产量的走势,平台数据指导着农户有针对性地种植所需求农作物的数量。农牧业部门利用平台大数据快速调取农作物和畜牧业的产量及占比、当前防疫任务完成率、土地流转均价、农技咨询关注度以及各类农产品价格实时监测等数据。平台中的一些信息服务板块也备受农民青睐,如“科技110”使农民的农牧业实用技术、技术培训、市场信息、涉农涉牧政策法规等问题可得到专家及时、专业的回答。

服务三产融合发展

蒙草与五原县政府紧密围绕当地农业生产特色,打造了农村产业融合发展示范园,分为农业产业融合展示馆、生态大数据馆、热带植物馆,集农业新科技成果示范、农业大数据展示、生态科普、休闲旅游观光体验等多种功能于一体。

一产,用科技示范指导农民生产。在示范园内的测土配方施肥区,根据五原县十余个典型区域不同的土测值,选择新作物进行引种试验。同时,根据各乡镇现阶段主栽作物的养分需求及各生育期的需肥特性,为作物全生育期提供适宜的养分配比及生长环境,达到控肥增效的目的。示范园内设有绿色防控技术展示区,主要针对各类农作物病虫害给出对应的解决方案,综合应用杀虫灯、性诱剂、黏虫板等生物、物理防治技术,降低病虫害发生率,以达到有机食品标准,提高标准化技术普及率。

二产,聚集特色农产品加工企业与展示推介农产品。示范园内展示了多类五原县的地标性农产品,每类产品都有多个品种,每一类品种都有其优势特性。此外,展出的还有五原县的特色农产品加工产业培育出的众多知名品牌。

蒙草搭建农业大数据平台资料

三产,将示范园同时作为旅游区、科教园。示范园自2017年9月底运营以来,已吸引多达15万余人前来参观、旅游。除本地散客外,更多的是来自各地的教育科普团、产业考察团与旅行团。

示范园引导农业产业集聚,展示农业新科技成果,通过农业+大数据,既解决了“种得好、管得好、产得好、卖得好”的问题,也实现了

一、

二、三产业的融合发展。

大数据就像是大自然的信使,使用到农业产业中,能够一改以往农耕产业“看天吃饭”的状况,让农业产业变得更加智慧。大数据也是强劲驱动力,通过产销促、流通追溯体系等,让农业产业变得更加健康、绿色。

二、

蒙草自主研发的草原生态产业大数据平台在节目中亮相,向观众传达一家企业在“尊重自然、尊重一方水土”、把适应当地生长的植物“再还给这片土地”的努力。

助力生态修复相关产业发展

在实践中,要修复某一块草地,必须掌握某一区域的年降水量、土壤特性、适种草种等一系列生态数据,生态建设才能有的放矢,精准施策。蒙草的大数据平台集成了某一地区近几十年以来的“水土气、人草畜、微生物”等生态关键因素指标数据。大数据平台未来就像是草原生态系统的检测阀和导航器,将来能对生态修复、现代草业、畜牧业、草种业及蒙草定制化产品开发等领域提供科技支撑。

为草原生态修复提供技术支撑。草原生态修复涉及牧草适宜性、混播比例、种植方案等问题,通过大数据分析与研究,当人们点击大数据平台上任意经纬度的坐标点,蒙草的数据库就会提供出适合该处草原生长的草种及该区域最科学的生态修复方法。

蒙草搭建农业大数据平台资料

为草产品建立质量追溯体系。用户可以实时查看牧草具体地块的位置、水、土壤、气候、营养成分等信息,并掌握种植、管护、收获、贮藏、运输等全过程数据。

为农业发展提供技术支撑。未来蒙草的大数据平台还能为农业领域的土壤、水资源、农作物等数据的收集与研究提供技术支撑。

为草种业及蒙草定制化产品开发提供数据指导。通过对植物、气候、土壤、水资源等数据的积累于分析,蒙草大数据平台可以给草种生产与应用、蒙草生态包等产品的生产提供科学的生产指导数据。

为农牧民着想更多蒙草从草原上成长起来,始终不忘草原的养育之恩。多年来,蒙草通过产业发展为农牧民解决企业力所能及的问题。大数据平台的开发,包含很大的公益性成分,也着重为农牧民想得更多、带来更多便利:

合理规划种植。未来通过大数据平台,农牧民能够快捷地掌握当地及周边地区牧草生长状况,了解适合当地环境的牧草品种及种植技术,以降低成本,增加收入。

提供生产技术。应用大数据分析技术,结合牧草及作物的生长特性、土壤类型、温度、湿度、降水量等数据,农牧民可以“知天而作”,实现精准灌溉与生产。进行草原动态监测。用户通过大数据平台未来“天、空、地”一体化的草原监测体系,可以监测牧草的返青时间,预测牧草产量。

建立第三方信息发布平台。供应商可以通过手机分布供需信息,用户可以了解供应商的发布信息并可以完成交易,同时平台会为供应商提供数据分析服务。

搭建大数据共享平台。未来还可以为自治区各盟市、旗县甚至乡村搭建专属的大数据库,做到生态数据的“大导航”和“大利用”。 如今,呼和浩特的“中国云谷”正逐步成为国家级的数据中心。大数据不仅为新兴产业提供了有力支撑,也正在创造着良好的社会效益。蒙草大数据平台集成了内蒙古全境10多万个生态数据采集点的信息,将成为草原生态修复的重要参考。在政府的助推下,蒙草将利用大数据创造更多的经济和社会效益,让退化草原重现绿意,让废旧矿山变成绿洲,让城市变成花园,让生态环境更加美好。

蒙草搭建农业大数据平台资料

三、

看蒙草如何用生态大数据指导农业发展

我们“只有一个地球”,“珍惜自然资源、呵护美丽国土”是之必然。作为人类赖以生存的第一大产业——农业,如何在当下实现可持续发展,生态大数据可以告诉我们。

蒙草扎根于辽阔的内蒙古,依托集团公司20余年的生态科研实践,运用互联网、云计算、物联网、3S等技术,结合实地监测,整理收集指定区域水土气、人草畜等生态系统相关数据、建立指标分析模型,从而精准指导生态修复实践、科学指导产业发展决策、优化引导农牧民生产生活,用“大数据”实现“大生态”、“大产业”、“大民生”的互通互联。

▲蒙草大数据产品体系

蒙草搭建农业大数据平台资料

蒙草可以为不同地区打造不同专业类型的生态+大数据平台。五原县农业大数据平台就是蒙草依据当地农业生态现状和农业生产实际需求,搭建的以农业大数据为核心的生态公众服务平台,对当地农业的发展及农牧民生产生活产生着积极的影响。

▲五原县农业大数据平台

大数据+生产服务

看点一:一键获取你想了解的农业信息

五原县农业大数据平台为当地农业生态提供了农业技术服务“一网覆盖”、农业资源数据“一键获取”,有效监控着农畜产品的产量和质量,并提升农村信息化水平。同时,大数据平台的遥感数据也有助于宏观了解该县农作物种类的空间分布,作物长势的变化,以及不同程度的盐碱地分布,由此可以对该县不同地区进行因地制宜的农业生产规划。

蒙草搭建农业大数据平台资料

▲五原县农作物种类分布

▲五原县2017年5月-8月作物长势

蒙草搭建农业大数据平台资料

▲五原县轻中重度盐碱地分布

看点二:科技110海量专家实时为农民解惑

五原农业大数据平台中的农业综合信息模块对农业生产服务助力甚多。其中“科技110”版块最受青睐,农民可以通过“智慧农业”手机APP向专家提问,专家收到问题后为农民们回答,问题主要包括农牧业实用技术、技术培训、市场信息、涉农涉牧政策法规宣传等内容。

蒙草搭建农业大数据平台资料

▲五原农业大数据平台中的科技110界面

农作物的生长环境和生长需求,以及不同气候温度条件下病虫害的发生情况,我们也可以通过大数据平台中的物联监测掌握,做到及早预防治疗,保证农作物健康生长,同时精准的施肥灌溉,减少水肥浪费,保护生态环境,促进农业可持续发展。

▲五原县农业大数据平台——物联监测

蒙草搭建农业大数据平台资料

看点三:灾前预警帮助农民“未雨绸缪”

该平台也可监测家畜疫病防治。通过“智慧农业”APP,在每年春防、夏防和秋防时期,防疫员可快速地将牲畜图片、视频、农户和防疫员确认签字情况等防疫信息实时上报,并汇总到大数据平台,最终我们可以对疫苗进行追溯,并做出该地区防疫热区图。

▲五原农业大数据平台中的疫情防控界面

此外,农业信息员还会定期把防灾减灾、土地流转与疫病防控等相关信息上报至农业综合信息平台中,便民利民。再加上科技服务直通车的辅助,真正打通了农牧业科技信息服务的“最后一公里”,及时为农牧民解决难题,为农业生产保驾护航。

蒙草搭建农业大数据平台资料

▲五原农业大数据平台中的土地流转信息界面

大数据+市场决策

五原县素有“河套粮仓、葵花之乡”的美誉,盛产葵花、小麦、玉米、油料、甜菜、番茄、瓜果、瓜菜籽等农产品,是全国著名的粮、油、糖及绿色无公害农产品生产基地,其葵花的国内市场占有率高达70%。

蒙草搭建农业大数据平台资料

▲五原县农业大数据平台的农作物相关界面

蒙草五原县农业大数据平台可以监测当地农作物价格。通过有效监测当地农作物市场情况,从而分析判断每年农作物产量的走势,并针对性地指导农户每年的种植需求数量。

大数据+三产融合发展

蒙草与五原县政府紧密围绕当地农业生产特色,打造出一个农村产业融合发展示范园。园区总占地面积11664㎡,分为农业产业融合展示馆、生态大数据馆、热带植物馆,集农业新科技成果示范、五原农业大数据展示、生态科普、休闲旅游观光体验等多种功能于一体。

▲示范园中各具特色的三大主题馆

一产:用科技示范作用指导农民的生产实践

测土配方,控肥增效

在示范园的测土配方施肥区,根据五原县十余个典型区域不同的

蒙草搭建农业大数据平台资料

土测值,选择出新作物进行引种试验,掌握其生长习性,筛选出适合各区域种植的特色作物。同时,根据各乡镇现阶段主栽作物的养分需求及各生育期的需肥特性,还可以为作物全生育期提供最适宜的养分配比及生长环境,以挖掘本土作物的最大生产潜力,并达到控肥增效的目的。

▲测土配方科学施肥展示

标准展示农作物病虫害防治技术

示范园内还设有绿色防控技术展示区,主要针对各类农作物病虫害给出对应的解决方案,综合应用杀虫灯、性诱剂、粘虫板等生物、物理防治技术,减少病虫害发生率,达到有机食品标准确保舌尖安全,提高标准化技术普及率。

蒙草搭建农业大数据平台资料

▲农作物病虫害防治技术展示

二产:特色农产品加工企业与产品展示推介

示范园内展示了多种五原县的地标性农产品,每种产品都有多个品种,每一类品种又都有它独特的优势特性,并对应不同的试种区域。五原县的特色农产品加工产业培育出了许多国内外知名品牌,园内对此也进行了集中展示。

蒙草搭建农业大数据平台资料

▲农产品主题展示

三产:示范园也是旅游区、科教园

示范园利用配套的先进农业生产设施和技术,整合转化多元产业丰富资源,创造性地开展农业科普教育。据不完全统计,示范园自2017年9月底开馆运营以来,已吸引多达7万余人前来。除慕名而来的本地散客外,最多的是来自各地的教育科普团、产业考察团与旅行团,或休闲旅游,或参观学习,或进行科普教育。

蒙草搭建农业大数据平台资料

▲示范园吸引了大量游客前来

此外,示范园也被打造为一个展示运营平台,将农民创业与发展县域经济结合起来,为当地农民提供了自主创业的机会和空间,推进了农民创业富民行动。

▲农民创业产品展示

蒙草搭建农业大数据平台资料

示范园引导了农业产业集聚,展示了农业新科技成果,并作为平台辐射带动了五原县农业经济快速发展。通过农业+大数据,使一产有技术创新,二产有供需结构调整,三产有特色化可持续发展,既解决了“种的好、管的好、产的好、卖的好”的问题,也实现了

一、

二、三产业的融合发展。

▲示范园中的大数据主题展示

三大产业融合发展积极推进了农业供给侧结构性改革,为落实乡村振兴战略又添一笔。更重要的是,“授人以鱼不如授人以渔”,农民们在科技的指导下,紧跟惠农政策,补充知识、技能,把握市场良机,积极创新创业,实现了大数据+农业下的生态集约化发展与精准脱贫。

蒙草搭建农业大数据平台资料

四、

随着中央一号文件的发布,乡村振兴再一次成为2018开年新政略。

作为十九大之后的首个一号文件,此次的文件为今后的农村发展定下了主基调,这份“既管全面,又谋长远”的文件,不仅仅是2018年的一号文件,也为乡村振兴建构了总方针和路线图。

要实现乡村振兴,产业兴旺是重点。农村经济发展,不应该孤立地就农业经济谋出路,随着田园综合体等新兴业态的出现,乡村一二三产业融合发展已然破题。中国人民大学农业与农村发展学院教授孔祥智表示,三产融合是促进农业现代化的主要途径,有助于提升农业增收效益,提高农民收入,是未来农村发展的希望所在。

一号文件也指出,乡村振兴必须坚持质量兴农、绿色兴农。促进一二三产业融合,一方面要延长农业产业链,另一方面就是要注重拓展农业多功能性,衍生新产业新业态,创造新的增长动力。

三产融合的五原实验

2017年9月22日--23日,全国农村产业融合发展现场会在内蒙古巴彦淖尔市五原县召开,国务院副总理汪洋出席会议并强调:推进农村一二三产业融合发展,是加快转变农业发展方式、推进农业供给侧结构性改革的重要举措,是促进城乡发展一体化、全面推进现代化建设的重要途径。

会议期间,汪洋充分肯定了农村产业融合发展取得的积极成效,并到五原县农村产业融合发展示范园和河套电子商务产业园,了解融合方式创新和利益联盟机制建立情况。

以此为契机,五原县三产融合进入了快速发展期。其中,由政企共同建设的农业大数据平台,成为三产融合的标杆项目。

2017年年初,五原县政府与内蒙古蒙草生态环境(集团)股份有限公司(以下简称蒙草)签订了PPP项目框架协议,开展农业和

蒙草搭建农业大数据平台资料

生态并重的产业探索,推出大数据的细分产品——“五原农业大数据平台”,将大数据的成果推广应用到农业领域。

早在2014年,蒙草就开始构建生态大数据平台,利用卫星遥感技术,结合科研团队的生态基础调研,形成关于各地区的水、土、气、人、草、畜等基础生态数据,为生态修复及科学发展决策提供数据支持。

五原县是一个农业大县,素有“河套粮仓、葵花之乡”的美誉,五原葵花的国内市场占有率高达70%。据说,全世界每7颗葵花籽中,有一颗就来自于五原。

五原县不仅是河套地区典型的农业大县,畜牧业发展空间同样广阔。这里年产优质牧草100万吨,年产秸秆饲草、茎叶等140万吨,为发展“农区工厂化养羊”提供了得天独厚的资源优势。目前,全县4.8万户农民中的3.8万户都在发展肉羊养殖业,养羊业已成为农民增收的重要支撑。

虽然发展农牧业优势明显,但五原县的生态农业仍有巨大的发展空间难以发挥:因为地处黄河灌区,土壤盐碱化非常严重,是土壤盐碱化重灾区,占可灌面积的40%,且耕地次生盐渍化面积每年仍在递增。

增草兴牧,不仅关系到五原县“县计民生”,也关系着五原县的农业生态环境能否永续发展。

在这样的背景下,蒙草启动了百万亩盐碱化耕地改盐增草(饲)兴牧工程,计划用5年时间,通过科学改良盐碱地,进一步开发利用土地资源,提升农业和农村综合经济发展能力。

实际上,蒙草盐碱地改良研究院2014年便已成立,通过三年多的探索实践,蒙草已经创新总结出一整套盐碱地改良的集成措施。这些措施中,有“暗管排盐、配套排灌”的工程措施;有 “脱硫石膏、土壤改良剂”的化学措施;有“深松深翻,上膜下秸”的物理措施;还有“耐盐碱植物、微生物菌剂”的生物措施。

在五原县的“万亩农业示范园区”,通过治理已经使土壤含盐量由0.6%降到0.25%,可实现种子落地自繁。更为关键的是,蒙草已经采集驯化了耐盐植物35种,成功应用了19种,这些植物全都是五原

蒙草搭建农业大数据平台资料

当地的乡土植物,他们在盐碱化的土地上形成的耐盐碱特性,再被用于修复五原当地的盐碱化土地。

这也是蒙草生态自成立以来一贯秉持的生态修复理念,用乡土植物修复生态。例如五原县的乡土植物千屈菜,它不仅水陆两生,也可以起到改善盐碱地环境的作用。基于这样的发现,蒙草将这些耐盐碱植物的种植分包到户,再通过这些植物来改良土壤。

今年的中央一号文件,仍然高扬绿字诀,力推进乡村绿色发展。文件提出,要统筹山水林田湖草系统治理,把山水林田湖草作为一个生命共同体,进行统一保护、统一修复。要求各级政府必须尊重自然、顺应自然、保护自然,推动乡村自然资本加快增值,实现百姓富、生态美的统一。

中央农办主任、中央财办副主任韩俊解读2018年中央一号文件时说,乡村振兴生态宜居是关键。良好生态环境是农村最大优势和宝贵财富。美丽中国,要靠美丽乡村打底色。

求和“大农业+大数据”

蒙草执行总裁高俊刚认为,农业作为传统的一次产业,无非是特色化和品牌化。从第三产业的末端视角来看待,一次产业和二次产业都要进行产品创新和模式变革,最终来适应第三产业这个市场。

而“大农业+大数据”,是对传统农业种植精准施策、精细管理的基础,以此为入口,实现农业技术服务“一网覆盖”,农业资源数据“一键获取”,农作物生产精细化管理这样一个终极目标。

蒙草生态与五原县政府共同建设的农业产业融合发展示范园,占地总面积11664平米,分为农业产业融合展示馆、生态植物馆、热带植物馆。这不仅仅是一个科普馆,也是地方农产品及特色产品的展示平台和市民休闲空间,更是蒙草创新农业大数据平台的一个实践平台。在这里,蒙草试图将五原地区的农业生态基础数据变成财富,并探索生态农业的三产融合机制。

一方水土养一方人,同时也生长一方植物,在这里,蒙草生态汇集了五原县10个乡镇农民提供的水、土等样品,将县域内的水、土、气、光、热、肥等数据进行了汇集和整理,了解其对应关系,让农民生产有依据,用新技术优选种类、了解自家的土地最适合种

蒙草搭建农业大数据平台资料

什么、了解农作物怎样进行病虫害防治、了解农产品到底有怎样的营养价值,同时还可以实时获取农产品的市场价格信息……

与此同时,蒙草引入了诸多先进的种植技术,如水培,雾培和基质培进行配比实验,直观地向农民展示配土施肥的重要性,指导农民精准控制作物生长,掌握高效栽培技术,提高土地利用率。馆内的检化验室对当地农民免费开放,农民遇到什么样的难题都可以随时来求助专业的指导和数据支持。

这个农业大数据平台,目前已建成为集数据整合、信息查询、可视化展示、物联网监控、遥感监测和宏观决策等为一体的综合应用平台,锁定经纬度上任意一点,即可查询到该地区的农业大数据,包括土壤、气候、原生植物、草地类型、退化情况、适应地情的生态修复技术。锁定任意一种植物,即可查询该植物在全国范围内的分布,指导农牧民的生产作业和新牧区建设。

高俊刚认为,通过“大农业+大数据”,就是解决农民“种的好、管的好、产的好、卖的好”的问题。这样的大数据平台,不仅服务于企业、政府部门和农牧民,也为生态修复提供理论依据、修复方案和生态产业指导。

根据《2017年环保产业上市公司年度报告》,得益于PPP项目的快速发展和流域治理的推进,环境修复企业业绩快速增长,全国PPP综合信息平台项目库显示,截至2017年9月30日,PPP项目入库数量为14,220,投资总额178,000亿元。

蒙草将业绩大幅上升的原因,归结为国家对生态文明建设支持力度加大,公司充分利用 PPP 模式,积极开拓市场,业务呈现持续增长态势,公司与多个地方政府签署的 PPP项目落地,且项目建设运营顺利开展。新时代证券近期的研报也显示,蒙草依托地理优势,承接北方土壤沙化治理项目,预期万亿级的生态修复市场,将使公司未来业绩持续受益。

而从蒙草的五原项目来看,蒙草生态的业务显然不止于草原、荒漠、矿山等生态治理,通过农业生态大数据这样的三产融合创新,蒙草生态已经成为一家拥有核心技术和技术产品的“科技型生态企业”,这必将开拓出前景更为广阔的市场空间。

蒙草搭建农业大数据平台资料

蒙草搭建草原生态大数据(也许可以借鉴)

蒙草生态已经拥有不少如何积累生态财富的心得经验。公司的核心业务涉及五大板块,包括生态修复、节水园林、现代草业、草种业、生态牧场。

事实上,在生态财富被写入政府工作报告的同时,王召明今年恰好带来了一份如何快速积累生态财富的提案,即“建立国家草原生态环境大数据”。王召明认为,“互联网+”时代下,生态建设和农牧业生产离不开大数据,草原也需要生态信息化的发展。因此,应该建立草原大数据平台,以此为抓手将大数据应用到草原生态建设中,让大数据平台成为草原生态和农牧业的“教科书”。

王召明向记者介绍说:“我们一直把生态建设称为生态修复或者生态恢复,就是恢复到以前自然的样子。一个地方的生态、植物、树、草、生物、微生物,各自的比例其实是由几百年、几千年来的生态环境影响和形成的,我们把这个数据都记录下来。在生态建设中,应顺应自然,尊重自然,这个地方长什么树,长什么草,大自然说了算。”

而所谓草原生态大数据,则涉及草原生态修复、生态环境的实时监测、水土气人草畜的动态平衡监测,还包括“草牧业完整产业链的过程数据,如育种、播种、施肥、收获、储运、草牧产品开发等各个环节”,它们可以被大数据平台一一记录在案并随时查询,用来指导草原生态修复,服务于农业和畜牧业。近两年来,王召明已率先在蒙草生态探索“互联网+生态”的造富之路。据了解,种质资源库建设是构建草原生态产业大数据平台的最核心环节,公司目前正在建设完善草原草种质资源库建设,干旱半干旱地区种质资源库建设,资源库建设甚至将从国内延伸至阿拉伯地区。王召明告诉记者,目前该平台已统计了内蒙古地区近 90%的生态数据,新疆、西藏及京津冀地区的数据统计工作正在开展中。“目前仅是一个初级的平台,随着数据的积累,公司将考虑如何让大数据从生态链服务整个产业链。”王召明坦言,这个过程则需要更多的市场参与者加入进来,包括政府部门、科研机构及相关企业等共同合作。

蒙草搭建农业大数据平台资料

在此背景下,王召明在今年两会上建议,国家应出台政策,支持有一定发展基础的企事业单位建立“草原生态环境大数据平台”。广泛收集各地草原的土壤、水资源、气候、植被等方面的基础数据,与地理信息进行空间叠加分析,为生态修复提供大数据模型;利用物联网等新技术,拓宽数据获取渠道,创新数据采集方式并不断更新完善,实时监测草原生态环境的平衡、利于及时保护与利用。同时,建议政府职能部门信息互通、数据共享,建立“农林草畜”完整的生态平衡管理模式。王召明提出,生态大数据平台就是要服务于农牧民的生产实践,因此对提供这样服务的企事业单位政府要有一定的奖补政策。

王召明向记者表示:“大数据平台的价值在于可以指导生产,让生产更加科学化、智能化,并且指导生态建设、农牧业建设,对未来的生态有一个很好的预测。通过每年卫星云图上植被情况的变化、植被颜色的变化,看生态发展的趋势或者未来预防的方法,甚至对未来部分政策的制定,都有很大的影响。”谈及今年蒙草生态的战略规划,王召明坦言,目标是将 5 个核心业务板块做的更扎实,其中大数据平台建设亦是布局的重点。“前端加强大数据平台建设,中间环节继续完善种质资源库等数据搜集,终端则做好品牌及标准建设,最终将公司打造为前端有科学依据、中间有物质保障、末端有执行标准的生态产业服务商。”

第8篇:大数据分析平台的需求报告

提供统一的数据导入工具,数据可视化工具、数据校验工具、数据导出工具和公共的数据查询接口服务管理工具是建立大数据分析平台的方向。

一、项目范围的界定

没有明确项目边界的项目是一个不可控的项目。基于大数据分析平台的需求,需要考虑的问题主要包括下面几个方面:

(1)业务边界:有哪些业务系统的数据需要接入到大数据分析平台。 (2)数据边界:有哪些业务数据需要接入大数据分析平台,具体的包括哪些表,表结构如何,表间关系如何(区别于传统模式)。 (3)功能边界:提供哪些功能,不提供哪些功能,必须明确界定,该部分详见需求分析;

二、关键业务流程分析

业务流程主要考虑包括系统间数据交互的流程、传输模式和针对大数据平台本身涉及相关数据处理的流程两大部分。系统间的数据交互流程和模式,决定了大数据平台的架构和设计,因此必须进行专项分析。大数据平台本身需要考虑的问题包括以下几个方面: 2.1 历史数据导入流程 2.2 增量数据导入流程 2.3 数据完整性校验流程 2.4 数据批量导出流程 2.5 数据批量查询流程

三、功能性需求分析 3.1.历史数据导入 3.1.1 XX系统数据 3.1.1.1 数据清单… 3 3.1.1.2 关联规则… 3 3.1.1.3 界面… 3 3.1.1.4 输入输出… 3 3.1.1.5 处理逻辑… 3 3.1.1.6 异常处理… 3 3.2 增量数据导入 3.3 数据校验 3.4 数据导出 3.5 数据查询

四、非功能性需求 4.1 性能 4.2 安全性 4.3 可用性 …

五、接口需求 5.1 数据查询接口 5.2 批量任务管理接口 5.3 数据导出接口

六、集群需求

大数据平台的技术特点,决定项目的实施必须考虑单独的开发环境和生产环境,否则在后续的项目实施过程中,必将面临测试不充分和性能无法测试的窘境,因此前期需求分析阶段,必须根据数据规模和性能需求,构建单独的开发环境和生产环境。 6.1开发环境 6.1.1 查询服务器 6.1.2 命名服务器 6.1.3 数据服务器 6.2 生产环境 6.2.1 查询服务器 6.2.2 命名服务器 6.2.3 数据服务器

七、其他 …

第9篇:渤海粮仓科技示范工程大数据平台

情系“渤海粮仓”

作者:农业大数据研究中心 宋长青 来源:《山东农大报》 发布时间:2014-06-06 00:00

5月23日上午11时20分,中共中央政治局委员、国务院副总理汪洋,在山东省委副书记、省长郭树清陪同下来到滨州市无棣县万亩盐碱地改造试验示范基地,考察“渤海粮仓”科技示范工程实施情况。作为“渤海粮仓增产增效的大数据支撑研究”

项目和“渤海粮仓科技示范工程大数据平台”建设的参与者和实施者,我亲眼目睹了这次考察,留下了难忘的记忆。

汪副总理一下车,首先与等候在现场的科技人员一一握手,然后走到展板前认真听取了中国科学院关于“渤海粮仓”

项目实施情况的汇报,查看了摆放在现场的小麦玉米良种、生物菌肥等实物,不时与科技人员进行交流。当来到山东农业大学研发的 “渤海粮仓科技示范工程大数据平台”汇报现场时,我们现场的人员异常激动,也非常冷静。我们知道,这次汇报的大数据平台研发过程中,山东省科技厅和学校有关领导、课题组研发人员付出了多大的辛劳。我校科技人员将平台的数据采集、挖掘分析、监测预警、决策服务等四个模块,一一向汪副总理做了汇报演示,并请他通过摄像头远程查看德州、东营示范区的小麦长势。汪副总理了解了平台功能和已发挥的作用,并通过平台看到三地市小麦长势喜人、丰收在望,露出了满意的笑容。

记得今年年初,省科技厅把我和柳平增博士、高明秀博士等一行召集到济南,研讨如何进一步发挥物联网和大数据技术优势,更好地推进“渤海粮仓”山东区建设;同时下达并启动“渤海粮仓科技示范工程大数据平台”建设研究。回来后,给学校和科技处领导作了汇报,大家就投入到紧张的工作中。

记得今年4月底,省科技厅通知,5月份上级领导可能来山东考察,要求山东农业大学积极做好准备,抓紧完善物联网设备和平台软件。5月10日左右,得到确切消息,上级领导要到滨州市无棣县万亩盐碱地改造试验示范基地,考察“渤海粮仓”科技示范工程实施情况。山东将以 “渤海粮仓科技示范工程大数据平台”建设为切入点,汇报“渤海粮仓”山东项目区27个试验示范区16.3万亩小麦生产情况,而汇报任务则由山东农大来完成。

温孚江校长非常重视,要求学校科技处、农业大数据研究中心会同课题组及相关专家务必做好准备。5月12日,科技厅会同中国科学院、滨州市政府、山东农业大学等单位在无棣核心区召开现场调度会,观看“渤海粮仓科技示范工程大数据平台”建设的汇报演示,肯定了前期平台的研发成绩,提出了汇报演示的要求:直观精简、突出重点、呈现亮点,在尽量短的时间内,尽可能全面呈现平台的功能和作用。回到学校,在科技处米庆华处长的调度下,由信息科学与工程学院、农学院、资源与环境学院、水利土木工程学院、网络信息技术中心、农业大数据研究中心等单位的科研人员组成工作小组,明确了“汇报演示平台”与原研发平台的区别与联系,合理分工,进行攻关。研发小组多次与省厅领导沟通,进一步明确了演示平台完善的针对性、有效性、及时性和科学性原则,突出展示平台针对环渤海低平原区特点,采用物联网和大数据技术协同体系,实时采集数据,科学挖掘分析,进行监测预警并提供决策服务的功能和已发挥的作用。总体思路明确之后,以柳平增团队为主,张承明团队、鞠达青团队为辅,按照各自的分工,在原有研发平台的基础上,不分昼夜连续作战。农学院贺明荣教授、陈国庆博士,资环学院赵庚星教授、高明秀博士,对采集的数据及分析结果进行指导、校正,提供多年积累的历史数据,并负责汇报材料的撰写工作。期间,省科技厅领导来到学校研发现场坐阵指导。在多学科协同作战下,演示平台反复修改,汇报材料几易其稿。5月21日凌晨1点左右,演示平台终告完成。22日一大早,大家就赶赴无棣核心区进行联调联试。

由于研发平台的数据传输模式为无线传输,气象、土壤、地下水等各类数据毫无问题,但要保证分布在德州、滨州、东营的视频远程传输及现场演示效果,就需要借助互联网有线传输。工程技术人员张焕远、柳平增、车路、高明秀、周虎及研究生巩腾飞、张自清等提前研讨解决方案、协调当地网络运营商和施工人员,在三地市科技局和相关单位的鼎力帮助下,利用短短7天时间,完成相关设备的安装、调试,保障了汇报演示成功。

回想这些天的战斗历程,得到了许多有益的启示,算是对今后工作的借鉴。

理清思路是前提。在平台研发与 “演示平台”完善过程中,课题组成员与省科技厅主管领导之间,课题组成员之间进行了多次沟通交流,明确了工作基本思路。这对最后的成功起到了至关重要的作用。古人云:“磨刀不误砍柴工”,否则就会南辕北辙。“凡事预则立,不预则废”,无论是科学研究还是行政事务,预先搞好顶层设计是前提。只有事先充分交流,充分沟通,充分论证,理清思路,才能明确职责,明确分工,有条不紊地开展工作,不至于头痛医头,脚痛医脚。

协同攻关是关键。在演示平台完善过程中,学校有四个学院、两个部门参与其中,信息学院两个团队负责平台研发,农学院、资环学院负责数据分析、生产指导意见拟定、平台文字修正及汇报材料撰写,水土学院艺术设计系负责网站美工,网络信息技术中心负责平台的安全、链接、迁移等,科技处、农业大数据研究中心负责组织、协调、分工等。通过这次工作,充分感悟到协同攻关力量无穷。当今社会的发展,靠“单枪匹马”不可能干成大事,协同创新才是工作和研究的必由之路。

加强领导是保障。这次工作牵动着许多领导的心,温孚江校长多次调看平台研发情况,并提出修改意见。科技厅郭久成副厅长提出汇报平台建设的框架和思路,农村科技处王守宝、刘赤兵两位处长来校一同参与研发工作。校办、科技处、财务处、资产处、网络信息技术中心、四个学院领导都给予了大力支持。领导的支持与关心极大地提升了研发人员的信心,激发了大家的斗志。大家深深感到,能为“渤海粮仓”科技示范工程建设出一份力,再苦再累也心甘。

虽然数据平台研发工作已经告一段落,但“渤海粮仓”科技示范工程建设和我们的研究任务依然繁重。如何利用农业大数据技术和物联网技术为工程建设提供更多更好的服务,为农民增收、领导决策和科技工作者服务,仍然是摆在我们面前的重大课题。“我们的饭碗主要装中国粮”的任务十分艰巨,农业高校有义务、有责任勇于担当。让我们更加努力工作,为“渤海粮仓”建设,为保障国家粮食安全作出更大贡献。

· 执行抗灾救灾任务对战斗精神培育的启示 · 财政金融学院举行“挑战杯”创业设计大赛答辩会 · CGAFA4(高级财务)课程全球考我校邓淑文获得第一名 · 寒梅飘香时“百花”竞芬芳———2009年研究生冬季活动月扫描 · 天津市委常委苟利军受聘我校教授应邀作“加快滨海新区发展”专题报告 · (图)地震天不塌 大灾有大爱我院以“共产党员特殊党费”形式再向灾区捐款 · 省委副书记、省长罗保铭慰问郭力华

· 我校调整2008年在四川省招生计划“四川延考”招生计划专业全覆盖 · “一院一品一景”:打造特色校园文化品牌■黄二宁 · 亿万学生“阳光体育与奥运同行冬季长跑”启动

情系“渤海粮仓”

作者:农业大数据研究中心 宋长青 来源:《山东农大报》 发布时间:2014-06-06 00:00

5月23日上午11时20分,中共中央政治局委员、国务院副总理汪洋,在山东省委副书记、省长郭树清陪同下来到滨州市无棣县万亩盐碱地改造试验示范基地,考察“渤海粮仓”科技示范工程实施情况。作为“渤海粮仓增产增效的大数据支撑研究”

项目和“渤海粮仓科技示范工程大数据平台”建设的参与者和实施者,我亲眼目睹了这次考察,留下了难忘的记忆。

汪副总理一下车,首先与等候在现场的科技人员一一握手,然后走到展板前认真听取了中国科学院关于“渤海粮仓”

项目实施情况的汇报,查看了摆放在现场的小麦玉米良种、生物菌肥等实物,不时与科技人员进行交流。当来到山东农业大学研发的 “渤海粮仓科技示范工程大数据平台”汇报现场时,我们现场的人员异常激动,也非常冷静。我们知道,这次汇报的大数据平台研发过程中,山东省科技厅和学校有关领导、课题组研发人员付出了多大的辛劳。我校科技人员将平台的数据采集、挖掘分析、监测预警、决策服务等四个模块,一一向汪副总理做了汇报演示,并请他通过摄像头远程查看德州、东营示范区的小麦长势。汪副总理了解了平台功能和已发挥的作用,并通过平台看到三地市小麦长势喜人、丰收在望,露出了满意的笑容。

记得今年年初,省科技厅把我和柳平增博士、高明秀博士等一行召集到济南,研讨如何进一步发挥物联网和大数据技术优势,更好地推进“渤海粮仓”山东区建设;同时下达并启动“渤海粮仓科技示范工程大数据平台”建设研究。回来后,给学校和科技处领导作了汇报,大家就投入到紧张的工作中。

记得今年4月底,省科技厅通知,5月份上级领导可能来山东考察,要求山东农业大学积极做好准备,抓紧完善物联网设备和平台软件。5月10日左右,得到确切消息,上级领导要到滨州市无棣县万亩盐碱地改造试验示范基地,考察“渤海粮仓”科技示范工程实施情况。山东将以 “渤海粮仓科技示范工程大数据平台”建设为切入点,汇报“渤海粮仓”山东项目区27个试验示范区16.3万亩小麦生产情况,而汇报任务则由山东农大来完成。

温孚江校长非常重视,要求学校科技处、农业大数据研究中心会同课题组及相关专家务必做好准备。5月12日,科技厅会同中国科学院、滨州市政府、山东农业大学等单位在无棣核心区召开现场调度会,观看“渤海粮仓科技示范工程大数据平台”建设的汇报演示,肯定了前期平台的研发成绩,提出了汇报演示的要求:直观精简、突出重点、呈现亮点,在尽量短的时间内,尽可能全面呈现平台的功能和作用。回到学校,在科技处米庆华处长的调度下,由信息科学与工程学院、农学院、资源与环境学院、水利土木工程学院、网络信息技术中心、农业大数据研究中心等单位的科研人员组成工作小组,明确了“汇报演示平台”与原研发平台的区别与联系,合理分工,进行攻关。研发小组多次与省厅领导沟通,进一步明确了演示平台完善的针对性、有效性、及时性和科学性原则,突出展示平台针对环渤海低平原区特点,采用物联网和大数据技术协同体系,实时采集数据,科学挖掘分析,进行监测预警并提供决策服务的功能和已发挥的作用。总体思路明确之后,以柳平增团队为主,张承明团队、鞠达青团队为辅,按照各自的分工,在原有研发平台的基础上,不分昼夜连续作战。农学院贺明荣教授、陈国庆博士,资环学院赵庚星教授、高明秀博士,对采集的数据及分析结果进行指导、校正,提供多年积累的历史数据,并负责汇报材料的撰写工作。期间,省科技厅领导来到学校研发现场坐阵指导。在多学科协同作战下,演示平台反复修改,汇报材料几易其稿。5月21日凌晨1点左右,演示平台终告完成。22日一大早,大家就赶赴无棣核心区进行联调联试。

由于研发平台的数据传输模式为无线传输,气象、土壤、地下水等各类数据毫无问题,但要保证分布在德州、滨州、东营的视频远程传输及现场演示效果,就需要借助互联网有线传输。工程技术人员张焕远、柳平增、车路、高明秀、周虎及研究生巩腾飞、张自清等提前研讨解决方案、协调当地网络运营商和施工人员,在三地市科技局和相关单位的鼎力帮助下,利用短短7天时间,完成相关设备的安装、调试,保障了汇报演示成功。

回想这些天的战斗历程,得到了许多有益的启示,算是对今后工作的借鉴。

理清思路是前提。在平台研发与 “演示平台”完善过程中,课题组成员与省科技厅主管领导之间,课题组成员之间进行了多次沟通交流,明确了工作基本思路。这对最后的成功起到了至关重要的作用。古人云:“磨刀不误砍柴工”,否则就会南辕北辙。“凡事预则立,不预则废”,无论是科学研究还是行政事务,预先搞好顶层设计是前提。只有事先充分交流,充分沟通,充分论证,理清思路,才能明确职责,明确分工,有条不紊地开展工作,不至于头痛医头,脚痛医脚。

协同攻关是关键。在演示平台完善过程中,学校有四个学院、两个部门参与其中,信息学院两个团队负责平台研发,农学院、资环学院负责数据分析、生产指导意见拟定、平台文字修正及汇报材料撰写,水土学院艺术设计系负责网站美工,网络信息技术中心负责平台的安全、链接、迁移等,科技处、农业大数据研究中心负责组织、协调、分工等。通过这次工作,充分感悟到协同攻关力量无穷。当今社会的发展,靠“单枪匹马”不可能干成大事,协同创新才是工作和研究的必由之路。

加强领导是保障。这次工作牵动着许多领导的心,温孚江校长多次调看平台研发情况,并提出修改意见。科技厅郭久成副厅长提出汇报平台建设的框架和思路,农村科技处王守宝、刘赤兵两位处长来校一同参与研发工作。校办、科技处、财务处、资产处、网络信息技术中心、四个学院领导都给予了大力支持。领导的支持与关心极大地提升了研发人员的信心,激发了大家的斗志。大家深深感到,能为“渤海粮仓”科技示范工程建设出一份力,再苦再累也心甘。

虽然数据平台研发工作已经告一段落,但“渤海粮仓”科技示范工程建设和我们的研究任务依然繁重。如何利用农业大数据技术和物联网技术为工程建设提供更多更好的服务,为农民增收、领导决策和科技工作者服务,仍然是摆在我们面前的重大课题。“我们的饭碗主要装中国粮”的任务十分艰巨,农业高校有义务、有责任勇于担当。让我们更加努力工作,为“渤海粮仓”建设,为保障国家粮食安全作出更大贡献。

· 执行抗灾救灾任务对战斗精神培育的启示 · 财政金融学院举行“挑战杯”创业设计大赛答辩会 · CGAFA4(高级财务)课程全球考我校邓淑文获得第一名 · 寒梅飘香时“百花”竞芬芳———2009年研究生冬季活动月扫描 · 天津市委常委苟利军受聘我校教授应邀作“加快滨海新区发展”专题报告 · (图)地震天不塌 大灾有大爱我院以“共产党员特殊党费”形式再向灾区捐款 · 省委副书记、省长罗保铭慰问郭力华

· 我校调整2008年在四川省招生计划“四川延考”招生计划专业全覆盖 · “一院一品一景”:打造特色校园文化品牌■黄二宁 · 亿万学生“阳光体育与奥运同行冬季长跑”启动

上一篇:优质护理服务工作措施下一篇:半命题作文如何补题