基于ElasticSearch全文检索的农业地理信息大数据平台设计与实现

第44卷第6期
南昌大学办公自动化系统测绘与空间地理信息Vol.44,No.6
Jun.,2021 2021年6月GEOMATICS&SPATIAL INFORMATION TECHNOLOGY
基于ElasticSearch全文检索的农业地理信息
数据平台设计与实现
刘吉',孙俊英',陈忠超',蔡忠亮2
(1.贵州省第二测绘院,贵州贵阳550004;2.武汉大学资源与环境科学学院,湖北武汉430079)
摘要:针对目前农业大数据平台地理要素纳入不足、研究尺度受限、搜索功能相对薄弱等问题,本文充分发挥了测绘部门自然地理要素数据精细、农业遥感监测数据精准、野外全景采样数据完整的优势,基于ElasticSearch 搜索引擎,利用网络技术、电子地图技术与空间数据库技术设计并实现了全文检索的农业地理信息大数据平台,多角度、多维度、多层次精确地展示数据信息内容,为农业大数据的规律寻、价值挖掘与有效利用提供了有力支撑。
关键词:农业大数据;地理信息平台;ElasticSearch;全文检索
中图分类号:P208文献标识码:A文章编号:1672-5867(2021)06-0162-03
Design and Implementation of Agricultural Geographic Information Big Data Platform Based on ElasticSearch Full-text Search
LIU Ji1,SUN Junying1,CHEN Zhongchao1,CAI Zhongliang2
(1.The Second Surveying and Mapping Institute of Guizhou Province,Guiyang550004,China;
2.School of Resource and Environmental Science,Wuhan University,Wuhan430079,China)
Abstract:The current agricultural big data platforms have problems such as insufficiencies in integration of geographic elements,limi­tations in research scale and weaknesses in search function.Given full play to the advantages of fine data of natural geographical ele­ments in the surveying and mapping department,accurate data of agricultural remote sensing monitoring and exquisite data of panoram­ic field sampling,this paper designs and implements the full-text retrieval agricultural geographic information big data platform based on ElasticSearch search engine using network,electronic map and spatial database technologies.The platform exquisitely displays data and information content from multiple angles,multiple dimensions and multiple levels,providing strong support for the law searching, value mining and effective utilization of agricultural big data.
Key words:agricultural big data;geographic information platform;elastic search;full text search
0引言
随着农业现代信息化进程的不断发展,农业数据正以前所未有的速度不断增长并形成了海量数据。挖掘农业大数据中的价值数据与隐藏信息,准确掌握数据之间的内在联系和规律,是发展现代农业的重要推动力[1]o 但由于农业大数据存在结构复杂、多源异构、难以综合分析等特性,有效利用需以相应的大数据平台作为支撑[2]o 目前农业大数据平台聚焦的数据多为统计数据,数据主要使用逐级统计、层层上报采集体系[3];此外,采用 的数据处理与展示技术对空间大数据的应用有限,这导致研发的平台存在一定缺陷。具体表现为:1)地理要素纳入不足。侧重结合社会经济与市场供需等统计数据进行展示分析,自然地理要素数据纳入不足,对作物的生长环境分析不深入。2)空间尺度研究受限。农业数据多为区域汇总数据,代表所属区域总体情况,缺乏数据具体空间位置信息,研究尺度受限于行政区划级别,无法拓展到具体种植地块。3)搜索功能相对薄弱。虽然提供高级搜索功能,拥有多条件查询模式,但在检索尺度与响应速度上却相对薄弱,难以实现毫秒级地类图斑的响应。
针对以上问题,本文从数据源头与技术选型着手,基于国家自然资源部门自然地理要素数据完整、丰富,农业
收稿日期:2019-12-23
作者简介:刘吉(1981-),女,贵州贵阳人,研究员,硕士,2014年毕业于香港中文大学地球科学专业,主要从事3S技术在国土资源中的应用工作。项链的主人公
第6期
刘 吉等:基于ElasticSearch 全文检索的农业地理信息大数据平台设计与实现163
遥感监测数据精准、翔实,野外全景采样数据精美、直观 的特点,采用网络技术、电子地图技术⑷、空间数据库技 术[5]与ElasticSearch 搜索引擎技术[6]将地理要素数据、遥
感监测数据与全景采样数据集于一体,设计并实现了农 业地理信息大数据平台一一贵州省农业产业结构调整遥 感监测一张图系统。全面解决了农业大数据平台地理要
素纳入不足、空间尺度研究受限与搜索功能相对薄弱等 缺陷,为农业大数据的有效利用提供了一个综合的地理 信息展示平台,为用户的深入分析提供了多角度、多维 度、多层次的农业大数据在线统计查询系统。
1系统设计
1.1总体设计
农业地理信息大数据平台以自然资源部门的自然地
理要素数据、农业遥感监测数据与野外全景采样数据作 为源数据,以“一图、多尺度、毫秒响应”为建设目标。“ 一 图”即以一组可随意组合、自由切换的地图作为系统底 图,其数据充分整合自然地理要素数据;“多尺度”指宏观 尺度以分级设图与专题统计图总览全局信息,中观尺 度以热力分布图与热点格网图展示空间分布,微观尺度
以监测景观图与全景展示图呈现种植现状;“毫秒响应” 是基于ElasticSearch 全文检索引擎,在海量监测数据与全 景数据中实现地块级查询信息的快速响应与显示。
系统总体设计采用3层体系结构,如图1所示。数据 层采用ElasticSearch 全文检索引擎、Oracle 大型关系型数 据库⑺与OSS 对象存储实现海量空间数据、属性数据与 文本数据的存储与实时统计查询。业务层以ArcSDE 作 为数据引擎⑻、ArcGIS  Server 作为图层管理器[9],结合 Spring  Boot 与Shiro 框架[10],实现系统的核心功能与安全 管控。表现层基于 Vue.js [11] .ArcGIS  API  与 ECharts  技 术,实现大数据多尺度、多视角、多专题的适宜表达与精 美呈现。
Vue.js^ >
(^ArcGIS  API^)
E C harts^
—分割给一卜H  /shiro\ H
1业务层服务器端
图1系统总体设计
Fig ・1 Overall  design  of  the  system
-------j(------分割线{------------- ElasticSearch 集Orach 数据库OSS 对象存储数据戶
i 空间数据
属性数据文本数据
1.2功能设计
系统主要由用户模块、地图模块、查询模块、统计模
块、全景管理模块与信息展示模块六大模块构成,包含权
限管理、空间聚类、模糊查询、专题统计、全景管理与多媒
体展示等20个具体功能,如图2所示。实现了数据的实 时聚类分析、汇总统计分析、在线专题制图、模糊搜索查 询与空间信息展示。
|农业地理信息大数据平台|
块 模 询 荀
一 模 图「模 户 用-1
糊查询 一
H
范围查询丄 —一条件查询丄
ZL
空间聚类 一
分级设图
丄 H
分区统计图丄 H 热力图丄
V-图层加载丄 匸地图切换」
□L
权限管理丄 H
用户登录 一
匸用户注册「
Jr
属性信息展
示-L 全景热点=全景管理 —
BI
一-F -
媒体展示
-
L 全
景展示
图2系统功能模块
Fig.2 Function  module  of  the  system
1.3数据库建设
由于农业地理信息大数据平台所涉及的数据含有空 间数据、属性数据与文本数据,在设计中采用混合型存储 模式[12]o 照片与视频等多媒体数据存储于OSS 存储对象 中,社会经济与用户信息等属性数据存储于Oracle 数据 库中,监测数据与采样数据等海量空间数据则存储于 ElasticSearch 集中,然后建立三者之间的链接关系,实 现数据的合理分类管理与高效统计查询。
2关键技术
2.1高标准底图表达技术
基于ArcSDE 的多SDE 服务实行影像与地理要素等
多源空间数据的共享管理,通过ArcGIS  Server 将大规模 数据发布专题服务,利用ArcGIS  API  for  JavaScript 访问空 间数据库与图层服务[13],在浏览器端实现可实时绘制、自 由组合与随意切换的高标准底图表达。
龙军金属2.2多尺度次级联动技术
借鉴分级瓦片地图服务中随着比例尺逐渐增大,地 图内容更加精细、地图信息更为丰富的特点[14],利用大数 据空间聚类技术,结合Vue.js 与ECharts 前端框架,基于 行政区划与GeoHash 点实现宏观、中观、微观等多尺度显 示信息的次级联动与无缝连接[15]。
2.3大数据搜索引擎技术
针对海量地块级农业空间数据,充分利用
启东市人民医院
ElasticSearch 框架实现分布式实时文件存储,利用倒排索
引优势与前沿分词技术,在系统中构建毫秒级全局查询、
范围查询、条件查询与语义模糊查询功能,基于用户需 求,研发大数据实时统计搜索引擎。
奇魅植物酶3系统实现
系统以“一图、多尺度、毫秒响应”为建设目标,实现 了贵州省自然地理要素数据、农业遥感监测数据与野外 全景采样数据的有机结合显示与多维统计查询。在底图 显示上,系统除了拥有在线矢量与在线影像电子底图外,
还提供DEM 、坡向、坡度与土地整治等多维地理要素底 图,直观展示了作物种植环境,有力支撑了农业大数据中 作物的生长环境分析
氧化铬
164测绘与空间地理信息2021年
在数据表达上,随着用户画面比例尺逐渐放大,系统主体内容将依次呈现分级设图与专题统计图、热力分布图与热点格网图、监测景观图与全景展示图。随着主体内容变化,系统所承载与表达的信息量也将从宏观层面聚焦至微观个体,实现农业大数据表达的多维性与多样性。
在检索性能上,系统针对海量农业数据,研发了基于属性信息、空间位置与种植规模的多条件组合查询模式。同时,充分利用ElasticSearch全文检索引擎的倒排索引优势,实现了农业大数据在地块尺度上的毫秒响应。
4结束语
本研究充分发挥自然资源部门自然地理要素数据精细丰富的资源优势、农业遥感监测数据精准翔实的技术优势、野外全景采样数据直观的专业优势,以ElasticSearch 框架作为数据驱动引擎,结合网络技术、电子地图技术与空间数据库技术,围绕“一图、多尺度、毫秒响应”的建设目标,设计并实现了贵州省农业产业结构调整遥感监测一张图系统。该系统是一个集数据集成展示、统计分析查询、数据共享服务于一体的农业地理信息大数据展示平台,有效整合了结构复杂、多源异构、难以综合分析的农业大数据,从多角度、多维度、多层次展示数据信息内容,为农业大数据的规律寻、价值挖掘与有效利用提供了有力支撑,是地理信息系统与大数据技术在特农业上的综合应用,具有很强的现实意义和推广使用价值。
参考文献:
[1]韩家琪,毛克彪,夏浪,等.基于空间数据仓库的农业大
数据研究[J].中国农业科技导报,2016,18(5):17-24. [2]徐勇.农业大数据平台的实现与数据分析算法[D].哈
尔滨:东北农业大学,2017.
[3]刘霞.浅谈在农业统计数据采集中加强信息化引导
[J].河北农业,2010(9):37-38.
[4]江南,白小双,曹亚妮,等.基础电子地图多尺度显示(上接第161页)
4结束语
1)本文主要阐述了全站仪和GNSS技术的应用,利用两种仪器对实验区域进行了等级控制,获取的控制点坐标相差很小,精度相同,可以用作建筑物周围的施工控制点。全站仪和GNSS-RTK测设点位的坐标,差值较小、精度较高,可以用于轴线和建筑物主要节点的测设。
2)通过实验结果可以得出,可以采用GNSS-RTK和全站仪联合使用对圆柱形建筑物以及不规则的建筑物进行点位测设,都在允许的精度范围以内,并且全站仪和GNSS-RTK能够相互弥补自身测设定位的缺陷。两种方法测设的点位,相对距离都在10mm范围之内,符合本工程后续设备安装的技术要求。
参考文献:
[1]边延凯,高伟,段茜茜,等.GPS RTK在异形建筑物放样
模型的建立与应用[J].武汉大学学报(信息科学版),
2010,35(7):768-772.
[5]傅仲良,吴建华.多比例尺空间数据库更新技术研究
[J].武汉大学学报(信息科学版),2007,32(12):
1115-111&
[6]卿建飞,杨雅萍,李德平,等.基于分布式Elastic Search
的海量遥感影像检索方法研究[J].测绘与空间地理信
息,2019,42(6):64-66.
[7]吴政,李成名,武鹏达,等.Oracle数据库矢栅数据一
体化存储与管理[J].测绘学报,2017,46(5):
107-116.
[8]郭朝辉,齐清文,邹秀萍,等.基于ArcSDE的云南沿
边境地带生态环境数据库建设研究[J].测绘通报,
2007(3):53-56.
[9]卢廷玉,孙大龙.在ArcGIS Server中构建地理处理服
务及客户端调用[J].测绘与空间地理信息,2012,35
(5):89-91.
[10]张志翱,夏宇.基于高德地图的学区规划管理系统设
计与实现[J].测绘与空间地理信息,2019,42(6):
81-85.
[11]麦冬,陈涛,梁宗湾.轻量级响应式框架Vue.js应用分
析[J].信息与电脑(理论版),2017(7):58-59. [12]任晓茹,任福,陈慧萍,等.湖北省政区历史沿革展示
系统的设计与实现[J].测绘地理信息,2017,42(3):
88-93.
[13]张惜杰,李平,张志强,等.基于ECharts与ArcGIS
JavaScript API的Web专题制图研究[J].测绘,2017,
40(6):270-273.
[14]黄冠,蔡忠亮,吴俊法,等.集成地图、全景与GIS数
据的Web全景旅游电子地图系统设计与实现[J].地
理空间信息,2018,16(12):10,64.
[15]金安,程承旗,宋树华,等.基于Geohash的面数据区
域查询[J].地理与地理信息科学,2013,29(5):
31-35.
[编辑:张曦]
中的应用[J].测绘科学,2018,43(6):156-160.
[2]李巍,赵亮,张占伟.常用全站仪放样方法及精度分析
[J].测绘通报,2012(5):29-32.
[3]徐绍铨,张华海,杨志强,等.GPS测量原理及应用[M].
第4版.武汉:武汉大学出版社,2017.
[4]杨明光,张想平.多RTK技术在城市道路工程测量
的应用实践[J].测绘通报,2013(1):65-67.
[5]梁铭.GNS-RTK技术在地籍测绘中的应用[J].全球定
位系统,2014,39(4):29-32.
[6]李付伟,王晓智.GNSS在桥梁施工中的应用[J].测绘与
空间地理信息,2013,36(3):100-103.
[7]董治方.GNSS RTK技术在农村集体土地所有权调查中
的运用与精度分析[J].测绘与空间地理信息,2014,37
(5):137-139.
[8]袁兴明.GNSS技术在水库大坝变形监测分析中应用
[J].福建建筑,2019(4):115-118.
[编辑:刘莉鑫]

本文发布于:2024-09-20 19:39:23,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/619851.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:数据   技术   农业   空间
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议