一种基于springbatch批量读取定长文件的方法与流程



1.本发明涉及数据处理技术领域,特别涉及一种基于springbatch批量读取定长文件的方法。


背景技术:



2.目前使用springbatch进行文件批处理时,主要步骤为itemreader(从数据源读取数据)、itemprocessor(对读取的数据进行处理)、itemwriter(存储处理后的数据)。通常是逐条读取并按分隔符或者字节数进行文件内容的解析,但是在金融场景下,文件内容一般是字节定长,有英文、数字和汉字等各类字符,不同的字符类型有时单个字符的字节数不同。
3.现有技术中,批量读取文件是通过flatfileitemreader类进行文件读取,该类通过设置分隔符或者固定字符长度读取行内容,但无法读取和处理固定字节长度的内容。
4.因此有必要提供一种基于springbatch批量读取定长文件的方法,以读取并处理固定字节长度的内容。


技术实现要素:



5.本发明的目的在于提供一种基于springbatch批量读取定长文件的方法,以读取并处理固定字节长度的内容。
6.为了解决现有技术中存在的问题,本发明提供了一种基于springbatch批量读取定长文件的方法,包括以下步骤:
7.按行读取待解析文件,得到字符串;
8.创建多个映射类,各映射类包括定长文件及其不同属性
9.在映射类内添加注解,所述注解包括所述属性及各所述属性的长度;
10.根据得到的字符串到对应的映射类,获取对应定长文件及其属性;
11.根据对应的映射类内注解获取各属性的长度;
12.根据各属性的长度将字符串划分为多个不同长度的字节,并得到对应的数据。
13.可选的,在所述基于springbatch批量读取定长文件的方法中,按行读取待解析文件的实现方式为:在读取待解析文件的接口设置filedsetmapper属性。
14.可选的,在所述基于springbatch批量读取定长文件的方法中,根据不同的定长文件创建不同的映射类。
15.可选的,在所述基于springbatch批量读取定长文件的方法中,所述注解还包括属性的序号和/或属性的类型。
16.可选的,在所述基于springbatch批量读取定长文件的方法中,还包括以下步骤:将得到的数据进行写操作。
17.可选的,在所述基于springbatch批量读取定长文件的方法中,写操作时,根据预设格式进行右补空格或左补0。
18.可选的,在所述基于springbatch批量读取定长文件的方法中,对完成写操作后的数据做持久化处理。
19.可选的,在所述基于springbatch批量读取定长文件的方法中,所述持久化处理包括保存至数据库。
20.在本发明所提供的基于springbatch批量读取定长文件的方法中,通过按行读取待解析文件,得到字符串,并通过获取映射类注解中的属性长度将字符串划分,从而可以读取并处理固定字节长度的内容,因此可以区分并处理英文、数字和汉字等各类字符。
附图说明
21.图1为本发明实施例提供的批量读取定长文件的方法的流程图。
具体实施方式
22.下面将结合示意图对本发明的具体实施方式进行更详细的描述。根据下列描述,本发明的优点和特征将更清楚。需说明的是,附图均采用非常简化的形式且均使用非精准的比例,仅用以方便、明晰地辅助说明本发明实施例的目的。
23.在下文中,如果本文所述的方法包括一系列步骤,本文所呈现的这些步骤的顺序并非必须是可执行这些步骤的唯一顺序,且一些所述的步骤可被省略和/或一些本文未描述的其他步骤可被添加到该方法。
24.现有技术中,批量读取文件是通过flatfileitemreader类进行文件读取,该类通过设置分隔符或者固定字符长度读取行内容,但无法读取和处理固定字节长度的内容。
25.为了解决现有技术中存在的问题,本发明提供了一种基于springbatch批量读取定长文件的方法,如图1所示,包括以下步骤:
26.按行读取待解析文件,得到字符串;
27.创建多个映射类,各映射类包括定长文件及其不同属性;
28.在映射类内添加注解,所述注解包括所述属性及各所述属性的长度;
29.根据得到的字符串到对应的映射类,获取对应定长文件及其属性;
30.根据对应的映射类内注解获取各属性的长度;
31.根据各属性的长度将字符串划分为多个不同长度的字节,并得到对应的数据。
32.进一步的,按行读取待解析文件的实现方式为:创建实现filedsetmapper接口的类,该类用于配置flatfileitemreader中linemapper的filedsetmapper属性,可实现对于文件整行的读取。读取时,设置itemreader的文件路径属性,设置编码格式。
33.可选的,在所述基于springbatch批量读取定长文件的方法中,本发明中根据不同的定长文件创建不同的映射类,所述映射类包括定长文件及其不同属性。并且,所述注解包括所述属性及各所述属性的长度、序号和/或类型等。例如账户同步文件如果定长是30位,其中第1至10位是账号,第11位至30位是卡号,那么注解中的属性为账号时,其长度为10位,属性为卡号时,其长度为20位。
34.通常的,所述方法还包括以下步骤:将得到的数据进行写操作。写操作之前,得到的数据可能已经根据其他格式进行处理,例如数据为00010,则可能处理为10,那么在写操作时,根据预设格式进行右补空格或左补0,若预设格式是6位,则需要左补4个0,写为
000010。
35.优选的,对完成写操作后的数据做持久化处理。所述持久化处理可以为保存至数据库。
36.综上,在本发明所提供的基于springbatch批量读取定长文件的方法中,通过按行读取待解析文件,得到字符串,并通过获取映射类注解中的属性长度将字符串划分,从而可以读取并处理固定字节长度的内容,因此可以区分并处理英文、数字和汉字等各类字符。
37.上述仅为本发明的优选实施例而已,并不对本发明起到任何限制作用。任何所属技术领域的技术人员,在不脱离本发明的技术方案的范围内,对本发明揭露的技术方案和技术内容做任何形式的等同替换或修改等变动,均属未脱离本发明的技术方案的内容,仍属于本发明的保护范围之内。


技术特征:


1.一种基于springbatch批量读取定长文件的方法,其特征在于,包括以下步骤:按行读取待解析文件,得到字符串;创建多个映射类,各映射类包括定长文件及其不同属性;在映射类内添加注解,所述注解包括所述属性及各所述属性的长度;根据得到的字符串到对应的映射类,获取对应定长文件及其属性;根据对应的映射类内注解获取各属性的长度;根据各属性的长度将字符串划分为多个不同长度的字节,并得到对应的数据。2.如权利要求1所述的基于springbatch批量读取定长文件的方法,其特征在于,按行读取待解析文件的实现方式为:在读取待解析文件的接口设置filedsetmapper属性。3.如权利要求1所述的基于springbatch批量读取定长文件的方法,其特征在于,根据不同的定长文件创建不同的映射类。4.如权利要求1所述的基于springbatch批量读取定长文件的方法,其特征在于,所述注解还包括属性的序号和/或属性的类型。5.如权利要求1所述的基于springbatch批量读取定长文件的方法,其特征在于,还包括以下步骤:将得到的数据进行写操作。6.如权利要求5所述的基于springbatch批量读取定长文件的方法,其特征在于,写操作时,根据预设格式进行右补空格或左补0。7.如权利要求5所述的基于springbatch批量读取定长文件的方法,其特征在于,对完成写操作后的数据做持久化处理。8.如权利要求7所述的基于springbatch批量读取定长文件的方法,其特征在于,所述持久化处理包括保存至数据库。

技术总结


本发明涉及一种基于springbatch批量读取定长文件的方法,包括以下步骤:按行读取待解析文件,得到字符串;创建多个映射类,各映射类包括定长文件及其不同属性;在映射类内添加注解,所述注解包括所述属性及各所述属性的长度;根据得到的字符串到对应的映射类,获取对应定长文件及其属性;根据对应的映射类内注解获取各属性的长度;根据各属性的长度将字符串划分为多个不同长度的字节,并得到对应的数据。本发明通过按行读取待解析文件,得到字符串,并通过获取映射类注解中的属性长度将字符串划分,从而可以读取并处理固定字节长度的内容,因此可以区分并处理英文、数字和汉字等各类字符。类字符。类字符。


技术研发人员:

郭旺

受保护的技术使用者:

上海通联金融服务有限公司

技术研发日:

2022.11.29

技术公布日:

2023/2/23

本文发布于:2024-09-21 13:51:00,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/4/61689.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:定长   文件   所述   属性
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议