全自动端到端数据运营体系

^ m m m m
2021年第05期(总第221期)
全自动端到端数据运营体系
王晓勇,曹欣
(中国电信股份有限公司内蒙古分公司信息化部,内蒙古呼和浩特010010)
摘要:为了支持集团级大数据应用,需建立企业级大数据湖,将省内数据源及时准确入湖是大数据应用展现的关键。全
自动端到端数据运营体系是最基础的数据源入湖保障,与传统耗费人力、数据质量又难以保障的数据运营体系相比,全 自动端到端数据运营体系基于自动化,最大限度减少人工干预,更加智能。
关键词:全自动数据处理流程全自动数据质量监控体系端到端数据运营中图分类号:TP 391 文献标识码:A  文章编号:2096-9759( 2021)05-0214-05
Automatic End to End Data Operation System
Wang  Xiaoyong , Cao  X in
(China  Telecom  Inner  M ongolia  Branch  Information  Department  Hohhot  010010, Inner  M ongolia )
A bstract : In  order  to  support  the  application  o f  group  level  big  data , it  is  necessary  to  establish  an  enterprise  level  big  data  lake . Tim ely  and  accurate  data  source  entering  the  lake  is  the  key  to  big  data  application  display . The  automatic  end -to-end  data  op ­eration  system  is  the  most  basic  guarantee  for  data  source  entering  the  lake . Compared  w ith  the  traditional  data  operation  system which  consumes  manpower  and  data  quality  is  d ifficu lt  to  guarantee , the  automatic  end -to-end  data  operation  system  is  based on  automation , which  minimizes  manual  intervention  and  is  more  intelligent .
Key  words : Automatic  data  processing  flow  Automatic  data  quality  monitoring  system  End  to  end  data  operations
〇引言
随着大数据技术飞速发展,大数据应用已经融入各行各 业。在省与集团两级数据运营模式中[1],集团
大数据应用一点 计算的业务量指标是对外报送、市场经营分析等经营决策分 析的重要数据。为了支持集团级大数据应用,需建立企业级 大数据湖,省作为集团大数据湖的重要数据源,省数据入湖的 及时性与数据质量是保障集团大数据应用展现的重要因素。 为满足大数据应用基础数据需求,需省内建立保障集团数据 及时准确展现的全自动端到端数据运营体系。1省数据运营情况及问题 l .i 软件模型与数据处理流程
上传集团数据加工软件和省内其他应用软件耦合度高, 共用统一的数据抽取、汇聚底层及数据处理流程,底层数据模 型涵盖的内容超过集团上报所需要的内容[a ,处理时间长,数
据处理流程中大部分处理节点为生成省内其他应用软件数据 的节点,造成作业链长,耗时长。1.2数
据质量稽核监控及异常处理
省内数据全部生成后,在上传前统一执行数据质量稽核, 稽核时间长。对于数据源系统数据异常或者没有按时生成数 据的情况,在最后上传前才发现,问题发现太晚,浪费数据处 理时间。数据质量稽核不通过产生短信或外呼告警,值班人 员收到告警后处理。异常全部人工处理、自动化程度低。1.3业务审核流程
省上传集团数据的审核涉及众多业务部门,流程长,审核 时间长,造成数据上传等待,不及时。2全自动端到端数据运营体系
针对省数据运营的问题,从数据处理的各环节全面分析,
设计构建基于全自动端到端数据处理流程及全自动端到端数 据质量监控体系的全自动端到端数据运营体系。2.1全自动端到端数据处理流程
(1)软件模型优化
首先优化软件架构,省上传集团数据加工软件和省内其 他应用软件解耦合,对原有模型进行分离,集团上传数据单独 流程处理,从省内底层数据流程中剥离出来,数据处理逻辑顺 序精心优化,提速表数据优先处理,并且优先的流程执行时, 减少不必要的其他数据流程并行。软件架构优化示例见图1 软
件架构优化图。
01313
图1软件架构优化图
(2)全自动端到端数据处理流程
所有数据处理流程,从接口数据抽取、数据处理、数据稽 核、到生成文件上传集团,通过配置全自动E T L 任务,实现端 到端全过程自动,无需人工干预。出现告警后,告警节点转人 工处理,不影响其他节点。示例见图2全自动端到端数据处 理流程,图3自动流程配置界面图、图4文件自动上传配置图。
收稿日期= 2021-03-31作者简介:王晓勇(1978-),女,硕士,主要研宄方向:互联网技术;曹欣(1976-),女,硕士,主要研宄方向:信息化。
214
Changjiang Information & Communications
王晓勇等:全自动端到端数据运营体系
硬币组合
fltzssjQM m u •
£〇«#.〇«ja * assn ita a su M rfti ; «
m x t n s i
I
m rtaanm  .miwo •
M ussw arw i  參” •
E 〇n U >X «J C « «if lS 9^9l  M  »ll  (
m tzm nsjk  »' »ie •
B M U T .M .IJ
C W
1 t i l  •
E Z M U P .W .U C W  H L J B D ^a B  I 4 >n i  •
*q u « •w em w -nc •«T j «v T C i R j a i  m a ^S A in c 〇H « •«fi<c  〇M ssf^B in o 图4文件自动上传配置图
(3)与上游数据源系统流程无缝衔接
图3自动流程配置界面图■QUkLiU£il ■BttiU iiia
■aaiLi  !ieis
■QUILJUia
■C fiM IU U &il
图2全自动端到端数据处理流程图
在上游数据源系统中设置标志位,上游系统数据生成后 标志位置为1,集团数据上传流程判断标志位为真后,自动启 动数据处理流程。
(4)数据处理方式优化
数据拆分处理。计费详单每日计算,月底汇总30天的计 算结果。相比月底一次性汇总计算30天的详单,极大提升处 理时间。
数据分步处理。产品实例表数据量大,第一步先处理非 收入的字段,待收入数据出来后,第二步处理收入字段,减少 等待提升速度。
数据处理与数据稽核同步进行。一方面,在底层数据处 理流程中,对关键字段稽核,发现异常第一时
间外呼告警,人 工处理后继续后续流程,避免流程结束后发现异常重新跑流 程,浪费时间。另一方面,优化上传前稽核。由全量数据稽核 改为按需稽核。
在数据处理流程中嵌入数据稽核示例,见图5,流程中方 框为数据稽核节点,其他为数据处理节点。
通过全自动端到端数据处理流程,提高了软件数据处理 效率,减少了流程中人工处理及人工通知造成的时间浪费,提 高了数据上传的及时性。
2.2全自动端到端数据质量监控体系
从数据源头开始,数据加工处理、数据波动异常监控到数
据上传情况,建立全自动端到端数据质量监控体系,见图6全 自动端到端数据质量监控体系图。
(1)数据源质量自动监控
对数据源系统数据质量监控,如计费语音详单话单量、通 话时长、收入,数据详单话单量、数据时长、数据流量、收入,短 信详单话单量、收入,增值详单话单量、收入,租费情况监控, 数据格式监控、异常字符监控。示例见图7数据源数据质量 监控示例图。
曲乃.»u.MMa
A M ^r>W  v
N _u u j._i a
图5数据处理流程中嵌入数据稽核示例图
IT w
tr
走线槽**!
S *f
»«
sc
tn
S F ..'O M M IU O O 软
w
9T l i
l y  r t H S
t 2
x j d  山UA
s d
m liiiiiiEiiE
215
Changjiang Information & Communications王晓勇等:全自动端到端数据运营体系
数据源质扈自动监控
通獅长、队数据格式、异常字符监控
流程执行自动监控
研始舰
结束时间.执行时长及流程
执行过程自动监控
指标波动自动监控
制定_旨标波动阀值,
对指标超过阀值自动监控
前置条件自动监控数据质i t自动雌
动前,对前霣5M牛监控数据字紙情
非法字符、表间逻堪性等质
量自动监控文件定时自动上传,上传 自动监控,自动监控集团 文件采集情况
K
规范监控作处计划,精简关健监控点•规范操作步S5H流程
图6全自动端到端数据质量监控体系图
I日棚m
公采集益控 宇数雄处理
卜K K J A 0R4I N K M1卜*CRM
卜.NMIBAS o
a
o
m
a
o a
Q
O a
o
Q
o
o a a
ra
o
m
a
a
o
o
i f i s分枳»集团上传
I承fl®J爹辛|
BfibWSCfl
«M I S V:j]
•处<Mt«:C
iM S W e:I?
雄系•{£{&«0榘]!!_■
: S8^«hl«ttS:0
ilftJCBS >6iftflCMV:IHt
HADO O P平台
回回
etkhffttM
E C M]
&故抵砝悬
用户倩•
•m m sn
笮故摧推送
IMJ1传准送
««K fR B B9V(R)
雜承核職图7数据源数据质量监控示例图
(2)前置条件自动监控
前置条件为流程执行的前提条件,如流程所需的数据己 经生成或流程依赖的前序流程已经执行完毕且通过稽核。在
流程启动前,对前置条件监控。示例见图8前置条件监控短 信示例图。
稽核规则告轚(3.0):202005数
据账期,行业及预算汇总指标上
报接口 (月)(BW T_INDUSTR
Y_BUDGET_TARG ET)校验
结»1|»7
2M N B
2itm c
m t i i
n m i
m m
n m u
m m
n
uaim m i
K!*258(B S S3rt:
a m t
\issm r4
S5I8S S U
fS95S»6S S3t A h
G!>r»B£S3C
tiSI满卿:《r
e n_s
«a5»3»B S S){
E M^M T J S S2094^0抝
Q n^.iw.8ffiiE ii a E M-M i M i
S W J P W.B S S fuSI;J t B M-H O W
f£iE f, 2SMf7t|«l
EDKUP.MT.BSS 2S2HWB«t2
撕J M J邮iE V;财雜,
EOM^.Utf.BSS f£ir«!
202»4ntttl
_•戯撕
a^J W.3S S f t f U U
2SHH 2915)
2fiW!IT»21
舰,,腿
2G»W li«
asvuix
职,1»财
撕气…
2B H1J22J5
:K M M33>
|I
麵,《
,卿2
W C W1
18X
W1W1
a s
Q U
it
s t i i s a
StitSEl
s a o f i x
SUES E l
2ilC S E X
2flt!ES
e m s a
S U I S E X
图9流程监控配置图
果:无数据
图8前置条件监控短信示例图
(3)流程执行自动监控
数据处理流程执行开始时间、结束时间、执行时长及流程 执行过程自动监控。示例见图9流程监控配置图、图10程序 过程监控埋点示例图。
图10程序过程监控埋点示例图
(4)数据质量自动监控
数据字段类型、长度、个数、非法字符、表间逻辑性等质量 自动监控。示例见图11数据质量监控示例图。
216
Changjiang Information & Communications
王晓勇等:全自动端到端数据运营体系
卿N HtfEN WHEN WHIN WHEN 顺N HHTN WHEN UH£K WHEN WHIN 播稽铕开給
SKEW 3OT!(CIL3E
OMEN SUM(CUSE U«CK S tU KC AS t WHEN SOU (CASE DtfEN S5JW(C^S£ WHEN SUB (C1.3E VHEN SU :M(CILSE tm c K  s t i i u c d  VHEN StTHfCASt UHEN 3SJ1 (CA.SE BHEN 3fJJl (CA.3E OHEW StDMCfcSE
m K K  3t X h [C K S l  CHEW 35JI!(CAS£ HHEN 3tJB [C
A S E  DHEN StJH{ C USE UHEN SCUKCI l SE  lirtlEN SOU (CASE DHE^ S im [C K 3l  HHEN S an[C A S£ CHEK scm (CILSE UHCK 2CTS(CI l 21 KTH EN  SOM (CASE  UHEW S ^[C K 2E E-JLREJL_NO- E, AREJL_NO-
B  . AP.ZX~KO- B. ARZI.~KO-B -J^REJL_NO- B. A H E A N O - B .X P £lJ tO ~ mL:KO> B-A|iEX~NO - B-JIREA NO- B. A R E A^E O B  . ARZ JL_WO-B  . JLR E JL NO^ B, A K E ^N O - fi. JU>.Zl~Kt> & . AftZJL~KO-B. AJ^EiL_NCr■ B, AREJLNO- B. JLP .E J l _K O - B  . ARZIt~KO- B.JLRJX NO-17039171991729917399J749917599176991719917699
J 79抑19Z99103991709917199 17299 17399 1749B  17599 17«99 17139 178 9S 1799B 19299 19399THEN 5nOA_3ittS_Ciir : THEN aaa n_an*f«_cnc TMUN »o n _3in s _c n t THEN Bian_aras—c u t  TH£N jnpn_WTrs^g:rtt THTN 3n 〇n_3«H_CiiC THEN 3aan_iain3_cnc TH£N jnan_2uns _c n t  THEf? man_s2ns—c u t  THKW T a a n js jr a ^p n t  TKEn t i 〇n_JKc3_CliC THEN m an s m a  c n t END) «□ENI>J*0ENtPl-O END) -0ENOJ-CI END)E M W a END) -0 ENl >)-〇 END) "□ END) -□THEN THEN THEN THEN THOJ THEN TMXN THEN T 腳 THEN THEN •呼伦K 尔不满足按本地网含计,短包月总条教必须>D _ END || •呼和筢特不满足按本地网含计,短f ?包月总条数必顼>0• ENW  | ,包头不*足按本地N 合计:短倌包月总备数必领>0* £NDl  |•乌海不满5桉本地网舍计i 短倌包月总条数必领>〇•〇«•< I
■乌兰第布不雒足按本地网合计,短坨包月-条数必颈W  ENBII ■通辽不满足按本地网合计..短倌包月.&*数必须>〇• m D h  •界埯不?身足按本地网合计,短馆包月总备敢必?5>〇_ m o il •郇尔多斯不确足桉本地网舍计,短倌包月总条教必翊妨〇1丨 |巴虏S *尔不满茂桉本地网舍计,短饽&月总条敢必领;>cr  e n d ii  _铕林?足按本地网合计*短馆包月总条数必須>〇• j o t 丨I  |兴安男不确S 按本地网合计,短馆包月总条效必领>〇• end !丨 ■阿拉哲不满足按本地网合计:短倌包月总条效必颈>〇_ EWWI THEN THCT THEN THEN THEM THEN TH ^W THEN THEN THEN THEN n m i E K W _7XCX  END -0 THEN  •呼伦贝尔不W B 桉本地网舍计,念餐包月总流蛋:必须>0• E W I ,|| R C M •二ri^JJC  E N W 0TREN  *呼和浩犄不嫌S 余未地网合计> -忘省包月总流£必领>〇• EW IHI
KCW_;T L U X t N D )B 〇 THEN •包头不牌足按本地网台计,麥餐包月总坑金:必须W  END || K C N _T L U 2 END ,
-0 THEN .$)海本满足古地网含计.塞4包月总说至必E N D || KQ N =rL U X £M D >-0TH£N  •乌兰斑布不鈿应按本地柙合计厂念餐包月总流S 必领>0_ E W 1?|| BC W =rL C ): END 卜C p  TBIN  •!!辽不按本地网会y ■■老餐包月总流虽必领>0' E N ril n oiN 二
r m x  UPiPMOTHEN  蜂不满足本地网合计.金餐包月总沉S 必fW Pii H 0N_FLUX  END ),0 THEN •郊尔多斯不_庭按本地网合计t 宠嚷包月总流5必须>0• E N D II
K C N J L U S  ENDjl-D  THEN .E ^通尔不調足舍水地网合t f ,金播包月总流3B :必_[>□• EMDII KCN=rLUX  END ,
-0T H IM ,播林帏勒不W J S f e 去地网合计r 金璀包月总流蚤必^{>0. EW U ||
HCN=rLCX  ENIO -C
,THEN  •兴安33不满g 按本▲网合t f . 4■电&月总说S 必领E W I p II  RW  TLUX  IW I-CI  THEN  'PT 拉番不W 足按本地网合计,老噸包月.&庶2:必领>C T  ENPII 图11数据质置监控示例图S E L £T T  H V L C C A 5E  A  H E JE V jffl d O  O R  A  M D J I E V -}© :,30 T K E B  * 眵动新装用户数坏出iSffl 【-3〇»,30«】,.E 3f l ,||C A S E  鼾既 A  »TO EV_C T_ZB 一C T  - A  Wi0EV_STJZBJJ •• -15 O R  A  肋D EV_C T_ZBJ>» - A.«B®SV_CT_2B_U ) 15 •移动•新裝中实体渠道发g 占涵忠f f lll C_15b
L'Ai't W H IM  A  »B D E V _ZQ _ZB ^C H  - A . MEDEV_Zft_2»_L* -. -15 C K  A . MBQEV.ZQ.ZB^dl - A . M B IlSV _ZQ JZB_LJI > 15 T K E M  * C~151. 15%3 .' tW B  11
' -* ■•… -• E M U  |)
CASE W M 1H  A KBDEV_DZ_ZB_CH - A-KB0EV_DZJZB_L» *• -5S G E  A.«BDEV_K_2B_CH - A-HBBEV D2JZB LJI > 15 TlffiN 产移幼新矣中电子渠通发麽占比i f l t i S i f f i H 羞 C-5*,..C A S E  W
H I H  A  (IB D E V J fZ _Z B _[H  ‘•0 [fc A _m ilF v _^Z _Z S _C B  .、? T H 2H  •療动站揉中未知溪進占此运出圊澶【•iTl. ?»】.’ IHDn ,IBJIEV.TB > 40? T M E F  / 2HD||卜 a  rrrHjrBMuiii : a o  T K E tr  ‘m«/0R^S 装用户嗍避公
s® t-9C W . 8C I»J ,
A .W D E V _50»J {
B J ^ > 80 了H E H  以上装用
C -501 0〇幻.W
•tl > B  THIN •责帝新S 宁实休;发薛扮_雈出湖丨f i 【-d  is%] • l :CT||
p i ) is  了kef  ’ is 奈if i 装中电子蕖Si 言.b  a 比tifis 趄出潘1值r s m t 】,m ,丨i C A S E  W H E N  ik  W BJ1ZV.KB *: ^0 Oii k  nB.DtV.MB > J O ') W l? (A .W B J Z V J h  < M0 O B  A  I C A S E  W H IH  A  PTTH^fEDB^HB C M  - A mM^WBDEV^KB^lH < -50 Q a  A . FTTH^BDEV_HB HI
C A S E  W :i 2H A  »B
D H V _5〇y H B_€H  - A W B D
E V ..50W …H E  Ul ' -5〇 U h . J k . ^BDEV^SOM .HlJ.Ci
'fim
A . T T
B Q E V _?T _iB _
C »l C A 5K  A  %pdcv _m I zp _c h  C A S E    A. IBDEV_K_I8_P» C A S E  ^KIH A . %B
D
E V _1T Z _Z B _C P ■ a  tocv _st _zp _u i  < -35 o p , k  - a . TP®gv_?r_2P_ui A  TOEV_Z&JB_Lli <-J5 O R  A-*PDBV_M _2B_〇B  - A-TBrEVJKI_2BiJJ .. . .■ A  W 0E V _D Z J »_L B  ': -35 OR A. fBDEV.DZ 2B_CH - A  fB B H V.D Z JB  11 >15 TKE
F '2 nrai  中未«_占fc &riS fS  C -〇5, a 】.’™T ]
0 D F . A . TBIiIV_lfZ_Z3_CI m \\
3值【-‘J ^3lfi】;_ E W ,|
I fltH S T S 】:1 m
i (i 【^,艿】,* E 疝|
■:成W H H 1丨AK H SW V _D IIJ 3:F n  ;= 3 no  .5^i 谈用户的日发J R #钥发辱|t 8彈异5^3出【-外鉍】:E H D ll
C A 5E  «膽A B 5(X W I iM \^S T J I L m 7) T H E M  .实沐縣i?用的百lE 縣龜与月友辑詈承1差§¥輕涵值卜】〇】..E S I _|,:A £E  ran  A B s a  wMvjwjyjun  > 3 rax . ft 企网户的日拿®发B 畫与月友濟曼的籩【IM O  .• E »I _| ••沾E  A B S C ^B
D
E V _D :JMjm 〕>3 raa ,电子览1K 录II 菜用户的曰St 孩麽里与月犮KS 的差异杗超出®通卜3(放】* Eflliil
图12指标波动监控示例图
*
亞彳8#0^上《?扬口_?^ (月)
茗户薹本WJB (月)柄魅&实舸值魍(月》
iw «^R c.-f5ia
tR  \
齒3闲尸遇&行为
《喫^^(月)
户Hf 前雕獻c^-(乃) 饫功用厗行为nss ,*c 总f 月)
多叻用户(月
>
〇幻」用尸扑to 行为) 忮功用厂1瑁i t 行闪t 月)
^1選(畀户
户品其私基不r t 电〔角1 .系祆内尸战抑?s 物时棚?长
x »m a
(h >芡兩两卢估寒 <
月>
角争用户分硏(月}
免承行为分析(甩>i
5T_rHrn
IfJojXl b J t Q ^t H E U A E E ttA T S I PM I R C T C iR
nwB^ciGT^Tvrn D A P «〇 仰
_ftAPflJUIk.-
&W^_EVT_tD_V-DICE^ACTIVE
D/V?*i_IVT_fD_DJLlAjLCTIVE &AMJIVT J * D _vn ICE-ACTIVIJIBL nA7*_T^n_r j i p l
nA?«_PVr_Pn_IifcT*_WTTV7_rBL b /^n ji  VTJ- U _A D  U  V »A L _A C T  IV* J IBL
• iwtrti_E »a  i  raua.
IfAMlPJUlZfD.IIST
D A p «j n i i j [ir 〇M E
DATajTU^OTI
P A M J W _r D  _Ilf5T_f»
»AP1_tVT_CPT_HSIR
__ .
上月软搞
芍月st3?*i w 拓伟上月办猓
句月5E3M
zne1
00东佐上月》|8
1 3«Hi
s e m  〇
〇a 传上月符坩m w &巧&曰科O Q 积袼上^母f lS 曰2*4 0〇H P «J_fi:唇s 「_ _每
月1… ___甸月SR24 OOffi 传上月JR 1B
琢月(T 1痄传上月筘进
电月^曰?4 n n s 伟上月教坩 f t 月&曰21 tx ftffr 上月炒讲 梅芍t>E-〜〇u 蜗伸上芍妙《 毎月5日2, 00®运上角,供
|lA5K_TIPfi
月报
HW
i Lwi IHUN_IAM :_U A 5■23
23
迮月孕曰□〇]
*,g 传上R »«
flW 缶上月我很月TB iS ; 〇〇«ffr 上月的i® 切月"JRtb: C _D 期袼上月灯执
-I I
图13文件上传时限配罝图
钓鱼船(5) 指标波动自动监控
数据指标波动自动监控。示例见图12指标波动监控示 例图。
(6)
文件上传及采集自动监控
文件定时自动上传,上传时间点配置自动监控,及时发现
未上传情况,提前预聱处理,避免上传延迟,同时自动监控集 团文件采集情况,保障集团收到上传文件。示例见图13三文 件上传时限配置图、图14上传监控任务配置图、图15监控短 信示例图。
纖瞧月IU 獅
«#逋綱T K SJfSfl
娃抑 ft!球J
拜 2^8-12^6勝M  _  1 ®A  £
23W30
腿!-31
_
2«M 7-06»W M m M
S I 3^
卬S
R 报
nw
月报月报
m m 月捆m m 角i
g p
f \\b
m m
上午 9:00
2020年05月,集团宽表月文件截
止15曰09时:通过前置条件验证 记录数为:101条.未通过前■条 件验证记录数为:0条,应上传文 件数:1〇1
条,成功上传文件数:101条,未上 传文件数:0条,其中久其为:0条. 上传失败文件数:0条,其中久其 为:0条,回执成功文件数:10〇条,
其中久
其为:9条,回执失败文件数:0条, 其中久其为:0条;
L L r t w  I . I  E  .E w  I I I ^E y -£z r E
££E l E y - I t e r E E ££
E E E M ££•43I L S ,5A S 2J J L 3
A S 13A 3A 3A 3A S A 3J 13A 3A S 2J 13A .3A 5A S 1L S A 3
.A -3-c c c
c c c c c
c c c c a c c c
c
c
c c 217
图14上传监控任务配置图
图15盟控短倍示例图
图18集团考核情况图
4结语
在数据运营工作实践中,运维人员针对日常工作的痛点 积极探索,从三方面主动优化,一是数据源入大数据湖采用专 用处理通道,与省内其他数据处理应用解耦;二是全面自动化, 能自动的不手工,建立端到端的自动化流程;三是严把数据质 量关,从源头到最终上传,端到端都做好数据质量稽核。随着 大数据应用的发展,大数据湖中汇聚的数据种类会越来越多, 数据量越来越大,数据源及时准确入湖越来越重要,这三方面 优化方法及全自动端到端数据运营体系,具有行业推广价值, 可以保障数据汇聚,发挥大数据更大的作用。氟橡胶成分分析
参考文献:[1] 中国电信.关于加强数据汇聚基础工作的通知.2014.[2]
中国电信.全网数据交换枢纽规范1.0.2013.
优化监控作业计划,精简关键监控点,规范操作步骤及流 程。制定监控值班制度,规范运营。示例见图16监控布控点 图。
通过全自动端到端数据质量监控体系,严把数据源头的 数据质量关,及时发现数据质量、数据指标及数据处理流程执 行的异常,及时告警,值班人员及时处理,避免流程重跑及后 续处理的时间浪费,最大程度提高了数据生成的效率,从而提 升上传及时性、准确性、完整性、一致性。2.3业务审核流程优化
财务部牵头,组织市场部、渠道部、政企部、云计算事业部、 互渠部等相关收入审核部门和信息化部,制度收入审核流程。 信息化部收入完成后直接上载SAP 系统,同时电话及邮件通 知相关业务部门登陆SAP 系统审核,以通知时点起1小时内, 业务部门对收入有异议反馈信息化部,过时默认业务部门审 核通过,信息化部进行后续收入上传集团流程。
业务部门收入审核与集团收入数据上传流程并行,节约 等待时间。
止水环
3集团数据上传提速及质量提升效果
建立全自动端到端数据运营体系后,日数据上传由凌晨
6点提升到凌晨2点,提速4小时,提速效果见图十七提速 效果图。上传数据质量明显提升,2019年集团考核5个月数 据质量满分,全年未发生数据出局错误。见图十八集团考核 情况图。
Changjiang Information & Communications
王晓勇等:全自动端到端数据运营体系
碰布控点
社传鐘量
2号4号
5号
6号
7号
10号12号14号
时间点
32
10
15
133718814277176858621
8142771768586监控点个数
1
2
2
3
3
2
2
1
图16监控布控点图
銶提速情況
6:00
4:48 3:362:24
K
T  *
r
1:120:00
1日2日3日4日5日6日7日8日9日10日11日12日13日14日15日16日17日18日19日20日21日22日23日24日25日26日27日28日29日30日
-♦-S 1 前-图17提速效果图
(7)规范监控作业计划及监控值班制度
218

本文发布于:2024-09-22 16:37:46,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/2/243522.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:数据   监控   流程   上传   包月   自动   集团   质量
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议