7.8 Ansawdd data ac arsylwadaeth

Trosolwg a chymhelliant

Addasrwydd i’w ddefnyddio yw ansawdd data: y graddau y mae data’n gwasanaethu’r penderfyniadau, y cynhyrchion, a’r adroddiadau sy’n dibynnu arno. Nid yw set ddata’n dda nac yn ddrwg yn yr haniaethol. Mae naill ai’n ddigon da at ddiben, neu nid yw. Gall cyfeiriad cwsmer sy’n iawn ar gyfer cyfrif marchnata fod yn anaddas i hysbysiad cyfreithiol. Mae’r fframio hwnnw’n bwysig, oherwydd mae’n symud y sgwrs o “a yw ein data’n berffaith” (byth) i “a yw ein data’n addas ar gyfer yr hyn rydym ar fin ei wneud ag ef” (atebadwy, a phrofadwy). Y dimensiynau clasurol yw cywirdeb, cyflawnrwydd, cysondeb, amseroldeb, dilysrwydd, ac unigrywiaeth, ac mae’r rhan fwyaf o broblemau go iawn yn dod i lawr i un ohonynt.

Dyma’r gwirionedd anghyfforddus i dimau mawr: mae data drwg yn waeth na dim data. Pan nad oes gennych ddata, rydych yn gwybod hynny, ac rydych yn bwrw ymlaen gyda gofal priodol. Pan fydd gennych ddata anghywir sy’n edrych yn iawn, rydych yn gweithredu arno gyda hyder ffug. Mae data drwg yn llygru’n dawel. Mae’n llifo i mewn i ddangosfwrdd y mae swyddog gweithredol yn ymddiried ynddo, i mewn i fodel dysgu peiriant sy’n hyfforddi arno ac yn amgodio ei wallau, ac i mewn i benderfyniadau nad oes neb yn meddwl am eu cwestiynu am fod y rhif yno ar y sgrin. Mae’r difrod yn wasgaredig ac wedi’i oedi, sef pam yn union ei fod yn gostus. Erbyn i rywun sylwi, mae’r rhif anghywir eisoes wedi’i ddyfynnu mewn cyflwyniad bwrdd, cyflwyniad rheoleiddiol, neu ystadegyn cyhoeddus.

Arsylwadaeth data yw’r ddisgyblaeth sy’n dal hyn cyn i’ch defnyddwyr wneud hynny. Mae’n gyfochrog uniongyrchol ag arsylwadaeth a thelemetreg meddalwedd (pennod 9.2): mae’r un greddf sy’n dweud wrthych i fonitro oedi ceisiadau a chyfraddau gwallau yn dweud wrthych i fonitro ffresni, cyfaint, sgema, a dosraniad data. Mae’r bennod hon yn adeiladu ar strategaeth a llywodraethu data (pennod 7.1) a pheirianneg ddata (pennod 7.2), ac mae’n bwydo modelu data a’r haen semantig (pennod 7.7) a deallusrwydd artiffisial cyfrifol a dibynadwy (pennod 6.5). I fentrau sy’n cysoni sawl system ffynhonnell ac i lywodraethau sy’n cyhoeddi ystadegau statudol, mae trin dibynadwyedd data fel problem beirianneg gyda pherchnogion a lefelau gwasanaeth yn wahaniaeth rhwng ymddiriedaeth a chywiriad cyhoeddus iawn.

Egwyddorion allweddol

Addasrwydd i’w ddefnyddio yw ansawdd data, nid perffeithrwydd; diffiniwch ef yn erbyn y diben.
Mae data drwg yn waeth na dim data, oherwydd ei fod yn llygru penderfyniadau’n dawel.
Profwch ddata fel rydych yn profi cod: haeriadau, disgwyliadau, a gwiriadau sgema yn y biblinell.
Mae contractau rhwng cynhyrchwyr a defnyddwyr yn gwneud disgwyliadau’n eglur ac yn orfodadwy.
Arsylwch ffresni, cyfaint, sgema, a dosraniad, yr un modd ag yr ydych yn arsylwi gwasanaethau.
Mae llinach yn troi “mae rhywbeth o’i le” yn “dyma beth dorrodd a beth mae’n effeithio arno.”
Triniwch ddigwyddiadau data fel digwyddiadau cynhyrchu, gyda pherchnogaeth, difrifoldeb, a lefelau gwasanaeth.
Canfyddwch broblemau lle maent yn mynd i mewn, nid dair haen i lawr yr afon mewn dangosfwrdd.

Argymhellion

Diffiniwch ansawdd yn ôl dimensiwn, a’i fesur

Mae nodau ansawdd amwys yn cynhyrchu canlyniadau amwys. Torrwch ansawdd yn ddimensiynau mesuradwy a chysylltwch wiriadau pendant â phob un. Mae cywirdeb yn gofyn a yw gwerthoedd yn adlewyrchu realiti (a yw’r refeniw a gofnodwyd hwn yn cyfateb i’r llyfr cyfrifon ffynhonnell). Mae cyflawnrwydd yn gofyn a yw’r cofnodion a’r meysydd disgwyliedig yn bresennol (a oes unrhyw ddyddiau ar goll, a yw colofnau gofynnol yn null). Mae cysondeb yn gofyn a yw’r un ffaith yn cytuno ar draws systemau (a yw cyfrif cwsmeriaid mewn cyllid yn cyfateb i’r cyfrif yn y warws). Mae amseroldeb yn gofyn a yw data’n cyrraedd mewn pryd i fod yn ddefnyddiol (a yw data ddoe’n barod cyn yr adroddiad bore). Mae dilysrwydd yn gofyn a yw gwerthoedd yn cydymffurfio â rheolau a fformatau (a yw’r holl godau arian cyfred yn real, a yw dyddiadau o fewn amrediad). Mae unigrywiaeth yn gofyn a yw endidau’n ymddangos unwaith (a oes archebion dyblyg yn chwyddo’r cyfanswm). Dewiswch y dimensiynau sy’n bwysig i bob set ddata, gosodwch drothwyau, a’u tracio dros amser. Ansawdd nad ydych yn ei fesur yw ansawdd rydych yn dyfalu yn ei gylch.

Profwch biblinellau gyda haeriadau a disgwyliadau

Mae data’n haeddu’r un trylwyredd profi â chod cymwysiadau. Defnyddiwch ddilysu data ym mhob cam: profion sy’n seiliedig ar haeriadau sy’n methu’r biblinell pan dorrir invariant (rheol sefydlog na ddylai byth newid), a phrofion sy’n seiliedig ar ddisgwyliadau sy’n datgan sut olwg sydd ar “normal” ar gyfer tabl a fflagio gwyriadau. Haerwch fod allweddi cynradd yn unigryw ac yn ddi-null, bod allweddi tramor yn datrys, bod colofnau categorïaidd yn cynnwys gwerthoedd derbyniol yn unig, bod colofnau rhifiadol yn syrthio o fewn amrediadau credadwy, a bod cyfrifon rhesi’n glanio mewn band disgwyliedig. Ychwanegwch wiriadau sgema sy’n methu’n uchel pan ychwanegir, gollwng, ailenwi, neu ailteipio colofn i fyny’r afon. Rhedwch y gwiriadau hyn mewn integreiddio parhaus fel bod trawsnewidiad gwael yn cael ei ddal cyn uno, a’u rhedeg eto mewn cynhyrchu yn erbyn data byw fel bod ffynhonnell wael yn cael ei dal cyn iddi gyrraedd defnyddwyr. Y nod yw methu’n gynnar ac yn uchel, oherwydd bod piblinell wedi torri’n fwy diogel na dim un sy’n anghywir yn dawel.

Sefydlwch gontractau data rhwng cynhyrchwyr a defnyddwyr

Mae’r rhan fwyaf o ddigwyddiadau ansawdd data’n dechrau i fyny’r afon, pan fydd tîm cynhyrchu’n newid sgema, ystyr semantig, neu gonfensiwn gwerth heb wybod pwy sy’n dibynnu arno. Mae contract data yn trwsio hyn trwy wneud y rhyngwyneb yn eglur: y sgema, semanteg pob maes, gwerthoedd a ganiateir, gwarantau ffresni, a’r broses ar gyfer gwneud newid. Mae’r cynhyrchydd yn ymrwymo i’r contract, mae’r defnyddiwr yn adeiladu yn ei erbyn, ac mae newid torri’n gofyn am fersiynu a rhybudd yn hytrach na syndod tawel ar ddydd Llun. Gorfodwch gontractau’n fecanyddol lle gallwch, trwy ddilysu data sy’n dod i mewn yn erbyn y contract wrth y ffin a gwrthod neu gwarantîn toriadau. Mae contractau’n troi dibyniaeth ymhlyg, fregus yn un eglur, wedi’i negodi. Maent hefyd yn gwneud perchnogaeth yn weladwy, sy’n hanner y frwydr ar raddfa fawr.

Monitrwch bedwar signal arsylwadaeth data

Mae arsylwadaeth data’n gwylio pedwar signal, mewn cyfochredd uniongyrchol â sut rydych yn gwylio gwasanaeth sy’n rhedeg (pennod 9.2). Ffresni: a yw’r data mor ddiweddar ag y dylai fod, neu a yw’r biblinell wedi stolio. Cyfaint: a yw cyfrif y rhesi o fewn yr amrediad disgwyliedig, neu a gyrhaeddodd tabl yn hanner gwag neu wedi’i lwytho ddwywaith. Sgema: a yw’r strwythur wedi newid yn annisgwyl. Dosraniad: a yw’r gwerthoedd eu hunain wedi drifftio, fel bod colofn a oedd yn 2 y cant null yn sydyn yn 40 y cant null, neu fod cyfartaledd wedi symud mewn ffordd sy’n arwyddo bag i fyny’r afon. Offeryniwch y signalau hyn ar eich tablau pwysig, dysgwch eu patrymau normal, a rhybuddiwch ar dorriadau. Dyma sut rydych yn disodli “sylwodd swyddog gweithredol fod y dangosfwrdd yn edrych yn anghywir” ag “cafodd y tîm perchen ei bagio ar bwynt y methiant.” Y datgeinydd gwaethaf posibl o broblem data yw bod dynol i lawr yr afon sy’n ymddiried yn y rhif.

Ychwanegwch ganfod anomaleddau, ond ei diwnio yn erbyn blinder rhybudd

Mae trothwyau statig yn dal y methiannau amlwg. Ar gyfer drifft mwy cynnil, haenwch ganfod anomaleddau sy’n dysgu patrwm tymhorol normal pob metrig a fflagio gwyriadau anarferol yn ystadegol, fel eich bod yn dal gollyngiad araf cyn iddo ddod yn llifogydd. Byddwch yn ddisgybledig am hyn. Mae rhybuddion anomaleddau swnllyd yn hyfforddi pobl i anwybyddu rhybuddion, sy’n waeth na dim rhybuddion o gwbl. Dechreuwch gyda’ch tablau gwerth uchaf, rhybuddiwch dim ond ar bethau y dylai dynol weithredu arnynt, llwybrwch bob rhybudd at berchennog a enwir, a’i diwnio’n ddidostur. Mae rhybudd nad oes neb yn gweithredu arno’n fwg yn eich monitro, nid yn nodwedd.

Trac linach ar gyfer dadansoddiad effaith a phrif achos

Pan fydd rhywbeth yn torri, mae dau gwestiwn yn bwysig ar unwaith: beth achosodd hyn, a beth mae’n effeithio arno. Mae llinach data yn ateb y ddau trwy fapio sut mae data’n llifo o’r ffynhonnell trwy bob trawsnewidiad i bob tabl, dangosfwrdd, a model i lawr yr afon. Ar gyfer prif achos, rydych yn olrhain ffigur gwael yn ôl i fyny’r afon at y trawsnewidiad neu’r ffynhonnell a’i cyflwynodd. Ar gyfer dadansoddiad effaith, rydych yn olrhain ymlaen i weld pob defnyddiwr a gyffyrddwyd gan lwyth gwael, fel y gallwch eu hysbysu a chwarantîn y difrod cyn iddo ledaenu. Daliwch linach yn awtomatig o’ch offer trawsnewid a threfnu yn hytrach na chynnal diagram â llaw, oherwydd bod diagram a dynnwyd â llaw’n anghywir y diwrnod ar ôl i chi ei dynnu. Mewn mentrau â llawer o ffynonellau, cyhoeddwch linach i mewn i gatalog data fel y gall unrhyw ddefnyddiwr weld o ble ddaeth maes a ymddiried ynddo yn unol â hynny.

Triniwch ddigwyddiadau data fel digwyddiadau cynhyrchu

Mae’r arferion sy’n cadw gwasanaethau’n ddibynadwy’n gymwys yn uniongyrchol i ddata. Rhowch berchennog i bob set ddata bwysig. Diffiniwch lefelau difrifoldeb ar gyfer “amser segur data,” y cyfnodau pan fydd data ar goll, yn anghywir, neu’n hwyr. Gosodwch lefelau gwasanaeth: targedau ffresni, cyllideb gwallau dderbyniol, ac amser targed i ganfod a datrys. Rhowch gylchdroeon ar-alwad data y tu ôl i’r piblinellau mwyaf critigol, ysgrifennwch lyfrau rhedeg, a rhedwch ôl-drafodion di-fai ar ôl digwyddiadau fel na fydd yr un methiant yn ailddigwydd. Pan fydd tabl taliadau’n hwyr neu fetrig cyhoeddus yn anghywir, digwyddiad yw hynny, ac mae’n haeddu’r un difrifoldeb â thoriad. Dyma’r symudiad diwylliannol sy’n gwneud yr holl offer yn talu ar ei ganfed.

Proffiliwch a chysonwch yn barhaus

Ystyr proffilio yw archwilio siâp eich data’n rheolaidd: dosraniadau gwerth, cyfraddau null, cardinaledd, isafswm ac uchafswm, a phatrymau fformat. Mae’n dod â phroblemau na feddyliech chi eu haeru i’r wyneb, ac mae’n dweud wrthych sut olwg sydd ar “normal” fel y gallwch osod disgwyliadau da. Ystyr cysoni yw gwirio bod ffynonellau annibynnol yn cytuno: a yw cyfanswm y warws yn cyfateb i system gofnod y ffynhonnell, a yw swm y rhannau’n hafal i’r cyfan. Awtomeiddiwch gysoni rhwng systemau critigol a rhybuddiwch ar wahaniaeth, oherwydd mai toriad cysoni’n aml yw’r signal cynharaf a chliriaf bod rhywbeth wedi mynd o’i le i fyny’r afon.

Cyfnewidfeydd: manteision ac anfanteision

Dull	Manteision	Anfanteision	Ffit gorau
Profion haeriad (methiant caled)	Yn stopio data gwael yn oer, anfarwolion clir	Gall rwystro piblinellau ar faterion mân	Allweddi critigol, uniondeb cyfeiriadol
Profion disgwyliad (fflag meddal)	Yn dal drifft, yn llai brau	Angen ei diwnio, gellir ei anwybyddu	Dosraniadau, bandiau cyfaint
Contractau data	Yn atal syndodau i fyny’r afon, perchnogaeth glir	Baich cydgysylltu a llywodraethu	Ffiniau cynhyrchydd neu ddefnyddiwr traws-dîm
Canfod anomaleddau	Yn dal drifft cynnil, annisgwyl	Blinder rhybudd, positifau ffug	Tablau gwerth uchel, metrigau tymhorol
Gwiriadau smotyn â llaw	Rhad i ddechrau, dim offer	Ni raddfeydd, yn methu gwallau tawel	Cam cynnar iawn yn unig
Platfform arsylwadaeth llawn	Cwmpas eang, llinach, rhybuddio	Cost, sefydlu, system arall i’w rhedeg	Llawer o ffynonellau, adrodd rheoleiddiedig

Y tensiwn canolog yw cwmpas yn erbyn sŵn. Offeryniwch ddim ac mae problemau’n cyrraedd eich defnyddwyr yn gyntaf, sy’n dinistrio ymddiriedaeth. Offeryniwch bopeth gyda rhybuddion clicied-blewog ac rydych yn boddi’ch tîm mewn positifau ffug tan iddynt fudo’r sianel, sy’n gadael i broblemau gyrraedd defnyddwyr hefyd. Datryswch hyn trwy raddio’ch data yn ôl radiws ffrwydro. Mae’r tablau sy’n bwydo metrigau bwrdd, cynhyrchion sy’n wynebu cwsmeriaid, adroddiadau rheoleiddiol, a modelau dysgu peiriant yn cael y driniaeth lawn: contractau, haeriadau caled, arsylwadaeth, a pherchnogaeth ar-alwad. Mae’r gynffon hir o dablau archwiliadol yn cael proffilio cyffwrdd-ysgafn. Treuliwch eich cyllideb dibynadwyedd lle byddai data anghywir yn brifo fwyaf, a byddwch yn fwriadol brin ym mhobman arall.

Cwestiynau i’w trafod gyda’ch tîm

Pan fydd data gwael yn cyrraedd cynhyrchu, pwy sy’n darganfod yn gyntaf, a sut? Dyma’r cwestiwn mwyaf datgeiniol sengl ynghylch dibynadwyedd eich data, oherwydd fel arfer yr ateb gonest yw “defnyddiwr, ar hap.” Os mai dadansoddwr, swyddog gweithredol, neu gwsmer yw’ch system ganfod, mae’ch amser cymedrig i ganfod yn cael ei fesur mewn dyddiau ac mae’ch credadwyedd yn cymryd yr ergyd bob tro. Y dewis arall yw offeryniaeth sy’n bagio’r tîm perchen ar bwynt y methiant, cyn i’r rhif gwael ledaenu. Dewch â rhifau go iawn: faint o’ch deg digwyddiad data diwethaf a ddaliwyd gan fonitro yn erbyn eu hadrodd gan ddynol i lawr yr afon, a faint o amser eisteddodd pob un heb ei ganfod. Mae’r ateb yn dweud wrthych a oes gennych arsylwadaeth neu jest gobaith, a dylai yrru’n uniongyrchol lle rydych yn buddsoddi mewn gwiriadau ffresni, cyfaint, sgema, a dosraniad yn gyntaf.
Pa setiau data sydd â pherchennog, contract, a lefel gwasanaeth, a pha rai sy’n amddifaid? Ar raddfa fawr, mae’r rhan fwyaf o fethiannau ansawdd data’n olrhain yn ôl i ryngwyneb heb berchennog: newidiodd tîm cynhyrchu rywbeth heb unrhyw syniad pwy oedd yn dibynnu arno, oherwydd nad oedd contract yn dweud hynny. Perchnogaeth yw’r sylfaen sy’n gwneud contractau, llwybrau rhybuddio, ac ymateb digwyddiadau’n bosibl, a set ddata amddifaid yw lle mae llygredd tawel yn byw. Cerddwch trwy’ch tablau pwysicaf a gofynnwch, am bob un, pwy sy’n atebol, beth mae’r cynhyrchydd wedi ymrwymo iddo, a pha ffresni a chywirdeb sy’n cael eu haddo i’r defnyddwyr. Dewch â’ch llinach: y tablau â’r radiws ffrwydro mwyaf i lawr yr afon yw’r rhai sydd fwyaf angen hyn ac yn aml y rhai sydd ar goll ohono. Y bwlch rhwng “pwysig” a “phersonol” yw’ch rhestr flaenoriaeth ar gyfer y chwarter nesaf.
Beth yw cost wirioneddol digwyddiad ansawdd data i ni, ac a ydym yn ei drin yn unol â hynny? Mae timau’n tan-fuddsoddi mewn ansawdd data oherwydd bod cost data gwael yn wasgaredig ac wedi’i oedi, felly nid yw byth yn ymddangos fel eitem llinell, tra bod cost adeiladu offer ansawdd yn bendant ac yn syth. Ailfframiwch hynny trwy brisio digwyddiad go iawn o’r dechrau i’r diwedd: y penderfyniad anghywir, yr ailwaith, oriau’r peiriannydd a dreuliwyd yn olrhain prif achos heb linach, yr ymddiriedaeth erydedig sy’n gwneud i bobl ailadeiladu eu setiau data cysgod eu hunain yn dawel, ac, mewn lleoliadau rheoleiddiedig neu sy’n wynebu’r cyhoedd, yr hysbysiad cywiro a’i ddifrod i enw da. Dewch ag enghraifft benodol o’r flwyddyn ddiwethaf a’i chyfanswm yn onest. Os gallai un methiant tawel mewn piblinell taliadau neu ystadegau cyhoeddus gostio mwy nag un flwyddyn o offer arsylwadaeth, mae’r achos busnes yn ei wneud ei hun, ac mae’r sgwrs yn symud o a ddylid buddsoddi i ble.
A ydym wedi graddio’n setiau data yn ôl radiws ffrwydro, ac a yw ein buddsoddiad monitro mewn gwirionedd yn dilyn y graddio hwnnw? Y modd methu canolog ar raddfa fawr yw treulio ymdrech dibynadwyedd yn gyfartal, felly mae’r tabl archwiliadol nad oes neb yn ymddiried ynddo’n cael yr un sylw â’r un sy’n bwydo metrigau bwrdd, tra bod rhybudd clicied-blewog ar dabl gwerth isel yn hyfforddi pobl i fudo’r sianel sydd hefyd yn cario’r bagio critigol. Ni allwch offeryniu popeth heb foddi mewn sŵn, ac ni allwch offeryniu dim heb adael i broblemau gyrraedd defnyddwyr yn gyntaf, felly’r penderfyniad go iawn yw lle mae’r driniaeth lawn (contractau, haeriadau caled, arsylwadaeth, a pherchnogaeth ar-alwad) yn mynd a lle mae proffilio cyffwrdd-ysgafn yn ddigon. Dewch ag inventori o’ch tablau wedi’u tagio yn ôl beth sy’n dibynnu arnynt: metrigau bwrdd, cynhyrchion sy’n wynebu cwsmeriaid, adroddiadau rheoleiddiol, a modelau dysgu peiriant, yna cymharwch y graddio hwnnw yn erbyn lle mae’ch gwiriadau a’ch rhybuddion mewn gwirionedd yn eistedd heddiw. I fenter sy’n cysoni sawl ffynhonnell neu lywodraeth sy’n cyhoeddi ffigurau statudol, mae’r tablau ag amlygiad cyfreithiol neu gyhoeddus yn perthyn ar frig y rhestr, ac mae unrhyw fwlch rhwng “byddai’n brifo fwyaf os yn anghywir” a “sy’n cael ei fonitro fwyaf” yn wall blaenoriaethu i’w gywiro nawr.
Pa fodelau dysgu peiriant a dadansoddeg sy’n penderfynu ar ddata nad ydym byth yn ei ddilysu, a pha wallau y gallent fod yn eu hamgodio’n dawel? Mae dangosfwrdd yn dangos rhif anghywir i un dynol a allai ei gwestiynu, ond mae model yn hyfforddi ar nodweddion anghywir ac yn amgodio’r gwallau hynny i mewn i bob rhagfynegiad y mae’n ei wneud, ar raddfa ac anhryloywder sy’n gwneud y difrod yn llawer anos i’w weld neu ei ddadwneud. Y pwysau cystadleuol yw cyflymder: mae timau gwyddoniaeth data eisiau symud yn gyflym ar nodweddion newydd, ac mae ychwanegu dilysu, contractau, a gwarantau ffresni at bob llif yn teimlo fel ffrithiant hyd nes bod model yn dirywio’n dawel oherwydd bod colofn i fyny’r afon wedi drifftio. Dewch ag inventori o’ch modelau a’ch dadansoddeg cynhyrchu, y setiau data y mae pob un yn eu bwyta, a marc gonest o ba rai o’r llifau hynny sydd â phrofion, contractau, ac arsylwadaeth yn erbyn pa rai sy’n ddiamddiffyn. Mewn lleoliad menter neu lywodraeth lle mae model yn dylanwadu ar benderfyniadau credyd, budd-daliadau, neu orfodaeth, mae data hyfforddi heb ei ddilysu’n dod yn atebolrwydd archwilio a thegwch yn ogystal â risg ansawdd, felly dylai fod gan y cwestiwn pa lifau sy’n giatio rhyddhad model berchennog ac ateb dogfennedig (pennod 6.5).
Pan fydd bwg ansawdd yn dod i’r amlwg wythnosau ar ôl y digwyddiad, a allwn mewn gwirionedd ailbrosesu a chysoni, neu ydym eisoes wedi taflu’r hyn y byddem ei angen? Mae llawer o fethiannau ansawdd yn anweladwy ar adeg llwytho ac yn dod yn eglur yn unig yn ddiweddarach, pan fydd toriad cysoni neu duedd amheus yn ysgogi rhywun i edrych, ac erbyn hynny mae’r gallu i’w drwsio’n lân yn dibynnu ar ddewisiadau a wnaethoch lawer yn gynharach: a wnaethoch gadw cofnodion crai anhydraidd, a all ffynonellau annibynnol gael eu cysoni, ac a yw llinach yn gadael i chi olrhain y ffigur gwael yn ôl i’w darddiad. Y tensiwn yw cost a symlrwydd yn erbyn atgynyrchioldeb, oherwydd nid yw cadw data crai a rhedeg cysoni parhaus rhwng systemau’n rhad ac am ddim, ac mae’n demtasiwn dileu mewnbynnau crai unwaith y bydd y tablau wedi’u trawsnewid yn edrych yn iawn. Dewch â’ch polisi cadw ac anhydreidd ar gyfer data crai, y rhestr o barau system critigol rydych yn eu cysoni’n awtomatig, ac enghraifft go iawn o fwg y gallech neu na allech ailbrosesu’ch ffordd allan ohono. I asiantaeth lywodraeth o dan rwymedigaeth statudol i olrhain unrhyw rif a gyhoeddwyd yn ôl i gofnodion ffynhonnell, neu fenter sy’n wynebu ailddatganiad rheoleiddiol, nid yw data crai anhydraidd a chysoni awtomataidd yn hylendid dewisol ond y mecanwaith sy’n gwneud cywiriad yn amddiffynadwy.

Lens sector

Cwmni newydd. Mae cyflymder ac ymddiriedaeth yn bwysicach na chwmpas. Rhowch lond llaw o brofion ysgafn yn eich offeryn trawsnewid (unigrywiaeth a di-null ar allweddi, gwerthoedd derbyniol ar y colofnau sy’n cario ystyr, band cyfrif-rhesi fesul ffynhonnell), ac ychwanegwch fonitro ffresni a chyfaint dim ond ar y tablau prin sy’n bwydo metrigau’ch cwmni. Llwybrwch bob rhybudd at un sianel y mae un peiriannydd yn berchen arni, a gwrthsefwch brynu platfform arsylwadaeth cyn bod gennych y tablau neu’r tîm i’w gyfiawnhau. Y nod yw sylwi ar faes wedi’i gamlabelu cyn iddo chwyddo rhif y mae’r sylfaenwyr yn ei ddyfynnu, nid offeryniwch bopeth.

Busnes bach. Heb beiriannydd data a chyllideb dynn, dibynnwch ar y nodweddion ansawdd sydd eisoes wedi’u hadeiladu i mewn i’r warws, yr offeryn BI, neu’r platfformau SaaS rydych yn talu amdanynt yn hytrach na chodi pentwr ar wahân. Canolbwyntiwch eich ymdrech ar y llond llaw o rifau sydd mewn gwirionedd yn gyrru penderfyniadau (refeniw, piblinell, stoc), gwiriwch nhw’n synhwyrol yn erbyn ffynhonnell annibynnol ar batrwm rheolaidd, a thriniwch rybuddion ffresni a sgema gwerthwr fel rhai digon da pan fyddant yn bodoli. Mae prynu ansawdd wedi’i fewnblannu mewn offer rydych eisoes yn eu rhedeg yn well nag adeiladu piblinell nad oes gennych neb i’w chynnal.

Menter. Y broblem yw dibynadwyedd ar draws llawer o dimau a miloedd o dablau, felly safonwch y rhyngwyneb: contractau data ym mhob ffin cynhyrchydd, platfform arsylwadaeth yn gwylio ffresni, cyfaint, sgema, a dosraniad, a llinach wedi’i chyhoeddi mewn catalog ar gyfer dadansoddiad effaith. Graddiwch setiau data yn ôl radiws ffrwydro, rhowch ganfod anomaleddau a pherchnogaeth ar-alwad ar y rhai gwerth uchel, a rhedwch ddigwyddiadau data trwy’r un broses ddifrifoldeb ac ôl-drafod â thoriadau gwasanaeth. Mae lefelau gwasanaeth ar y piblinellau sy’n bwydo adroddiadau rheoleiddiol a dangosfyrddau gweithredol yn troi dibynadwyedd data o ddyhead yn ymrwymiad wedi’i fesur, wedi’i lywodraethu.

Llywodraeth. Mae cywirdeb statudol ac atebolrwydd cyhoeddus yn gosod y bar: glaniwch gofnodion arolwg a gweinyddol crai anhydraidd, eu trawsnewid mewn camau haenog, profedig, a’u cysoni yn erbyn cyfansymiau ffynhonnell ym mhob cam. Cadwch linach lawn fel y gellir olrhain unrhyw ffigur a gyhoeddwyd yn ôl i gofnodion ffynhonnell ar gyfer archwiliad, a giatiwch bob rhyddhad y tu ôl i ddilysu ar gyfer dilysrwydd, cyflawnrwydd, a chysondeb yn erbyn cyfnodau blaenorol. Dylai caffael offer fynnu tryloywder a chludadwyedd data, a rhaid trin ystadegyn cyhoeddus anghywir fel digwyddiad difrifol, gyda’r un difrifoldeb ag y mae ymddiriedaeth gyhoeddus mewn ffigurau swyddogol yn ei fynnu.

Enghreifftiau

Cwmni newydd. Mae cwmni ugain person yn rhedeg ei fynd-i-farchnad ar warws wedi’i fwydo gan ddigwyddiadau cynnyrch a darparwr taliadau. Yn gynnar, chwyddodd maes arian cyfred wedi’i gamlabelu refeniw a gofnodwyd yn dawel am bythefnos cyn i unrhyw un sylwi, a ysgydwodd ymddiriedaeth y tîm ym mhob dangosfwrdd. Ymatebasant gyda set ysgafn o brofion yn eu hofferyn trawsnewid: unigrywiaeth a di-null ar allweddi, gwiriadau gwerth-derbyniol ar golofnau arian cyfred a statws, a band cyfrif-rhesi fesul ffynhonnell. Ychwanegasant fonitro ffresni a chyfaint sylfaenol ar y llond llaw o dablau sy’n bwydo metrigau’r cwmni, wedi’u llwybro i un sianel Slack y mae un peiriannydd yn berchen arni. Mae’n fach, ond mae’n dal y methiannau sy’n bwysig, ac mae’r sylfaenwyr yn ymddiried yn y rhifau eto.

Menter. Mae banc rhyngwladol yn cysoni data cwsmeriaid a thrafodion ar draws dwsinau o systemau ffynhonnell i mewn i warws wedi’i lywodraethu sy’n bwydo adroddiadau rheoleiddiol, modelau risg, a dangosfyrddau gweithredol. Mae’n rhedeg contractau data ym mhob ffin cynhyrchydd, fel bod newid sgema i fyny’r afon yn cael ei fersiynu a’i negodi yn hytrach na’i sbringio ar ddefnyddwyr. Mae platfform arsylwadaeth yn monitro ffresni, cyfaint, sgema, a dosraniad ar draws miloedd o dablau, gyda chanfod anomaleddau ar y rhai gwerth uchel a llinach wedi’i chyhoeddi mewn catalog data ar gyfer dadansoddiad effaith. Mae digwyddiadau data’n dilyn yr un broses ddifrifoldeb ac ar-alwad â thoriadau gwasanaeth, gyda lefelau gwasanaeth ar y piblinellau sy’n bwydo cyflwyniadau rheoleiddiol. Pan fydd system ffynhonnell yn drifftio, mae’r tîm perchen yn cael ei bagio a gwyddys yr adroddiadau i lawr yr afon a effeithiwyd o fewn munudau, nid eu darganfod gan reoleiddiwr.

Llywodraeth. Mae asiantaeth ystadegau cenedlaethol yn cyhoeddi dangosyddion economaidd y mae marchnadoedd, llunwyr polisi, a’r cyhoedd yn eu trin fel rhai awdurdodol, felly mae cywirdeb yn rhwymedigaeth statudol a rhaid i bob ffigur a gyhoeddwyd fod yn archwiliadwy. Mae ei biblinellau’n glanio cofnodion arolwg a gweinyddol crai anhydraidd, yna’n eu trawsnewid mewn camau haenog, profedig gyda chysoni yn erbyn cyfansymiau ffynhonnell ym mhob cam. Mae llinach lawn yn caniatáu i ddadansoddwyr olrhain unrhyw rif a gyhoeddwyd yn ôl i gofnodion ffynhonnell, sy’n offeryn ansawdd a gofyniad cyfreithiol fel ei gilydd. Cyn rhyddhau, mae ffigurau’n pasio giatiau dilysu ar gyfer dilysrwydd, cyflawnrwydd, a chysondeb yn erbyn cyfnodau blaenorol, ac ymchwilir i unrhyw anomaledd a’i ddogfennu yn hytrach na’i gyhoeddi. Mae ystadegyn cyhoeddus anghywir yn ddigwyddiad difrifol, felly mae’r asiantaeth yn trin amser segur data gyda’r difrifoldeb y mae ymddiriedaeth gyhoeddus yn ei fynnu.

Achos busnes: cymhellion, ROI, a TCO

Daw’r enillion ar ansawdd data ac arsylwadaeth o ymddiriedaeth a gadwyd, digwyddiadau wedi’u byrhau, a phenderfyniadau gwael a osgowyd. Data dibynadwy yw’r sylfaen sy’n gwneud i bob buddsoddiad i lawr yr afon mewn dadansoddeg, deallusrwydd busnes, a DA dalu ar ei ganfed mewn gwirionedd, oherwydd dim ond cystal â’r data oddi tano y mae model neu ddangosfwrdd. Pan fydd gwiriadau ansawdd yn dal llwyth gwael wrth y ffin, rydych yn osgoi’r gost lawer mwy o rif anghywir yn cyrraedd penderfyniad, cwsmer, neu gyflwyniad. Mae llinach yn cwympo ymchwiliad prif achos o ddyddiau o olrhain â llaw i funudau, sy’n amser peirianneg pur wedi’i adfer. Mae arsylwadaeth yn crebachu amser cymedrig i ganfod o “pan fydd defnyddiwr yn cwyno” i “pan fydd y biblinell yn methu,” sef lle osgoir y rhan fwyaf o’r difrod ymddiriedaeth.

Mae cost gyfan perchnogaeth yn cynnwys offer ar gyfer profi, arsylwadaeth, a chatalogio, ynghyd ag amser peirianneg i offeryniwch biblinellau a gwaith sefydliadol dyrannu perchnogion ac ysgrifennu contractau. Mae hyn yn real, ond pwyswch ef yn erbyn cost peidio â’i wneud: llygredd tawel a ddarganfyddir gan swyddogion gweithredol, modelau dysgu peiriant wedi’u hyfforddi ar nodweddion gwael sy’n amgodio gwallau ar raddfa fawr, dadansoddwyr yn ailadeiladu setiau data cysgod yn dawel oherwydd nad ydynt bellach yn ymddiried yn y rhai swyddogol, ac, mewn lleoliadau rheoleiddiedig neu gyhoeddus, hysbysiadau cywiro sy’n difrodi credadwyedd am flynyddoedd. I arweinyddiaeth, fframiwch ansawdd data fel yswiriant ar bob penderfyniad sy’n cael ei yrru gan ddata y mae’r sefydliad yn ei wneud. Mae’r premiwm yn gymedrol ac yn ragweladwy. Nid yw’r golled anyswiriedig, un rhif anghywir proffil uchel, na’r naill na’r llall.

Gwrth-batrymau a pheryglon

Trin ansawdd data fel prosiect glanhau un-tro yn hytrach nag arfer peirianneg parhaus.
Darganfod methiannau gan ddefnyddwyr i lawr yr afon yn hytrach na gan fonitro ar bwynt y methiant.
Dim perchnogaeth set ddata, felly nid oes neb yn atebol pan fydd rhywbeth yn torri a nid oes neb yn cael ei fagio.
Cynhyrchwyr yn newid sgemâu neu semanteg heb gontract, gan dorri pob defnyddiwr yn dawel.
Rhybuddion anomaledd mor swnllyd fel bod y tîm yn mudo’r sianel ac yn colli’r digwyddiad go iawn.
Bwydo data heb ei ddilysu’n syth i mewn i fodelau dysgu peiriant, gan amgodio gwallau ar raddfa fawr (pennod 6.5).
Cynnal llinach fel diagram wedi’i dynnu â llaw sy’n anghywir y diwrnod ar ôl i chi ei dynnu.
Erlid data perffaith ym mhobman yn hytrach nag ansawdd addas-i’w-ddefnyddio ar y tablau sy’n bwysig.
Dileu data crai, fel na allwch ailbrosesu na chysoni pan ddaw bwg ansawdd i’r amlwg yn ddiweddarach.

Model aeddfedrwydd

Lefel 1, Cychwyn: Nid oes gwaith unrhyw un yw ansawdd. Canfyddir problemau gan ddefnyddwyr, fel arfer ar ôl i rif anghywir gyrraedd adroddiad. Dim profion, dim monitro, dim perchnogaeth. Mae trwsio’n ymladd tân â llaw, ac mae’r un methiannau’n ailddigwydd.
Lefel 2, Datblygu: Mae rhai timau’n ychwanegu profion sylfaenol ar eu tablau critigol (allweddi, nulls, gwerthoedd derbyniol) a mymryn o fonitro ffresni a chyfaint ar y setiau data y maent yn poeni amdanynt fwyaf. Mae’r arferion yn gweithio lle maent yn bodoli, ond mae cwmpas a thrylwyredd yn amrywio o dîm i dîm, nid oes dim wedi’i safoni, a thrinnir digwyddiadau o hyd yn adweithiol.
Lefel 3, Safoni: Diffinnir dimensiynau ansawdd gyda throthwyau, ac mae’r un disgwyliadau’n gymwys ar draws timau yn hytrach na dibynnu ar pwy adeiladodd biblinell. Mae contractau data’n llywodraethu ffiniau cynhyrchydd allweddol, mae arsylwadaeth yn cwmpasu ffresni, cyfaint, sgema, a dosraniad ar dablau pwysig, ac mae llinach yn cefnogi dadansoddiad effaith. Mae gan bob set ddata bwysig berchennog a enwir, ac mae digwyddiadau data’n dilyn proses ddifrifoldeb ac ymateb ddogfennedig ar draws y sefydliad.
Lefel 4, Rheoli: Mae ansawdd a dibynadwyedd yn cael eu mesur a’u rheoli yn erbyn llinellau sylfaen. Olrheinir amser segur data gyda metrigau go iawn: amser cymedrig i ganfod, amser cymedrig i ddatrys, ffresni a chywirdeb yn erbyn lefelau gwasanaeth cytunedig, a chyllidebau gwallau y gall set ddata eu treulio cyn iddi sbarduno gweithred. Mae cyfraddau toriad cysoni, cyfraddau pasio profion, a chyfraddau positif-ffug anomaledd yn cael eu tueddu dros amser, mae rhybuddio’n cael ei diwnio yn erbyn y rhifau hynny yn hytrach na thrwy ddyfalu, a gwneir penderfyniadau mynd neu beidio-mynd ar ryddhad data ar sail ansawdd wedi’i fesur yn erbyn y llinell sylfaen yn hytrach na gobaith.
Lefel 5, Cerddorfa: Mae ansawdd ac arsylwadaeth yn hollbresennol, yn awtomataidd, ac yn addasol. Mae canfod anomaleddau’n dal drifft cynnil, mae contractau’n cael eu gorfodi’n fecanyddol, a chaiff llinach ei ddal yn awtomatig a’i gyhoeddi mewn catalog. Mae gan ddata lefelau gwasanaeth a pherchnogaeth ar-alwad fel gwasanaethau cynhyrchu, mae cysoni’n rhedeg yn barhaus, ac mae ôl-drafodion di-fai’n bwydo gostyngiad cyson mewn amser segur data. Mae ansawdd wedi’i integreiddio â llywodraethu data, dysgu peiriant, a chynllunio busnes, ac mae’r sefydliad yn ailgwmpasu trothwyau, cwmpas, a pherchnogaeth yn barhaus wrth i’r dirwedd data newid.

Syniadau ar gyfer trafod

Pa rai o’ch tablau fyddai’n achosi’r difrod mwyaf pe baent yn anghywir yn dawel am wythnos, ac ai dyma’r rhai rydych yn eu monitro fwyaf?
Ble byddai contract data wedi atal eich digwyddiad diwethaf a achoswyd i fyny’r afon, a pham nad oedd un yno?
Faint o amser peirianneg mae ymchwiliad prif achos nodweddiadol yn ei gymryd heddiw, a faint fyddai llinach awtomataidd yn ei arbed?
A oes unrhyw un o’ch modelau dysgu peiriant yn hyfforddi ar ddata nad ydych yn ei ddilysu, a pha wallau y gallent fod yn eu hamgodio?
A yw’ch rhybuddio wedi’i diwnio’n ddigon da fel bod pobl yn gweithredu ar bob rhybudd, neu a oes unrhyw un wedi mudo’r sianel?
Pa lefelau gwasanaeth ffresni a chywirdeb y byddai eich defnyddwyr pwysicaf mewn gwirionedd yn cofrestru ar eu cyfer, ac a allech eu bodloni heddiw?

Casgliadau allweddol

Addasrwydd i’w ddefnyddio ar draws cywirdeb, cyflawnrwydd, cysondeb, amseroldeb, dilysrwydd, ac unigrywiaeth yw ansawdd data.
Mae data drwg yn waeth na dim data, oherwydd ei fod yn llygru penderfyniadau a modelau’n dawel.
Profwch ddata fel cod: profion haeriad a disgwyliad ynghyd â gwiriadau sgema, mewn CI ac mewn cynhyrchu.
Defnyddiwch gontractau data i wneud disgwyliadau cynhyrchwyr a defnyddwyr yn eglur ac yn orfodadwy.
Arsylwch ffresni, cyfaint, sgema, a dosraniad, yn gyfochrog ag arsylwadaeth meddalwedd (pennod 9.2).
Daliwch linach ar gyfer prif achos cyflym a dadansoddiad effaith, a’i gyhoeddi ar gyfer defnyddwyr.
Triniwch ddigwyddiadau data fel digwyddiadau cynhyrchu, gyda pherchnogaeth, difrifoldeb, a lefelau gwasanaeth.
Offeryniwch lle mae data anghywir yn brifo fwyaf; anelwch at ansawdd addas-i’w-ddefnyddio, nid perffeithrwydd ym mhobman.

Cyfeiriadau a darllen pellach

Barr Moses, Lior Gavish, a Molly Vorwerck, “Data Quality Fundamentals.”
Jacek Majchrzak, Sven Balnojan, a Marian Siwiak, “Data Contracts.”
Danette McGilvray, “Executing Data Quality Projects.”
Thomas C. Redman, “Data Driven: Profiting from Your Most Important Business Asset.”
Laura Sebastian-Coleman, “Measuring Data Quality for Ongoing Improvement.”
Joe Reis a Matt Housley, “Fundamentals of Data Engineering.”
DAMA International, “DAMA-DMBOK: Data Management Body of Knowledge.”
ISO/IEC 25012, “Data quality model.”