6.0 Inngangur að 6. hluta: Gervigreind

Gervigreind hefur þróast úr rannsóknarnýjung í kjarnagetu sem stórar skipulagsheildir eru nú ætlast til að taki í notkun á ábyrgan hátt og í stórum stíl. Þessi hluti leiðir þig gegnum allan lífsferilinn: að ákveða hvar gervigreind er þess virði að beita, að smíða vélnámskerfi sem lifa af snertingu við framleiðslu, að byggja forrit á skapandi líkönum (e. generative models), að nota gervigreind til að aðstoða við hugbúnaðarþróunina sjálfa, að uppfylla skyldur um sanngirni og ábyrgð og að reka sérhæfðu innviðina sem allt þetta krefst. Ein hugmynd tengir alla kaflana saman: líkanið er sjaldan erfiði hlutinn. Erfiði hlutinn er verkfræðin, stjórnarhættirnir og rekstrarsiðferðið sem umlykur það.

Fyrir stór teymi hækka stærð og tregða húfið. Illa mótað verkefni getur brennt fjárveitingar, truflað hæfa verkfræðinga og rýrt traust þegar það bregst opinberlega. Vel valið verkefni getur sjálfvirknivætt leiðindavinnu og dregið fram innsýn úr gögnum sem þú náðir aldrei til áður. Yfir hundruð forritara og tugi líkana leggjast litlar venjur og lítil göt í eftirliti saman í skipulagslegar niðurstöður. Þess vegna skipta sameiginlegir vettvangar, sjálfgefin gildi og viðmið meira máli en nokkur ein sniðug lausn.

Fyrirtækja- og opinber samhengi bæta við strangari skorðum, og þær liggja í gegnum alla kaflana. Opinberir aðilar verða að rökstyðja útgjöld, tryggja gagnsæi, forðast ólögmæta mismunun og vera ábyrgir gagnvart eftirlitsaðilum og almenningi. Innkaupareglur geta bannað bindingu við einn seljanda og krafist skýranleika og útgönguleiða. Ný lög á borð við gervigreindarreglugerð ESB (áhættuþrepaskipta reglugerð Evrópusambandsins um gervigreindarkerfi) og staðlar eins og áhættustýringarrammi NIST fyrir gervigreind og ISO/IEC 42001, vottanlegur staðall fyrir stjórnkerfi gervigreindar, setja kröfur sem eru stigskiptar eftir áhættu. Í þessu umhverfi eru reglufylgni, úttektarhæfni, endurtakanleiki og gagnafullveldi fyrsta flokks kröfur, ekki eftirþankar.

Kaflar í þessum hluta

6.1 Stefna og viðbúnaður í gervigreind: Sú grein að ákveða hvar á að beita gervigreind, hvar á að forðast hana og hvaða gagna-, mannauðs- og stjórnarháttagrunnur þarf að vera til áður en fyrsta líkanið nær framleiðslu.
6.2 Vélnámsverkfræði (MLOps): Að færa hugbúnaðarnákvæmni að þrískiptum veruleika kóða, gagna og líkana, svo vélnámskerfi séu endurtakanleg, vöktuð og viðhaldanleg í stað einnota sýnikennslu.
6.3 Skapandi gervigreind og forrit byggð á stórum mállíkönum: Að smíða áreiðanleg forrit utan um líkindafræðileg mállíkön með samhengisstjórnun, jarðtengingu með sóknaraukinni myndun, varnarrimlum (keyrslutímaathugunum sem takmarka inntak og úttak líkana) og strangri mælingu.
6.4 Gervigreindaraðstoðuð hugbúnaðarþróun: Að nota gervigreindaraðstoðarmenn í kóðun til að auka afköst án þess að lækka gæði, með skýrum viðmiðum, góðum sjálfgefnum gildum, sterkri sannprófun og athygli á öryggi og leyfum.
6.5 Ábyrg og traustverð gervigreind: Að smíða kerfi sem eru sanngjörn, gagnsæ, ábyrg, örugg og virða persónuvernd, og að geta sýnt fram á allt þetta fyrir þeim sem verða fyrir áhrifum og fyrir eftirlitsaðilum.
6.6 Innviðir og rekstur gervigreindar: Að útvega og reka hraðlana sem skortur er á, vektorgeymslu (kerfi sem skrá gögn sem talnavektora fyrir leit að líkindum) og þjónustulögin sem gervigreindarvinnuálag krefst, á hagkvæman, áreiðanlegan og vaktanlegan hátt.
6.7 Gervigreindarfulltrúar og fulltrúakerfi: Að smíða hugbúnað sem notar mállíkan í lykkju með verkfærum, minni og markmiði til að grípa til aðgerða, og gera það örugglega með afmörkuðu sjálfræði, verkfæraaðgangi með lágmarksréttindum, samþykki manna í lykkjunni, vörnum gegn fyrirmælainnspýtingu og strangri mælingu á óákvörðunarbundinni hegðun.
6.8 Mat og prófanir á gervigreind: Að gera gervigreind traustverða með matsdrifinni þróun, dæmigerðum matssöfnum og mælikvörðum sem passa verkinu, kvörðuðum LLM-sem-dómara og mannlegri rýni, rauðliðaprófunum, afturfarahliðum í samfelldri samþættingu og vöktun á gæðum og reki í framleiðslu.
6.9 Fyrirmælaverkfræði og samhengishönnun: Að líta á fyrirmæli sem verkfræði, með uppbyggðum fyrirmælum, fáskotsdæmum og hugsanakeðjuaðferðum, agaðri samhengisfjárhagsáætlun og sókn, uppbyggðu úttaki og verkfærakalli, og fyrirmælum sem eru útgáfustýrð, rýnd og metin eins og kóði.

Hvernig þessir kaflar tengjast

Saman mynda þessir kaflar lífsferil sem liggur frá ásetningi til reksturs. Kafli 6.1 setur stefnu og viðbúnað og afmarkar hvaða vandamál réttlæta gervigreind yfirleitt og hvaða grunn þú þarft fyrst. Kafli 6.2 leggur til verkfræðilega burðarásinn fyrir klassískt vélnám, á meðan kafli 6.3 fjallar um sérstök mynstur skapandi líkana, þar sem hegðun mótast af fyrirmælum og sóttu samhengi frekar en þjálfunarskrefi. Kafli 6.4 snýr gervigreind að handverki hugbúnaðarþróunar sjálfs og kafli 6.6 veitir reikni-, geymslu- og þjónustugrunninn sem allir hinir kaflarnir byggja á. Kafli 6.5 er viljandi ekki lokaorðið heldur stöðugur förunautur: skyldur um ábyrga gervigreind móta stefnu, takmarka líkanaval, hliða útsetningu og upplýsa innviðaákvarðanir í gegnum allt ferlið.

Meginþráðurinn liggur frá stefnu til MLOps til skapandi gervigreindar til gervigreindaraðstoðaðrar þróunar til ábyrgrar gervigreindar til innviða, en hugsaðu um hann sem vef, ekki beina línu. MLOps og innviðir eiga sameiginleg áhyggjuefni um endurtakanleika, kostnað og þjónustu, svo best er að lesa kafla 6.2 og kafla 6.6 saman. Ábyrg gervigreind tengist aftur við stefnu í kafla 6.1 og fram til víðtækari umfjöllunar um siðferði og almannahag í kafla 10.5, og hún styðst við persónuverndar- og gagnavernd vinnubrögðin í kafla 4.5. Víðtækari verkfræðigrunnur þessarar handbókar liggur undir öllum hlutanum: samfelld afhending í kafla 8.1, vöktun og eftirlit í kafla 9.2, prófunarstefna í kafla 2.4 og kóðarýni í kafla 2.5 eru allt forsendur þess að gera gervigreind vel. Gervigreind kemur ekki í stað góðrar hugbúnaðarverkfræði. Hún hækkar húfið á því að gera hana rétt.