6.5 AI ya kuwajibika na ya kuaminika

Muhtasari na msukumo

AI ya kuwajibika na ya kuaminika ni mazoea ya kujenga na kuendesha mifumo ya AI iliyo ya haki, wazi, yenye uwajibikaji, salama, na inayoheshimu faragha. Pia inamaanisha kuweza kuonyesha yote haya kwa watu walioathirika na kwa wadhibiti. AI inapochukua maamuzi yanayoumba maisha ya watu (kuajiri, kukopesha, ustahiki wa manufaa), swali halihusu tena “je, inafanya kazi?” tu bali “je, ni sahihi, na tunaweza kuhalalisha?” Mfumo ulio sahihi kwa wastani bado unaweza kuwa si wa haki kwa kundi dogo, usioelezeka kwa mtu unayemwathiri, au usio salama unapotumiwa vibaya. Unapata uaminifu kwa kushughulikia vipimo hivi kwa makusudi, si kwa kutumaini vitajishughulikia vyenyewe.

Kwa timu kubwa, AI ya kuwajibika haiwezi kuwa kazi ya mtu mmoja wala kisanduku mwishoni. Ifumbe katika jinsi unavyosanifu, kutathmini, kusambaza, na kutawala mifumo, kukiwa na umiliki na kupandisha ngazi wazi. Kwa ukubwa, upendeleo mdogo na mapengo ya usimamizi huathiri watu wengi. Kushindwa mmoja maarufu kunaweza kuharibu sifa yako na kualika udhibiti. Mifumo ya utawala ipo hasa kwa sababu nia njema ya papo hapo haipanuki.

Mashirika ya serikali na yanayodhibitiwa yanakabiliwa na wajibu unaofunga. Sheria zinazoibuka, kama Sheria ya AI ya EU, huweka mahitaji yaliyopangwa kwa hatari. Viwango kama NIST AI Risk Management Framework na ISO/IEC 42001 vinakupa njia zilizopangwa za kuyatimiza. Vyombo vya umma lazima viepuke ubaguzi usio halali, vitoe njia za kupinga maamuzi ya kiotomatiki, na viwe wazi kuhusu jinsi AI inavyotumika katika kutekeleza mamlaka ya umma. AI ya kuwajibika katika mazingira haya ni wajibu wa kimaadili na lazima ya kisheria.

Angalia pia: sura ya 6.1 (mkakati wa AI na utayari), sura ya 10.5 (maadili, uwajibikaji, na maslahi ya umma), na sura ya 4.5 (faragha na ulinzi wa data).

Kanuni kuu

Haki ni lengo la usanifu la kupimwa na kusimamiwa, si la kudhaniwa.
Watu walioathirika na maamuzi ya AI wanastahili maelezo na njia ya kuyapinga.
Uwajibikaji unakaa na binadamu na shirika, kamwe si na mfano.
Faragha na usalama lazima vihandisiwe ndani, ikijumuisha ulinzi dhidi ya matumizi mabaya na unyanyasaji.
Utawala unapaswa kufuata mifumo inayotambulika ili uweze kutetewa na kukaguliwa.
Usimamizi wa binadamu lazima uwe na maana, ukiwa na mamlaka halisi ya kubatilisha na kusimamisha.
Zingatia gharama pana za AI, ikijumuisha alama yake ya kimazingira.

Mapendekezo

Gundua na punguza upendeleo na ukosefu wa haki

Fafanua haki inamaanisha nini kwa muktadha wako. Kuna fasili kadhaa za kihisabati, wakati mwingine zinazopingana, na ile sahihi inategemea uamuzi na sheria. Jaribu mifano kwa utendaji tofauti kuvuka makundi yanayolindwa na walio hatarini kwa kutumia data ya uwakilishi. Fanya hivi kabla ya usambazaji na uendelee baadaye, kwa sababu upendeleo unaweza kujitokeza idadi ya watu inapohama. Punguza kupitia data bora, kupima upya uzito, vikwazo, au kubadilisha jinsi mfumo unavyotumika, na uandike mabadilishano uliyokubali. Kuondoa sifa inayolindwa hakuondoi upendeleo, kwa kuwa vibadala vinabaki. Chukulia haki kama nidhamu endelevu ya kupima na kusimamia, si idhini ya mara moja.

Toa uwezo wa kuelezea, kutafsiri, na uwazi

Linganisha kiwango cha maelezo na dau na hadhira. Kwa maamuzi yenye athari, wape walioathirika sababu wazi, ya lugha rahisi wanayoweza kuielewa na kuitendea kazi. Kwa utawala wa ndani, weka uwezo wa kutafsiri wa kiufundi wa kutosha kutatua na kutetea mfumo. Pendelea mifano inayotafsirika kwa asili pale dau ni kubwa na uwezo wa kutafsiri unawezekana. Pale mifano changamano ni lazima, tumia mbinu za maelezo huku ukiwa mwaminifu kuhusu mipaka yake. Kuwa wazi kuhusu wakati AI inatumika kabisa, hasa katika mwingiliano na umma.

Tawala kwa mifumo inayotambulika

Pokea mbinu iliyopangwa ya utawala badala ya kubuni yako. NIST AI Risk Management Framework hupanga kazi kuzunguka kutawala, kuchora ramani, kupima, na kusimamia hatari ya AI. Sheria ya AI ya EU huainisha mifumo kwa hatari na kuweka wajibu ipasavyo, ikiwa na mahitaji makali kwa matumizi ya hatari kubwa. ISO/IEC 42001 hufafanua mfumo wa usimamizi wa AI unaoweza kukaguliwa na kuthibitishwa. Chora ramani ya mifumo yako kwa mifumo hii. Dumisha nyaraka kama kadi za mfano na data (muhtasari sanifu wa madhumuni, utendaji, na mipaka ya mfano au seti ya data). Endesha tathmini za hatari kabla ya usambazaji, na uweke orodha ya mifumo ya AI na ngazi zake za hatari na wamiliki. Utawala mzuri hupanga majukumu wazi, haki za maamuzi, na njia za kupandisha ngazi.

Hakikisha usimamizi wa binadamu, uwajibikaji, na rufaa

Weka binadamu kwa maana akidhibiti maamuzi yenye athari, mwenye mamlaka halisi na taarifa zinazohitajika kubatilisha mfumo, si muhuri wa mpira. Weka uwajibikaji wazi: taja mmiliki anayejibu kwa tabia ya kila mfumo. Wape watu walioathirika na maamuzi ya kiotomatiki haki ya maelezo na mchakato unaowezekana wa kukata rufaa kwa binadamu anayeweza kubadilisha matokeo. Andika maamuzi na msingi wake, ili uweze kushughulikia rufaa na ukaguzi kwa haki na haraka.

Linda faragha, usalama, na dhidi ya matumizi mabaya

Punguza data binafsi unayokusanya na kutumia, anzisha msingi halali, na tumia mbinu za faragha zinazofaa unyeti uliohusika. Red-team mifumo kabla na baada ya usambazaji kupata njia inazoweza kudanganywa, kuvunjwa kizuizi, au kutumiwa vibaya kusababisha madhara, na urekebishe unachopata. Jenga ulinzi dhidi ya kuzalisha maudhui hatari, kuvujisha data nyeti, au kuwezesha unyanyasaji. Panga kwa matukio: ufuatiliaji, jibu, na ufichuzi. Zingatia matumizi-mawili (uwezo uleule ukihudumia malengo ya manufaa na ya madhara) na matumizi mabaya ya chini ya mkondo, si matumizi yaliyokusudiwa tu.

Zingatia gharama ya kimazingira

Kufunza na kuhudumia mifano mikubwa hutumia nishati na maji kwa kiasi kikubwa. Pima na uripoti alama ya mizigo mikuu ya AI. Pendelea mifano na maunzi yenye ufanisi pale yanapotimiza hitaji. Rekebisha ukubwa wa mifano kulingana na kazi badala ya kuchagua kubwa zaidi kwa chaguo-msingi, na uingize gharama ya kimazingira kwenye maamuzi ya usanifu na ununuzi.

Mabadilishano: faida na hasara

Mvutano	Upande mmoja	Upande mwingine
Usahihi dhidi ya haki	Usahihi wa wastani wa juu zaidi	Matokeo ya usawa kuvuka makundi
Utendaji dhidi ya uwezo wa kutafsiri	Mifano changamano, yenye nguvu	Mifano inayoelezeka, inayotetewa
Uotomatishaji dhidi ya usimamizi	Ufanisi na ukubwa	Udhibiti wa binadamu na uwajibikaji
Manufaa ya data dhidi ya faragha	Mifano tajiri zaidi kutoka data zaidi	Kupunguza data na ulinzi
Uwezo dhidi ya usalama	Utendaji mpana, wazi	Tabia iliyobanwa, inayolindwa
Kasi dhidi ya utawala	Usambazaji wa haraka	Mapitio kamili na nyaraka

Mara chache kuna chakula cha bure. Kuboresha haki kunaweza kugharimu usahihi fulani. Uwezo wa kutafsiri unaweza kugharimu utendaji fulani. Utawala unagharimu muda. Njia ya kuwajibika ni kufanya mabadilishano haya kwa fahamu, kuyaandika, na kuchagua kwa upande wa walioathirika na uwezo wa kutetewa dau likiwa kubwa. Kuweka utawala kama breki ya uvumbuzi ni mgawanyo wa uongo. Hatari ya AI isiyosimamiwa yenyewe ni tishio kwa uvumbuzi endelevu.

Maswali ya kujadili na timu yako

Mifumo yetu ipi ya AI iliyosambazwa ingeainishwa na Sheria ya AI ya EU kama ya hatari kubwa, na je, tunatimiza wajibu huo leo? Sheria zilizopangwa kwa hatari sasa zinafunga, si dhana, na mfumo unaoamua kuajiri, kukopesha, au ustahiki wa manufaa unaweza kubeba mahitaji makali ambayo huenda mnayakiuka tayari. Kwa shirika kubwa, swali hili linalazimisha orodha ya uaminifu badala ya dhana ya starehe kwamba utawala “umeshughulikiwa.” Leta orodha yenu ya mifumo ya AI na ngazi zake za hatari na wamiliki, iliyochorwa dhidi ya Sheria ya AI ya EU, NIST AI Risk Management Framework, na ISO/IEC 42001 pale inapohusika. Ishara ya kutazama ni mfumo wowote wenye athari usio na uainishaji wa hatari, tathmini ya athari, wala kadi ya mfano au data. Kwa vyombo vya umma vinavyotekeleza mamlaka ya umma, wajibu uliokosekana si kipengele cha backlog, ni mfiduo wa kisheria, na jibu linapaswa kuchochea tathmini na nyaraka ambazo mifumo hiyo inahitaji.
Mmoja wa mifano yetu anapomkana mtu, je, mtu huyo anaweza kupata sababu ya lugha rahisi na kufikia binadamu anayeweza kubatilisha matokeo kweli? Haki ya maelezo na rufaa inayowezekana ndiyo inayotenganisha AI inayowajibika na sanduku jeusi linalodhuru watu bila njia ya kupata haki. Haki iliyopimwa kwa wastani bado inaweza kumshinda mtu mmoja, na uwezo wa kutafsiri uliochaguliwa baada ya usambazaji kwa kawaida ni maigizo. Leta uamuzi mahususi uliosambazwa na uufuatilie: sababu anayopokea aliyeathirika, njia ya rufaa, na kama binadamu upande wa pili ana mamlaka halisi na msingi ulioandikwa wa kubatilisha. Katika mazingira ya serikali na yanayodhibitiwa, njia ya rufaa mara nyingi ni sharti la kisheria, si adabu. Sababu ikiwa haieleweki au rufaa ikiishia muhuri wa mpira, hilo ndilo pengo la kurekebisha kabla ya toleo linalofuata.
Ni nani mtu mmoja aliyetajwa anayewajibika mfano unaposababisha madhara, na je, ana mamlaka halisi ya kuusimamisha? Uwajibikaji unakaa na binadamu na shirika, kamwe si na mfano, lakini kanuni hiyo ni tupu hadi jina liambatishwe kwa kila mfumo na mtu huyo aweze kuvuta plagi kweli. Kwa timu kubwa, umiliki uliosambaa unamaanisha kushindwa kwa haki au kuvunjwa kizuizi kunapojitokeza, kila mtu anadhania mtu mwingine anatazama. Leta ramani yenu ya umiliki, njia zenu za kupandisha ngazi, na ushahidi kwamba usimamizi una maana: je, mmiliki aliyetajwa anapata taarifa na nguvu ya kubatilisha au kusimamisha mfumo, au kuitikia kwa kichwa tu? Jadili jinsi mnavyofanya red-team kwa matumizi mabaya na unyanyasaji ambao hamjafikiria bado, kwa kuwa kujaribu matumizi yaliyokusudiwa tu hukosa kushindwa kunakofanya vichwa vya habari. Jibu halipaswi kuacha mfumo wowote wenye athari bila mmiliki anayewajibika anayeweza kuusimamisha.
Kwa kila mfano wenye athari, fasili ipi ya haki tuliichagua, nani aliidhinisha, na je, vipimo vyetu vya makundi madogo vinashikilia kweli kwenye uzalishaji? Haki ina fasili kadhaa za kihisabati zinazopingana, kwa hiyo mfano unaotimiza viwango sawa vya chanya-uongo unaweza kukiuka matokeo sawa, na kuchagua fasili ni hukumu ya thamani ambayo haipaswi kuachwa kwa yeyote aliyeandika kitanzi cha mafunzo. Kwa timu kubwa, chaguo-msingi lisilochunguzwa huficha uchaguzi ndani ya msimbo na hufanya kila kundi la chini ya mkondo kurithi uamuzi ambao hakuna aliyeujadili. Leta kipimo cha haki mlichoboresha, makundi yanayolindwa na walio hatarini mlijaribu kuvuka, data ya uwakilishi mliyotumia, na kuteleza mlichoona tangu uzinduzi, kwa kuwa kuondoa sifa inayolindwa kunaacha vibadala vinavyodumisha upendeleo. Katika mazingira ya mashirika makubwa na serikali, taja mtu mwenye mamlaka ya kukubali mabadilishano ya haki na uyaandike, kwa sababu mdhibiti au mpatanishi atauliza nani aliamua kwamba fasili hii ya haki ilikuwa sahihi kwa watu waliokataliwa mkopo, manufaa, au kazi. Kama hakuna vipimo vya makundi madogo vinavyofuatiliwa baada ya usambazaji, chukulia mfano kama usiopimwa badala ya wa haki.
Kila mfumo unaweza kuendeshwa kwa data binafsi kidogo kiasi gani, na je, tumeufanyia red-team kwa matumizi mabaya na matumizi-mawili ambayo tungependelea kutofikiria? Faragha na usalama lazima vihandisiwe ndani, na njia ya bei nafuu zaidi ya kupunguza hatari ya uvunjaji na uso wa unyanyasaji ni kukusanya na kuhifadhi data kidogo tangu mwanzo, hata hivyo timu mara kwa mara huhodhi ingizo “endapo zitasaidia baadaye.” Kwa shirika kubwa, kila uga wa ziada ni swali la msingi halali, wajibu wa uhifadhi, na zawadi kubwa zaidi kwa mshambulizi au kuvunjwa kizuizi. Leta orodha ya data na msingi halali kwa kila mfumo, matokeo ya red-teaming kwa ghiliba, uvujaji, na uzalishaji wa madhara, na orodha ya uaminifu ya uwezo wa matumizi-mawili ambapo kipengele kilekile kinachomsaidia mtumiaji halali pia kinamsaidia anayetenda kwa nia mbaya. Katika muktadha unaodhibitiwa na wa umma, funga hili na mpango wenu wa tukio: ufuatiliaji, jibu, na ufichuzi, kwa sababu chombo cha umma kinachovujisha data nyeti au kusafirisha mfumo unaoweza kuvunjwa kizuizi kinakabiliwa na wajibu wa kisheria, si aibu tu. Red-teaming ikijaribu njia iliyokusudiwa tu, mmejaribu onyesho, si mfumo.
Tunapima na kumiliki alama ya kimazingira ya mizigo yetu mikuu ya AI, au “tumia mfano mkubwa zaidi” ni chaguo-msingi lisilopimwa bei? Kufunza na kuhudumia mifano mikubwa hutumia nishati na maji halisi, na kuchagua mkubwa zaidi kwa kazi ambazo mdogo angeshughulikia hugeuza njia fupi ya kihandisi kuwa gharama inayojirudia ambayo shirika halioni kamwe kwenye dashibodi. Kwa timu kubwa inayoendesha mizigo mingi, ukosefu mdogo wa ufanisi wa kila mwito hujumlishwa kuwa alama inayokuwa dhima ya ununuzi na kuripoti matarajio ya ufichuzi yanapobana. Leta alama iliyopimwa ya mizigo yenu mizito zaidi, ulinganisho wa ukubwa wa mifano dhidi ya usahihi ambao kazi inahitaji kweli, na uchaguzi wa maunzi na kuhudumia mnaoweza kurekebisha ukubwa. Katika mazingira ya mashirika makubwa na serikali, unganisha hili na ahadi za uendelevu na vigezo vya ununuzi, kwa kuwa vyombo vya umma vinazidi kulazimika kuripoti athari ya kimazingira na kuhalalisha matumizi, na alama isiyopimwa ni namba utakayoombwa siku moja kuitoa na hutaweza. Amua kama gharama ya kimazingira ni pembejeo rasmi ya uchaguzi wa mfano, au kubali kwamba leo sivyo.

Mtazamo wa sekta

Kampuni changa. Huwezi kuajiri bodi ya utawala, kwa hiyo fanya toleo jepesi linalohesabika bado. Chagua mifano inayotafsirika pale uamuzi una athari, andika kadi ya mfano ya ukurasa mmoja, jaribu tofauti za matokeo kuvuka makundi unayoweza kuyapima, na uandike maamuzi ili uweze kupitia upya haki ukikua. Mpe uamuzi wowote mbaya sababu ya lugha rahisi na njia ya kwenda kwa binadamu. Kuruka hili si kasi, ni dhima usiyoweza kuimudu uamuzi mmoja usio wa haki ukifika kwenye vyombo vya habari au kwa mdhibiti.

Biashara ndogo. Bila mtaalamu maalumu, chukulia AI ya kuwajibika kama swali la ununuzi: pendelea wauzaji wanaoandika majaribio ya haki, wanaofichua kadi za mfano na data, na wanaokuruhusu kuwaambia wateja AI inapotumika. Jua data binafsi gani zana zako zinakusanya na kama una msingi halali wa kuitumia. Pale jibu la kiotomatiki lisilo sahihi lingeweza kumdhuru mteja, weka mtu kwenye mzunguko badala ya kuamini zana usiyoweza kuikagua wala kuielezea.

Biashara kubwa. Kazi ni utawala kwa ukubwa kuvuka timu nyingi: chora ramani ya kila mfumo kwa NIST AI Risk Management Framework, Sheria ya AI ya EU, na ISO/IEC 42001, weka orodha yenye ngazi za hatari na wamiliki waliotajwa, na uhitaji majaribio ya haki, usalama, na faragha kabla na baada ya uzinduzi. Sawazisha kadi za mfano na data, red-teaming, na michakato ya rufaa ili vikundi viache kuvibuni upya. Weka bajeti ya gharama za utawala, usimamizi, na uwezo wa kutafsiri waziwazi, na uchukulie hatari ya AI isiyosimamiwa kama tishio kwa leseni ya kufanya kazi.

Serikali. Kanuni za ununuzi, uwazi, na uwajibikaji wa umma huumba kila uchaguzi. Chapisha notisi ya uwazi ya lugha rahisi, endesha tathmini ya athari kabla ya usambazaji, na uweke uamuzi wa binadamu wenye maana kwa hatua yoyote inayomwathiri raia, ukiwa na njia ya rufaa inayowezekana. Dai wauzaji wafichue mipaka ya mfano na kutoa uhamishaji wa data, epuka ubaguzi usio halali, taja afisa anayewajibika kwa kila mfumo, na uripoti alama ya kimazingira ya mizigo mikuu.

Mifano

Kampuni changa. Kampuni changa ndogo ya kukopesha inayojenga kipengele cha mapema cha kutathmini mikopo haikuweza kuajiri bodi ya utawala, kwa hiyo ilifanya toleo jepesi lililobaki muhimu. Waanzilishi wawili waliidhinisha mfano pamoja, wakaujaribu kwa tofauti za matokeo kuvuka makundi waliyoweza kuyapima, na kuandika kadi fupi ya mfano ya ukurasa mmoja ikifunika data yake, mipaka, na hatari zinazojulikana. Walichagua mfano rahisi zaidi, unaotafsirika zaidi ili waweze kumpa mwombaji yeyote aliyekataliwa sababu ya lugha rahisi na njia ya kwenda kwa mapitio ya binadamu, na waliandika maamuzi ili kupitia upya haki wakikua.

Biashara kubwa. Benki inayosambaza mfano wa mikopo ilianzisha bodi ya utawala wa AI, ikachora mfano kwenye daraja la hatari kubwa, na kuhitaji majaribio ya haki kuvuka makundi ya idadi ya watu kabla na baada ya uzinduzi. Iliandika mfano kwenye kadi ya mfano. Iliwapa waombaji waliokataliwa sababu ya lugha rahisi na rufaa kwa mkadiriaji wa binadamu, na ilifanya red-team mfumo kwa ghiliba. Ilichagua mfano wenye usahihi mdogo kidogo lakini unaotafsirika zaidi, kwa sababu ilipaswa kueleza na kutetea kila uamuzi kwa wadhibiti.

Serikali. Wakala wa umma unaotumia AI kusaidia kugawa rasilimali za ukaguzi ulioanisha programu yake na NIST AI RMF na vifungu husika vya sheria ya AI inayotumika. Ulichapisha notisi ya uwazi ikielezea jinsi mfumo ulivyofanya kazi na ulinzi wake. Ulifanya tathmini ya athari kabla ya usambazaji, uliweka uamuzi wa binadamu wenye maana kwa hatua yoyote inayomwathiri raia, na ulitoa mchakato wa rufaa. Haki ilifuatiliwa mfululizo, gharama ya kimazingira ya mzigo iliripotiwa, na afisa anayewajibika alitajwa kuwa anajibu kwa mfumo.

Kesi ya biashara: sababu, ROI, na TCO

AI ya kuwajibika hulinda thamani kama inavyoiunda. ROI kwa kiasi kikubwa ni gharama iliyoepukwa: madai machache ya ubaguzi, adhabu za udhibiti, na maafa ya sifa; ukaguzi laini; na uaminifu mkubwa wa watumiaji na umma, unaoendesha upokeaji. Mifumo ya kuaminika pia ni imara zaidi, kwa sababu nidhamu inayozalisha haki na usalama pia huzalisha uhandisi bora.

TCO inajumuisha wafanyakazi wa utawala, majaribio ya haki na usalama, nyaraka, red-teaming, michakato ya usimamizi, na utendaji unaobadilishwa wakati mwingine kwa uwezo wa kutafsiri au haki. Ipime dhidi ya gharama ya kutowekeza: dhima ya kisheria, kufungwa kwa lazima, uaminifu wa umma uliopotea, na gharama kubwa zaidi sana ya kurudisha utawala baada ya kushindwa. Katika mazingira yanayodhibitiwa, uwekezaji wa AI ya kuwajibika unazidi kuwa usiojadilika. Weka kesi kwa uongozi kwa kuiweka kama usimamizi wa hatari na leseni ya kufanya kazi: sharti la kusambaza AI kwa ukubwa kabisa.

Mifumo mibaya na mitego

Haki kwa kuacha. Kudhania mfano ni wa haki kwa sababu unapuuza sifa zinazolindwa.
Maigizo ya kuelezea. Kuzalisha maelezo yasiyoakisi jinsi maamuzi yanavyofanywa kweli.
Usimamizi wa muhuri wa mpira. Mapitio ya binadamu kwa jina bila mamlaka wala taarifa halisi za kubatilisha.
Utawala kama wazo la baadaye. Kubandika nyaraka na mapitio baada ya usanifu na usambazaji.
Hakuna njia ya rufaa. Kuwaacha walioathirika bila njia ya kupinga uamuzi wa kiotomatiki.
Kupuuza matumizi mabaya. Kujaribu matumizi yaliyokusudiwa tu na kukosa kuvunjwa kizuizi na unyanyasaji.
Upofu wa alama. Kuchagua mfano mkubwa zaidi kwa chaguo-msingi bila kujali gharama ya kimazingira.

Kielelezo cha ukomavu

Kuanzisha. Hakuna majaribio ya haki, maelezo, wala utawala; uwajibikaji haujafafanuliwa; upendeleo, matumizi mabaya, na masuala ya faragha yanajitokeza baada ya madhara tu, na hakuna orodha ya mifumo ya AI wala hatari zake.
Kuendeleza. Baadhi ya majaribio ya upendeleo, kadi za mfano, na red-teaming yanafanyika kwenye mifumo ya mtu mmoja mmoja, lakini mazoea hayana uthabiti kuvuka timu; usimamizi ni wa papo hapo; mifumo kama NIST AI Risk Management Framework na Sheria ya AI ya EU inajulikana lakini imepokelewa kwa sehemu tu.
Kusawazisha. Utawala umeandikwa na unatekelezwa shirika zima: mifumo imechorwa kwa mifumo inayotambulika na ISO/IEC 42001, kila moja ina ngazi ya hatari na mmiliki aliyetajwa, na majaribio ya haki, usalama, na faragha, kadi za mfano na data, njia za rufaa, na red-teaming kwa mifumo ya hatari kubwa vinahitajika badala ya kuwa vya hiari.
Kusimamia. Programu inapimwa na kudhibitiwa kwa data: vipimo vya haki vya makundi madogo, matokeo ya usalama na kuvunjwa kizuizi, kiasi cha rufaa na viwango vya kubatilishwa, viwango vya kubatilisha usimamizi, na alama ya mzigo vinafuatiliwa dhidi ya vipimo vya msingi na vizingiti; kuteleza na matokeo tofauti huchochea hatua iliyofafanuliwa; maamuzi ya kwenda au kutokwenda yanategemea ushahidi badala ya uhakikisho.
Kuratibu. AI ya kuwajibika inaboreshwa mfululizo na kuunganishwa kuvuka shirika: ufuatiliaji wa haki, usalama, na matumizi mabaya unaendeshwa kwenye uzalishaji, utawala umejengwa ndani ya utoaji, gharama ya kimazingira ni pembejeo rasmi ya uchaguzi wa mfano, na shirika linarekebisha vidhibiti vyake sheria, hatari, na uwezo vinapohama, wajibu ukimilikiwa na kila mtu badala ya timu moja.

Mawazo ya kujadili

Fasili ipi ya haki inatumika kwa uamuzi fulani, na nani anaamua?
Ni usahihi au utendaji kiasi gani unaokubalika kubadilishwa kwa haki au uwezo wa kutafsiri?
Nini hufanya usimamizi wa binadamu uwe na maana badala ya muhuri wa mpira?
Rufaa dhidi ya maamuzi ya kiotomatiki zinapaswa kusanifiwaje ili ziwe za haki na za wakati?
Mnafanya vipi red-team kwa matumizi mabaya msiyoyafikiria bado?
Gharama ya kimazingira inapaswa kuathiri uchaguzi wa mfano, na mngeipimaje?

Mambo muhimu ya kukumbuka

AI ya kuaminika ni ya haki, inayoelezeka, yenye uwajibikaji, salama, na inayoheshimu faragha, kwa usanifu.
Haki na usalama ni nidhamu endelevu za kupima na kusimamia, si ukaguzi wa mara moja.
Oanisha utawala na NIST AI RMF, Sheria ya AI ya EU, na ISO/IEC 42001 ili uweze kutetewa na kukaguliwa.
Weka usimamizi wa binadamu wenye maana, uwajibikaji wazi, na haki halisi ya rufaa.
Handisi kwa faragha na dhidi ya matumizi mabaya, na uzingatie gharama ya kimazingira.

Marejeo na usomaji zaidi

National Institute of Standards and Technology, AI Risk Management Framework (AI RMF 1.0).
European Union, Artificial Intelligence Act (Regulation on Artificial Intelligence).
ISO/IEC 42001, Information technology, Artificial intelligence, Management system.
Solon Barocas, Moritz Hardt, and Arvind Narayanan, Fairness and Machine Learning: Limitations and Opportunities.
Christoph Molnar, Interpretable Machine Learning.
Cathy O’Neil, Weapons of Math Destruction.
Emma Strubell, Ananya Ganesh, and Andrew McCallum, Energy and Policy Considerations for Deep Learning in NLP.