3.17 Utafutaji na urejeshaji wa taarifa

Muhtasari na msukumo

Mapema au baadaye, mtu anaandika maneno machache kwenye kisanduku na kutarajia mfumo wako upate kitu sahihi. Kisanduku hicho ni rahisi kwa udanganyifu. Nyuma yake kuna mojawapo ya nidhamu kongwe na tajiri zaidi katika kompyuta: urejeshaji wa taarifa, sayansi ya kupata vitu husika katika mkusanyiko mkubwa kutokana na ombi lisilo sahihi. Utafutaji si kipengele unachokibana kwenye bidhaa kuchelewa; ni suala la mfumo lenye kielelezo chake cha data, njia zake za kushindwa, hadithi yake ya kupanuka, na njia yake ya kukosea. Utafutaji ukiwa mzuri, watu hupata wanachohitaji na karibu hawaugundui. Ukiwa mbaya, wanaondoka, au mbaya zaidi, wanahitimisha kile walichotaka hakipo.

Sura hii inachukulia utafutaji kama usanifu wa daraja la kwanza. Inakaa kando ya maamuzi ya data na uhifadhi ya sura ya 3.4, kwa sababu faharasa ya utafutaji ni hifadhi maalumu iliyoboreshwa kwa hoja, tofauti na mfumo wa rekodi unaomiliki ukweli. Inategemea mawazo ya kache na usambazaji ya sura ya 3.15, kwa sababu matokeo ya utafutaji na mapendekezo yanajali ucheleweshaji na yanaweza kuhifadhiwa kwenye kache. Na sasa inaingiliana sana na kazi ya akili bandia zalishi ya sura ya 6.3, kwa sababu urejeshaji wa kisasa hulisha vielelezo vikubwa vya lugha muktadha vinaouhitaji kujibu vizuri.

Kwa timu kubwa, utafutaji ni mahali umuhimu, ubichi, na ukubwa vinapogongana. Katalogi ya shirika yenye vitu makumi ya mamilioni, lango la rekodi za serikali linalowajibika kwa umma, hifadhi ya maarifa ya msaada inayopaswa kuibua makala moja inayotatua tiketi: kila moja inadai utafutaji upimwe, urekebishwe, na kuendeshwa kwa ukali ule ule kama mfumo mwingine wowote wa uzalishaji. Dau ni madhubuti. Mamlaka ya kodi ambayo utafutaji wake hauwezi kupata fomu sahihi kwenye tarehe ya mwisho ya kuwasilisha, au lango la afya linalozika mwongozo husika chini ya kelele, linashindwa watumiaji wake kwa njia inayomomonyoa uaminifu kwa taasisi iliyo nyuma yake.

Kanuni kuu

Chukulia faharasa ya utafutaji kama hifadhi inayotokana, tofauti na mfumo wako wa rekodi.
Umuhimu ni ubora unaopimika, si suala la ladha; uhukumu kwa data.
Linganisha jinsi watu wanavyoandika kweli: makosa ya tahajia, mafupi, na yenye utata.
Changanya urejeshaji wa kileksika na wa kimaana; hakuna mmoja pekee anayefunika kila hoja.
Buni bomba la kuweka kwenye faharasa kwa ubichi, si kwa upakiaji wa awali tu.
Tathmini nje ya mtandao kwa hukumu na ndani ya mtandao kwa tabia halisi, na utumie vyote viwili.
Panua utafutaji kwa makusudi kwa vipande na nakala, na uuone kama huduma yoyote.

Mapendekezo

Anza na faharasa kinyume na bomba la uchambuzi

Injini katikati ya utafutaji wa kawaida ni faharasa kinyume: ramani kutoka kila neno hadi orodha ya nyaraka zinazolibeba, taswira ya kioo ya waraka unaoorodhesha maneno yake. Omba “invoice refund” na injini inakatiza orodha ya machapisho ya “invoice” na orodha ya “refund” ndani ya milisekunde, bila kujali una nyaraka mamilioni kiasi gani. Muundo huu wa data ndio sababu utafutaji unahisi wa papo hapo, na kuuelewa kunaeleza mengi ya kile utafutaji unafanya vizuri na usichofanya.

Faharasa ni nzuri tu kama maandishi unayoilisha, na hiyo ni kazi ya kichanganuzi. Uchambuzi unaendeshwa kwa hatua. Kwanza, kutenganisha ishara hugawanya mkondo wa maandishi kuwa maneno, jambo gumu zaidi kuliko kugawanya kwa nafasi mara unapokutana na alama za uakifishaji, viunganishi, na lugha kama Kichina zisizotenganisha maneno. Kisha kusawazisha kunapunguza herufi kuwa ndogo, kuondoa alama za lafudhi, na kukunja tofauti. Kisha kuchimba mizizi au binamu yake sahihi zaidi, lemmatization, hupunguza “running,” “ran,” na “runs” kuelekea mzizi wa pamoja ili hoja ya moja ilingane na zingine. Ushughulikiaji wa maneno ya kuacha, upanuzi wa visawe, na utambuzi wa lugha hukamilisha. Kanuni inayokuokoa maumivu: uchambuzi wa wakati wa kuweka kwenye faharasa na wa wakati wa hoja lazima ukubaliane, kwa sababu neno hupatikana tu pande zote zikilisawazisha vilevile.

Elewa upangaji wa umuhimu kabla ya kuurekebisha

Kupata nyaraka zinazolingana ni nusu rahisi. Kuzipanga ili bora zaidi akae juu ni nusu ngumu, na inaitwa upangaji. Farasi wa kazi wa jadi ni TF-IDF, kifupi cha marudio ya neno mara marudio kinyume ya waraka: neno lina uzito zaidi linapoonekana mara nyingi kwenye waraka (marudio ya neno) na linapokuwa nadra kuvuka mkusanyiko mzima (marudio kinyume ya waraka), kwa hiyo “photosynthesis” inazidi “the.” Injini nyingi za kisasa hutumia Okapi BM25 kama chaguo-msingi, uboreshaji unaojaza marudio ya neno (kutokea kwa kumi kunaongeza kidogo juu ya la tisa) na kusawazisha kwa urefu wa waraka ili nyaraka ndefu zisishinde kwa ukubwa tu. Huhitaji kupata fomula, lakini unapaswa kujua kuna kifundo, kina chaguo-msingi zenye kanuni, na kukibadilisha kunabadilisha matokeo yapi yanapanga kwanza.

Hukumu ubora kwa maneno mawili kutoka kwa uwanja huu. Usahihi ni sehemu ya matokeo yaliyorudishwa ambayo ni husika; kukumbuka ni sehemu ya matokeo yote husika uliyorudisha. Vinabadilishana. Legeza hoja kunasa kila kinachowezekana kulingana na usahihi unashuka kelele zikipenya; ibane kwa seti safi ya matokeo na kukumbuka kunashuka mechi nzuri zikidondoka. Kila uamuzi wa umuhimu, kutoka uvumilivu wa makosa ya uandishi hadi upanuzi wa visawe, ni dau kuhusu wapi kando ya mkunjo huo watumiaji wako wanataka kuwa, na jibu hutofautiana kwa hifadhi ya kisheria (pendelea kukumbuka, usikose chochote) dhidi ya duka (pendelea usahihi, onyesha washindi).

Wekeza katika kuelewa hoja

Watumiaji hawaandiki jinsi nyaraka zako zilivyoandikwa. Hukosea tahajia, hufupisha, hutafuta kisawe ulichokiweka kwenye faharasa kamwe, na kusukuma nia tatu katika maneno manne. Kuelewa hoja ni safu inayovuka pengo hilo, na inalipa uwekezaji zaidi ya karibu kitu kingine chochote. Ongeza visawe vilivyochaguliwa na vilivyochimbwa ili “laptop” ipate “notebook” na “heart attack” ipate “myocardial infarction.” Ongeza uvumilivu wa makosa kupitia umbali wa uhariri, idadi ya mabadiliko ya herufi moja kati ya mfuatano miwili, ili “reciept” bado ipate risiti. Tambua vyombo na nia ili “flights to Paris under $500” ielekezwe kwenye vichujio sahihi badala ya mfuko wa maneno.

Shughulikia hoja ngumu zaidi kwa makusudi. Utafutaji wa mfuatano nadra kamili, kama namba ya agizo au rejeo la sheria, unataka mechi kamili bila upanuzi wa busara. Swali lisilo wazi la lugha ya asili linataka kinyume. Yaelekeze tofauti badala ya kulazimisha tabia moja kwa yote mawili. Na daima buni kesi ya matokeo-sifuri: hoja inaporudisha hakuna, ilegeze, pendekeza mbadala, au rudi kwenye mechi pana zaidi, kwa sababu ukurasa tupu ndiyo njia ya haraka zaidi ya kumpoteza mtumiaji.

Ongeza nyanja, ukamilishaji otomatiki, na uchujaji wenye muundo

Utafutaji ni zaidi ya orodha iliyopangwa. Utafutaji wa nyanja huwaruhusu watumiaji kupunguza matokeo kwa sifa zenye muundo: chapa, wigo wa bei, idara, tarehe, aina ya waraka. Nyanja hugeuza seti ya matokeo inayolemea kuwa mazungumzo yanayoongozwa, na pia hufanya kazi kama urambazaji. Zinategemea data yako kuwa na sifa safi, ambayo ni uwekezaji wa ubora wa data juu ya mkondo kutoka utafutaji, na huingiliana na upangaji, kwa sababu kichujio hubadilisha seti ya wagombea ambayo mpangaji anaiona.

Ukamilishaji otomatiki na mapendekezo huumba hoja kabla hata haijawasilishwa. Kipendekezi kizuri hupendekeza hoja halisi, zenye thamani ya juu mtumiaji anapoandika, husahihisha tahajia mapema, na huibua nia maarufu au zinazovuma. Kinajali ucheleweshaji sana (kila kibonyezo ni ombi) na kinanufaika moja kwa moja na mifumo ya kache ya sura ya 3.15. Mapendekezo pia huwaelekeza watu kwenye hoja unazozishughulikia vizuri, jambo linaloinua umuhimu wa jumla kimyakimya. Chukulia kipendekezi kama faharasa yake ndogo yenye upangaji wake, iliyorekebishwa kwa kumbukumbu za hoja badala ya maudhui ya nyaraka.

Changanya utafutaji wa kileksika na wa vekta

Utafutaji wa kawaida hulinganisha maneno. Hauwezi kusema kwamba “car” na “automobile” zina maana ileile isipokuwa umeuambia, na hukwama kwenye maswali yaliyoelezwa kwa njia ambazo nyaraka zako hazitumii kamwe. Utafutaji wa vekta hushughulikia hili kwa kuwakilisha maandishi kama kiingizo, vekta mnene ya namba inayozalishwa na kielelezo cha kujifunza kwa mashine kwamba maana zinazofanana hutua karibu pamoja katika nafasi ya vekta. Urejeshaji kisha unakuwa utafutaji wa jirani wa karibu zaidi katika nafasi hiyo, na kwa sababu jirani wa karibu zaidi kamili ni polepole mno kwa ukubwa, injini hutumia algoriti za jirani wa karibu zaidi wa makadirio (ANN) zinazobadilisha kipande kidogo cha usahihi kwa ushindi mkubwa wa kasi. Utafutaji wa kimaana wa aina hii hupata waraka sahihi hata usipopatana maneno na hoja.

Hakuna mbinu inayoshinda kila mahali. Utafutaji wa kileksika ni bora kwa maneno kamili, majina, misimbo, na maneno muhimu nadra; ni wa uwazi na nafuu kuuelezea. Utafutaji wa vekta ni bora kwa maana, maelezo mbadala, na maswali ya lugha ya asili, lakini unaweza kukosa kitambulisho kamili na ni mgumu zaidi kutatua. Chaguo-msingi imara kwa mifumo makini ni utafutaji mseto: endesha yote mawili na uchanganye matokeo, mara nyingi kwa mbinu kama muunganiko wa nafasi wa kuridhiana unaochanganya orodha mbili zilizopangwa bila kuhitaji alama zake zilinganishike. Mseto unakupa usahihi wa maneno muhimu na kukumbuka kwa maana, na hudhoofika kwa neema upande wowote ukiwa dhaifu.

Unganisha utafutaji na uzalishaji unaoongezwa na urejeshaji

Mtumiaji anayekua kwa kasi zaidi wa utafutaji si binadamu anayesoma orodha ya matokeo; ni kielelezo cha lugha. Uzalishaji unaoongezwa na urejeshaji (RAG) huweka kielelezo zalishi kwenye data yako kwa kurejesha vifungu husika na kuviweka kwenye muktadha wa kielelezo ili kijibu kutoka kwa ukweli wako badala ya kumbukumbu yake ya mafunzo. Ubora wa uzalishaji wa sura ya 6.3 unategemea moja kwa moja ubora wa urejeshaji: lisha kielelezo vifungu visivyo sahihi na kitaunganisha jibu lisilo sahihi kwa kujiamini. Kila kitu katika sura hii (kugawanya maandishi kuwa vifungu, kuvipanga vizuri, kuchanganya ishara za kileksika na vekta, kuweka faharasa ikiwa mbichi) ndiyo hasa nusu ya urejeshaji ya RAG. Shirika lenu likijenga juu ya vielelezo vikubwa vya lugha, mfumo wenu wa utafutaji ndio msingi, na kuboresha kukumbuka kwenye vifungu sahihi mara nyingi humsaidia msaidizi zaidi ya kubadilisha kielelezo.

Jenga bomba la kuweka kwenye faharasa kwa ubichi

Faharasa ni nakala, na nakala huteleza. Bomba la kuweka kwenye faharasa ni mashine inayoweka faharasa ya utafutaji sawa na mfumo wa rekodi: kusoma mabadiliko ya chanzo, kuendesha uchambuzi na viingizo, na kuandika kwenye faharasa, kwa hakika kama mkondo badala ya kundi la kila usiku. Hili ni suala la uhandisi wa data (sura ya 7.2), na uangalifu ule ule kuhusu mpangilio, majaribio ya kurudia, na kutobadilika thamani kutoka sura ya 3.3 unatumika, kwa sababu sasisho lisilo kwa mpangilio linaweza kufufua waraka uliofutwa. Amua lengo lako la ubichi waziwazi. Bei au hesabu ya hisa inaweza kuhitaji kutafutika ndani ya sekunde; waraka wa sera uliohifadhiwa unaweza kuchelewa kwa saa. Unga mkono kuweka upya kwa faharasa nzima kwa mabadiliko ya muundo na kichanganuzi, na ubuni iendeshe bila kukatika, kwa kawaida kwa kujenga faharasa mpya na kubadilisha jina mbadala kwa atomiki ikiwa tayari.

Rekebisha umuhimu kwa tathmini, si maoni

Mabishano ya umuhimu hayashindiki kwa kudai, kwa hiyo badilisha maoni na upimaji. Nje ya mtandao, jenga orodha ya hukumu: seti ya hoja wakilishi zilizooanishwa na viwango vya binadamu vya matokeo yapi ni husika, na ukadirie upangaji wako dhidi yake kwa kipimo kama NDCG (faida iliyojumlika iliyopunguzwa iliyosawazishwa), inayotuza kuweka matokeo husika sana karibu na juu na kupunguza yale yaliyozikwa chini. Tathmini ya nje ya mtandao inakuruhusu kulinganisha usanidi miwili ya upangaji kabla yoyote haijagusa mtumiaji. Ndani ya mtandao, tazama tabia halisi: kiwango cha kubofya, nafasi ya matokeo yaliyobofywa, kuunda upya hoja, kiwango cha matokeo-sifuri, na ubadilishaji. Endesha majaribio yanayodhibitiwa (sura ya 7.4) ili badiliko la umuhimu lithibitishwe dhidi ya kikundi cha kudhibiti badala ya kusafirishwa kwa hisia. Tumia yote mawili, kwa sababu vipimo vya nje ya mtandao ni vya haraka lakini vya kiitikadi, wakati vya ndani ya mtandao ni halisi lakini polepole na vyenye kelele. Mzunguko uliokomaa huchimba kumbukumbu za hoja kukuza orodha ya hukumu, ili tathmini iboreke unavyojifunza.

Panua kwa vipande na nakala, na uone kila kitu

Utafutaji hupanuka kwa mihimili miwili. Kugawanya hugawanya faharasa moja kuvuka mashine kwa kugawa nyaraka, kwa hiyo hoja hutawanyika kwa kila kipande na matokeo ya sehemu huunganishwa; hii inaruhusu faharasa kukua zaidi ya mashine moja inavyoweza kushikilia na kueneza mzigo wa kuweka kwenye faharasa. Nakala hunakili kila kipande ili trafiki ya kusoma ienee kuvuka nakala na kupoteza nodi moja kusipoteze data; nakala huhudumia uwezo wa kupitisha hoja na kutoa ustahimilivu. Vipande zaidi huinua gharama ya kutawanya kwa kila hoja, kwa hiyo vipimie data yako, si namba ya mviringo. Endesha utafutaji kwa uonekanaji wa sura ya 9.2: fuatilia asilimia za ucheleweshaji wa hoja (mkia unajalisha zaidi ya wastani), ucheleweshaji wa kuweka kwenye faharasa, viwango vya mafanikio ya kache, viwango vya makosa, na, kama ishara za daraja la kwanza, vipimo vya umuhimu kama kiwango cha matokeo-sifuri na nafasi ya kubofya. Mfumo wa utafutaji ulio wa haraka lakini unaorudisha matokeo duni unashindwa kimyakimya, na telemetri ya umuhimu pekee ndiyo itakuambia.

Mabadilishano: faida na hasara

Mbinu	Faida	Hasara
Utafutaji wa kileksika (BM25)	Maneno kamili, misimbo, majina; uwazi; nafuu	Kipofu kwa visawe na maelezo mbadala bila kurekebisha
Utafutaji wa vekta (kimaana)	Huelewa maana na maswali; kukumbuka imara	Hukosa vitambulisho kamili; ghali kukokotoa; ngumu kutatua
Utafutaji mseto	Usahihi wa maneno muhimu pamoja na kukumbuka kwa maana	Sehemu zaidi zinazosonga; muunganiko unahitaji kurekebisha na kujaribu
Upanuzi mkali wa makosa ya uandishi na visawe	Kukumbuka juu zaidi; huvumilia watumiaji halisi	Usahihi unashuka; matokeo yenye kelele yasipodhibitiwa
Kuweka kwenye faharasa kwa wakati halisi	Matokeo mabichi ndani ya sekunde	Gharama na ugumu wa juu kuliko kundi
Vipande zaidi	Faharasa kubwa zaidi; kuweka kwenye faharasa sambamba	Gharama ya juu ya kutawanya na kuratibu kwa kila hoja
Tathmini ya nje ya mtandao (orodha za hukumu)	Haraka, inayorudiwa, salama kurudia	Ya kiitikadi; inaweza kutolingana na tabia halisi ya mtumiaji
Tathmini ya ndani ya mtandao (vipimo vya kubofya, majaribio)	Inaakisi watumiaji na nia halisi	Polepole, yenye kelele, inahitaji trafiki na nidhamu ya majaribio

Mvutano unaojirudia ni usahihi dhidi ya kukumbuka, na unajificha ndani ya kila kifundo. Legeza kulinganisha, panua visawe, na uegemee maana, na unakamata zaidi kwa gharama ya kelele; bana kila kitu na ni safi lakini unakosa vitu. Hakuna mpangilio wa jumla, ni mpangilio sahihi kwa mkusanyiko na hadhira mahususi tu, unaogunduliwa kwa upimaji. Mvutano wa pili ni ubichi dhidi ya gharama: kuweka kwenye faharasa kwa wakati halisi na urejeshaji mseto vyote hununua ubora kwa kokotoo na ugumu. Suluhisha yote mawili kwa njia ileile, kwa kufunga kila uamuzi na kipimo cha tathmini na matokeo ya mtumiaji badala ya hisia, ili uweze kuona kila badiliko lilinunua nini kweli.

Maswali ya kujadili na timu yako

Tunapimaje umuhimu wa utafutaji leo, na tungegundua ukizidi kuwa mbaya? Timu nyingi haziwezi kujibu hili, ikimaanisha umuhimu wao ni chochote chaguo-msingi lilizalisha na wanaruka vipofu kwa kurudi nyuma. Leta ishara zenu za sasa: mna orodha ya hukumu, mnafuatilia kiwango cha matokeo-sifuri na nafasi ya kubofya, mngeweza kulinganisha usanidi miwili ya upangaji kimalengo? Pengo kati ya “utafutaji unahisi sawa” na “huu ni NDCG yetu kwenye hoja mia zilizokadiriwa, na huu ni mwelekeo wa mwezi uliopita” ni pengo kati ya kubahatisha na uhandisi. Hatua inayofuata ni kujenga hata orodha ndogo ya hukumu na kuweka vifaa vya kupima tabia ya kubofya, kwa sababu huwezi kurekebisha usichoweza kupima, na kila badiliko la umuhimu mnalosafirisha kipofu ni badiliko msiloweza kulitetea.
Utafutaji wa kileksika na wa kimaana kila mmoja unatushindwa wapi, na je, tuende mseto? Utafutaji safi wa maneno muhimu hushindwa kimyakimya kwenye maswali yaliyoelezwa kwa njia nyingine na visawe, wakati utafutaji safi wa vekta hushindwa kimyakimya kwenye vitambulisho kamili na maneno nadra, na timu nyingi zimeendesha moja kati ya hizo mbili tu. Leta seti ya hoja halisi zilizorudisha matokeo duni na uainishe kwa nini kila moja ilishindwa: ilikuwa kisawe kinachokosekana, kosa la tahajia, kutolingana kwa kimaana, au mechi kamili inayokosekana? Mfumo katika kushindwa huko unakuambia kama utafutaji mseto ungesaidia na wapi kutumia juhudi kwanza. Hili ni muhimu zaidi mkilisha kielelezo cha lugha, kwa sababu kushindwa kwa urejeshaji kunakuwa majibu yasiyo sahihi ya kujiamini, na gharama ya matokeo mabaya inapanda sana safu ya zalishi inapokaa juu yake.
Sharti letu la ubichi ni lipi, na je, bomba letu la kuweka kwenye faharasa linalitimiza kweli? Ubichi kwa kawaida hudhaniwa badala ya kubainishwa, kwa hiyo timu hugundua kutolingana wakati wa tukio kipengee kilichofutwa kinapoendelea kuonekana au sasisho la bei linapochelewa kwa saa. Leta namba halisi: inachukua muda gani kutoka badiliko katika mfumo wa rekodi hadi badiliko hilo kutafutika, na hiyo inalinganishwaje na kile sehemu tofauti za katalogi yenu zinahitaji kweli? Jibu kuna uwezekano litatofautiana kwa aina ya data, na kulitaja kunalazimisha maamuzi ya bomba kuhusu mkondo dhidi ya kundi, mpangilio, na kuweka upya kwenye faharasa. Faharasa iliyopitwa na wakati kwa njia ambazo watumiaji wako wanaweza kuziona inamomonyoa uaminifu kwa bidhaa nzima, na lengo la ubichi msilolipima kamwe ni lengo ambalo huenda mnalikosa.
Tunajenga utafutaji kwenye injini yetu wenyewe au tunanunua huduma ya utafutaji au vekta inayosimamiwa, na ingetugharimu nini kubadilisha mawazo baadaye? Uamuzi wa kujenga-dhidi-ya-kununua huweka muundo wa gharama zenu na dari ya udhibiti kwa miaka, na timu kubwa huelekea kuteleza kwenye jibu moja kwa uvivu badala ya kuamua kwa makusudi. Leta namba halisi pande zote mbili: gharama ya uendeshaji wa kuendesha na kupanua kundi lenu na bomba la viingizo dhidi ya gharama ya kila hoja au usajili wa huduma inayosimamiwa, na muda wa kihandisi ambao kila moja inadai kutoka kwa watu ambao mngeweza kuwapeleka kwingine. Kigeu kilichofichika ni kufungwa: kiasi gani cha upangaji wenu, uchambuzi, na muundo wa vekta kinahamishika, na uhamishaji ungechukua muda gani kweli bei au uwezo ukibadilika chini yenu. Katika mazingira ya mashirika makubwa na serikali, ongeza muda wa ununuzi na wajibu wa kutoka, kwa sababu huduma isiyoweza kufichua tabia ya upangaji wake au kusafirisha faharasa yenu ni utegemezi ambao huenda hamruhusiwi kukubali.
Tuko tayari kuwekeza kiasi gani katika kuelewa hoja, na nani anapitia hoja zinazoshindwa? Watumiaji hukosea tahajia, hufupisha, na kuuliza maswali kwa maneno ambayo nyaraka zenu hazitumii kamwe, kwa hiyo pengo kati ya hoja ghafi na matokeo mazuri ndipo ubora mwingi wa utafutaji unaoonekana unaishi, hata hivyo mara chache ni kazi ya mtu aliyetajwa. Leta kiwango chenu cha matokeo-sifuri, hoja zenu kuu zinazoshindwa na kuundwa upya, na maelezo ya uaminifu ya visawe, uvumilivu wa makosa ya uandishi, na ushughulikiaji wa nia mlio nao leo. Mvuto unaoshindana ni usahihi dhidi ya kukumbuka: kila kisawe na kila kipimo cha umbali wa uhariri mnachoruhusu hukamata watumiaji halisi zaidi na kuruhusu kelele zaidi, kwa hiyo uwekezaji sahihi ni ule mnaoweza kuupima badala ya ule unaosikika wa ukarimu. Kwa shirika kubwa au la umma, mkia mrefu wa hoja zinazoshindwa pia ni ramani ya hitaji lisilotimizwa, na kuipitia kwa mzunguko thabiti hugeuza gharama ya msaada kuwa ramani ya barabara, hasa pale fomu au manufaa yaliyokosekana yana matokeo halisi kwa raia.
Nani anamiliki umuhimu kama wajibu unaofadhiliwa, unaoendelea, na mzunguko wa tathmini utanusurikaje baada ya uzinduzi? Utafutaji haukamiliki kamwe: katalogi hubadilika, lugha huteleza, na marekebisho ya robo iliyopita huoza kimyakimya, kwa hiyo mfumo usio na mmiliki anayewajibika hurudi nyuma kuelekea chochote chaguo-msingi zinazozalisha. Leta hali halisi ya chati ya shirika: je, umuhimu ni timu iliyotajwa yenye muda na vipimo, au kazi inayotua kwa yeyote aliyegusa faharasa mwisho, na orodha ya hukumu na jukwaa la majaribio vipo ambavyo mtu mpya anaweza kuchukua? Mvutano ni kwamba kazi ya umuhimu haivutii na ni rahisi kuacha kuifadhili mara utafutaji unapoonekana kufanya kazi, ambayo ndiyo hasa wakati kuoza kunapoanza. Katika mazingira ya mashirika makubwa na serikali, funga umiliki na wajibu madhubuti, usahihi kwa kila soko, ufikivu, ufikiaji wa lugha nyingi, na mapitio ya hoja za matokeo-sifuri, ili wajibu uweze kukaguliwa na usitoweke timu ya uzinduzi inapotawanyika.

Mtazamo wa sekta

Kampuni changa. Fikia huduma ya utafutaji au vekta inayosimamiwa na usafirishe chaguo-msingi za BM25 siku ya kwanza; usianzishe kundi lako kabla hujapata hoja za kurekebisha dhidi yake. Chagua uso mmoja wa utafutaji unaogusa mapato au uhifadhi wa wateja, weka vifaa vya kupima nafasi ya kubofya na kiwango cha matokeo-sifuri tangu toleo la kwanza, na uache kumbukumbu halisi za hoja, si ramani ya barabara, zikuambie lini kuongeza visawe au safu ya kimaana. Safu ileile ya urejeshaji unayojenga kwa utafutaji inakuwa sehemu ya nyuma ya uzalishaji unaoongezwa na urejeshaji baadaye, kwa hiyo iweke nyuma ya kiolesura chembamba.

Biashara ndogo. Karibu huna mhandisi wa umuhimu, kwa hiyo nunua utafutaji uliojengwa ndani ya jukwaa unaloendesha tayari, kama mwenyeji wako wa biashara ya mtandaoni, dawati la msaada, au mfumo wa usimamizi wa maudhui, na uchukulie kurekebisha kama kazi nyepesi ya mara kwa mara badala ya mradi. Tumia juhudi yako ndogo kwenye misingi ya ubora wa data ambayo utafutaji unategemea: sifa safi za bidhaa kwa nyanja, vichwa vya busara, na orodha fupi ya visawe kwa maneno ambayo wateja wako wanatumia kweli. Tazama hoja za matokeo-sifuri kila mwezi, kwa sababu ni ishara ya bei nafuu zaidi ya pengo unaloweza kuziba bila mhandisi.

Biashara kubwa. Tatizo ni umuhimu kwa ukubwa kuvuka timu, katalogi, na lugha nyingi: mbinu ya pamoja ya orodha ya hukumu, tathmini kwa kila soko, na kazi ya umuhimu inayofadhiliwa ili kila kikundi kisirekebishe BM25 kutoka mwanzo. Sawazisha bomba la kuweka kwenye faharasa, malengo ya ubichi, na nidhamu ya majaribio inayodhibiti mabadiliko ya upangaji, na upime ukubwa wa vipande na nakala kwa makusudi badala ya mazoea. Pima kujenga dhidi ya kununua waziwazi, kwa kuwa huduma ya vekta inayosimamiwa inaweza kupunguza gharama ya uendeshaji kwa bei ya udhibiti fulani na kufungwa kunakowezekana.

Serikali. Kuweza kupatikana mara nyingi ni wajibu wa kisheria na suala la usawa: raia asiyeweza kupata fomu sahihi hawezi kutumia haki. Pendelea kukumbuka na upangaji unaoweza kufasiriwa ili wakala uweze kueleza kwa nini matokeo yalionekana, ongeza visawe vinavyovuka maneno ya lugha rahisi hadi vichwa rasmi, na uchukulie ufikivu na msaada wa lugha nyingi kama mahitaji badala ya nyongeza. Ununuzi unapaswa kupima kufungwa na kuhitaji huduma yoyote inayosimamiwa ifichue tabia yake ya upangaji na kutoa uhamishikaji wa data, na hoja za matokeo-sifuri zinapaswa kupitiwa kama rekodi ya umma ya hitaji lisilotimizwa.

Mifano

Kampuni changa. Kampuni ya programu ya watu kumi inaongeza utafutaji kwenye hifadhi yake ya maarifa ya msaada ili wateja wajihudumie. Wanaanza na chaguo-msingi za BM25 na haraka kugonga dari: watumiaji wanauliza maswali kwa lugha rahisi yasiyoshiriki maneno muhimu na makala. Wanaongeza viingizo vya vekta na kuvichanganya kwa muunganiko wa nafasi wa kuridhiana, na kuepuka maombi ya msaada kunaboreka mara moja. Kurekebisha, wanachimba kumbukumbu zao za hoja, kuweka alama mamia ya jozi za hoja-makala, na kufuatilia nafasi ya kubofya kila wiki. Baadaye wanapoongeza msaidizi ndani ya bidhaa, safu ileile ya urejeshaji inakuwa sehemu ya nyuma ya RAG, kwa hiyo uwekezaji wa utafutaji unalipa mara mbili.

Biashara kubwa. Muuzaji wa rejareja wa kimataifa anaendesha utafutaji wa bidhaa juu ya vitu makumi ya mamilioni kuvuka masoko na lugha kadhaa. Faharasa imegawanywa kwa ukubwa na kunakiliwa kwa uwezo wa kupitisha, na vichanganuzi vya kila lugha vinashughulikia kutenganisha ishara na kuchimba mizizi kwa usahihi kwa kila soko. Urambazaji wa nyanja kwa chapa, bei, na upatikanaji hugeuza seti kubwa za matokeo kuwa kuvinjari kunakoongozwa, na ukamilishaji otomatiki unawaelekeza wanunuzi kwenye hoja zinazobadilisha vizuri. Umuhimu ni timu inayofadhiliwa yenye orodha za hukumu kwa kila soko na majaribio endelevu ya ndani ya mtandao; badiliko la upangaji linasafirishwa tu baada ya kushinda udhibiti kwenye ubadilishaji. Bomba la kuweka kwenye faharasa la wakati halisi linaweka bei na hisa zikitafutika ndani ya sekunde, kwa sababu kipengee kilichouzwa kikipangwa cha kwanza ni mauzo yaliyopotea na tiketi ya msaada.

Serikali. Wakala wa kitaifa unachapisha kanuni, fomu, na miongozo ambayo umma lazima uweze kuzipata, mara nyingi chini ya wajibu wa kisheria na mzigo wa kilele unaoendeshwa na tarehe za mwisho. Timu inapendelea kukumbuka na uwazi: raia anayetafuta manufaa lazima asikose fomu husika, na wakala lazima uweze kueleza kwa nini matokeo yalionekana, jambo linalowasukuma kuelekea upangaji wa kileksika unaoweza kufasiriwa uliozidishwa, kwa uangalifu, na visawe vya maneno ya lugha rahisi watu wanayotumia badala ya vichwa rasmi. Ufikivu na msaada wa lugha nyingi ni mahitaji, si nyongeza. Faharasa inawekwa upya bila kukatika nyuma ya jina mbadala nyaraka za sera zinapobadilika, na hoja za matokeo-sifuri zinaandikwa na kupitiwa kama ishara ya hitaji la umma lisilotimizwa.

Kesi ya biashara: sababu, ROI, na TCO

Utafutaji uko moja kwa moja kwenye njia ya thamani. Katika biashara, sehemu inayopimika ya mapato hutiririka kupitia kisanduku cha utafutaji, na watumiaji wanaotafuta hubadilisha kwa viwango vya juu kuliko wale wanaovinjari tu, kwa hiyo pointi chache za uboreshaji wa umuhimu hubadilika kuwa fedha halisi. Katika msaada na zana za ndani, utafutaji bora huepusha tiketi, hufupisha muda wa kushughulikia, na kurejesha saa ambazo wafanyakazi wa maarifa hupoteza wakitafuta nyaraka. Katika sekta ya umma, utafutaji unaofaa ni suala la ubora wa huduma na usawa: watu wasioweza kupata fomu au mwongozo sahihi hawawezi kutumia haki wala kutimiza wajibu. Matokeo haya yanapimika, ndiyo maana utafutaji unastahili tathmini inayofadhiliwa badala ya chaguo-msingi za juhudi bora.

Jumla ya gharama ya umiliki inakwenda mbali zaidi ya leseni au kundi. Unalipia kokotoo na uhifadhi wa faharasa na nakala zake, uzalishaji wa viingizo ukienda kimaana, bomba la kuweka kwenye faharasa linalolifanya liwe bichi, na, zaidi ya yote, kazi ya binadamu inayoendelea ya kurekebisha umuhimu na tathmini. Gharama hiyo ya mwisho ndiyo timu zinadharau na ndiyo inayoamua mafanikio zaidi, kwa sababu utafutaji haukamiliki kamwe: katalogi hubadilika, lugha huteleza, na marekebisho ya jana huoza. Kununua huduma ya utafutaji au vekta inayosimamiwa kunaweza kupunguza gharama ya uendeshaji na kukuharakisha, kwa bei ya udhibiti fulani na kufungwa kunakowezekana, uamuzi wa kawaida wa kununua-dhidi-ya-kujenga wa kupimwa dhidi ya ukubwa wako na utofautishaji. Kesi yenye nguvu zaidi ya biashara huunganisha kipimo mahususi cha umuhimu na matokeo mahususi, hufadhili mzunguko wa tathmini, na kuchukulia utafutaji kama bidhaa inayopimwa na kuboreshwa, si kijenzi kinachosakinishwa na kusahaulika.

Mifumo mibaya na mitego

Uchambuzi usiolingana: vichanganuzi vya wakati wa faharasa na wa hoja vinatofautiana, kwa hiyo maneno yanashindwa kulingana kimyakimya na matokeo yanatoweka bila kosa.
Umuhimu kwa maoni: upangaji unaorekebishwa na yeyote anayebishana kwa nguvu zaidi, bila orodha ya hukumu, bila vipimo, na bila njia ya kunasa kurudi nyuma.
Imani ya vekta tu: kubadilisha utafutaji wa maneno muhimu kabisa na viingizo, kisha kushindwa kwenye vitambulisho kamili, misimbo, na maneno nadra.
Kupuuza matokeo-sifuri: kuacha kurasa tupu za matokeo zisimame badala ya kulegeza, kupendekeza, au kurudi nyuma, na kumpoteza mtumiaji.
Faharasa iliyopitwa na wakati: bomba la kundi la kila usiku linalohudumia bei, hisa, au ufutaji ambao watumiaji wanaweza kuona si sahihi.
Kukatika kwa kuweka upya faharasa: kujenga upya mahali badala ya nyuma ya jina mbadala, kuzima utafutaji wakati wa kila badiliko la muundo.
Chaguo-msingi zisizorekebishwa milele: kusafirisha BM25 ya nje ya boksi na kamwe kuipitia mkusanyiko na hadhira vinapobadilika.
Hakuna telemetri ya umuhimu: kufuatilia ucheleweshaji na makosa lakini si kiwango cha matokeo-sifuri wala nafasi ya kubofya, kwa hiyo matokeo duni yanashindwa kimyakimya.
Upanuzi wa kupita kiasi: kurundika visawe na uvumilivu wa makosa ya uandishi hadi usahihi unaporomoka na kila hoja inarudisha kelele.

Kielelezo cha ukomavu

Ngazi ya 1, Kuanzisha: Utafutaji ni hoja ya kawaida ya hifadhidata au injini isiyorekebishwa yenye mipangilio ya kiwandani, iliyowekwa kwa kuitikia mtu hatimaye anapoomba. Hakuna upimaji wa umuhimu, hakuna safu ya kuelewa hoja, na ubichi ni chochote kazi ya kundi inachotokea kuzalisha. Matokeo duni yanagunduliwa tu watumiaji wanapolalamika, na kila marekebisho ni la mara moja.
Ngazi ya 2, Kuendeleza: Injini halisi ya utafutaji ipo na uchambuzi wa busara, upangaji wa BM25, na nyanja na ukamilishaji otomatiki wa msingi. Visawe fulani na uvumilivu wa makosa ya uandishi vipo, timu inafuatilia ucheleweshaji na makosa, na imeanza kuandika hoja za matokeo-sifuri. Mazoea hutofautiana timu hadi timu na bidhaa hadi bidhaa, na umuhimu bado unarekebishwa kwa maoni badala ya ushahidi.
Ngazi ya 3, Kusawazisha: Mazoea ya umuhimu yameandikwa na kutumika kwa uthabiti kuvuka shirika. Timu zinapima kwa mbinu ya pamoja ya orodha ya hukumu na NDCG nje ya mtandao na vipimo vya kubofya ndani ya mtandao, zinaendesha urejeshaji mseto wa kileksika-pamoja-na-vekta pale unaposaidia, zinashikilia bomba la kuweka kwenye faharasa kwa lengo lililotajwa la ubichi, na kuweka upya faharasa bila kukatika nyuma ya jina mbadala. Vipande na nakala vimepimwa kwa makusudi, na vipimo vya umuhimu vinafuatiliwa kando ya vya uendeshaji.
Ngazi ya 4, Kusimamia: Utafutaji unapimwa na kudhibitiwa dhidi ya vipimo vya msingi. Kila uso wa utafutaji unafuatilia mwelekeo wa NDCG, kiwango cha matokeo-sifuri, nafasi ya kubofya, na kiwango cha kuunda upya hoja dhidi ya kipimo cha msingi kilichokubaliwa, na malengo ya kiwango cha huduma kwa asilimia za ucheleweshaji wa hoja na ucheleweshaji wa kuweka kwenye faharasa. Mabadiliko ya upangaji na uchambuzi yanasafirishwa tu baada ya jaribio linalodhibitiwa kushinda udhibiti kwenye matokeo yaliyotajwa, kurudi nyuma kwa umuhimu kunachochea tahadhari kiotomatiki, na dashibodi za kila soko au kila kundi hufanya kuoza kimya kuonekane kabla watumiaji hawajahisi. Maamuzi ya kubadilisha kifundo yanafanywa kwa data, yenye vigezo wazi vya kurudisha nyuma.
Ngazi ya 5, Kuratibu: Uboreshaji wa utafutaji ni mzunguko endelevu unaoendeshwa na majaribio uliounganishwa kuvuka shirika. Orodha za hukumu zinakua kutoka kumbukumbu za hoja zilizochimbwa, kuelewa hoja kunajirekebisha kwa lugha halisi, na urejeshaji unarekebishwa kama msingi wa pamoja wa programu za zalishi za chini ya mkondo. Mfumo mzima unaonekana mwanzo hadi mwisho kwa kasi na umuhimu, na mazoea ya utafutaji hujisawazisha upya katalogi, lugha, na mandhari ya vielelezo yanapoteleza.

Mawazo ya kujadili

Sehemu gani ya utafutaji wenu inarudisha matokeo-sifuri au kusababisha kuunda upya hoja, na hoja hizo zinafichua nini kuhusu hitaji lisilotimizwa?
Mkibadilisha utafutaji wa maneno muhimu na utafutaji safi wa vekta kesho, hoja zipi zingevunjika, na mngejuaje kabla watumiaji wenu hawajajua?
Nani anamiliki umuhimu katika shirika lenu, na je, wana orodha ya hukumu na vipimo, au maoni na hadithi tu?
Ucheleweshaji kutoka badiliko katika mfumo wenu wa rekodi hadi badiliko hilo kutafutika ni upi, na je, unakubalika kwa kila aina ya data?
Kielelezo cha lugha kikitumia matokeo yenu ya utafutaji, ubora wa urejeshaji wenu unatimiza kiwango cha juu ambacho jibu la zalishi linadai?
Mngetetea vipi badiliko la upangaji kwa mdau mwenye shaka: kwa matokeo ya jaribio, au kwa hadithi?

Mambo muhimu ya kukumbuka

Chukulia utafutaji kama mfumo wa daraja la kwanza: faharasa inayotokana yenye kielelezo chake cha data, bomba, ukubwa, na njia za kushindwa, tofauti na mfumo wako wa rekodi.
Bobea misingi (faharasa kinyume, uchambuzi unaolingana, upangaji wa BM25, usahihi dhidi ya kukumbuka) kabla ya kufikia kitu cha kisasa zaidi.
Wekeza katika kuelewa hoja (visawe, uvumilivu wa makosa ya uandishi, nia, na mpango halisi wa matokeo-sifuri) kwa sababu watumiaji hawaandiki kamwe jinsi nyaraka zako zinavyosomeka.
Chaguo-msingi ni urejeshaji mseto unaochanganya utafutaji wa kileksika na wa vekta, na ukumbuke safu hii ya urejeshaji ndiyo msingi wa uzalishaji unaoongezwa na urejeshaji.
Badilisha maoni na upimaji: orodha za hukumu na NDCG nje ya mtandao, vipimo vya kubofya na majaribio yanayodhibitiwa ndani ya mtandao, na telemetri ya umuhimu inayofuatiliwa kama ishara yoyote ya uzalishaji.

Marejeo na usomaji zaidi

Christopher D. Manning, Prabhakar Raghavan, and Hinrich Schütze, Introduction to Information Retrieval
Stephen E. Robertson and Hugo Zaragoza, The Probabilistic Relevance Framework: BM25 and Beyond
Ricardo Baeza-Yates and Berthier Ribeiro-Neto, Modern Information Retrieval: The Concepts and Technology behind Search
Doug Turnbull and John Berryman, Relevant Search: With Applications for Solr and Elasticsearch
Trey Grainger, Doug Turnbull, and Max Irwin, AI-Powered Search
Patrick Lewis et al., “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”
Jeff Johnson, Matthijs Douze, and Hervé Jégou, “Billion-Scale Similarity Search with GPUs”
Kalervo Järvelin and Jaana Kekäläinen, “Cumulated Gain-Based Evaluation of IR Techniques”