La hereda halucinaĵo

Ĉapitro 4 — La hereda halucinaĵo

Tio estas eble la plej instrukcia rakonto de la tuta enketo, ĉar ĝi tuŝas temon, kiun la lerniloj preterlasas kaj kiu fakte kaŭzas pli da damaĝo ol ĉiuj aliaj kunigite: la kvalito de la enirantaj datumoj.

Usona bicikla firmao — ni nomu ĝin por respekto — havis enorman fotarkivon, miloj da produktaj bildoj, eventoj, klientoj sur bicikloj, reklamaj vojaĝoj. Ĝi estis la vida heredaĵo de la firmao, akumulita dum dek kvin jaroj da kampanjoj. En momento de antaŭvidebleco, iu uzis aŭtomatan etikedan servon por aldoni, al ĉiu foto, liston de “ĉeestantaj objektoj”: “biciklo, kasko, strato, monto, persono”. Metadatumoj utilaj, teorie, por la estonta vida serĉo. Arkivitaj apud la fotoj, forgesitaj dum jaroj, poste reakiritaj kaj enmetitaj en la novan entreprenan RAG kun la natura konvinko ke “pli da metadatumoj, pli bone”.

Post la enŝovo, la bildserĉo donis surrealaajn rezultojn. Vi serĉis "biciklo en urbo" kaj aperis foto de lago. Vi serĉis "virina modelo kun kasko" kaj aperis antikva aŭto. Vi serĉis "montaro" kaj aperis, sendistinge, ĉio — hazarda specimenaro de la tuta arkivo, kvazaŭ la sistemo hazarde elektis. La teamo, unue, akuzis la modelon de vida enmetado. Poste la re-takseron (vidu antaŭan ĉapitron, por kompreni kial ĉi tiu spuro estis aparte alloga). Poste la kvaliton de la priskriboj generitaj de la AI.

La vera esploro, farita ĉi-foje per rekta query SQL al la datumbazo, montris ion groteskan. El 3997 fotoj de la katalogo, ĉiuj, absolute ĉiuj, havis la saman identan liston de objektoj. Liston de deknaŭ elementoj — "aŭto, motorciklo, lago, maro, monto, biciklo, kasko, strato, urbo, persono..." — kiu ne havis neniun rilaton al la enhavo de la aparta foto. Ĝi estis importita, jarojn antaŭe, de alia retejo, kiel aro da ĝeneralaj etikedoj por plenumi devigan kampon de la CMS. Neniu, en la firmao, plu memoris ĝin. La fotoj pasis de sistemo al sistemo, kunportante tiujn fantomajn etikedojn, sufiĉe kredindajn por ne veki suspektojn, sufiĉe venenajn por korupti ĉiun serĉon bazitan sur ili. La serĉilo, zorge, uzis ilin kiel simptomon de enhavo. Kaj ĝi redonis ajnan foton por ajna serĉo, kun certa grado de halucino garantiita per naturo.

La vera problemo, tiu kiu vundas kiam vi komprenas ĝin, estas ke en RAG “brulemaj” datumoj ne faras bruon aŭdeblan. Ili ne malrapidigas la sistemon, ne generas erarojn, ne ŝaltas avertojn. Ili simple silente erozias la kvaliton de la rezultoj. Kaj kiam la lingvomodelo ricevas kvin dokumentojn el kiuj kvar estas ne temaj, ĝi ne diras al vi “ĉi tiuj ne rilatas, demandu al mi ion alian”: ĝi zorge konstruas respondon kiu miksas ilin, kaj la respondo ĉiam sonas kredinda. Ĉiam. La fina halucino — tiu inventita respondo pri kiu ni plendas — ne naskiĝas de la modelo, kiel rakontite en la reganta rakonto. Ĝi naskiĝas antaŭe, de la datumoj. La modelo estas nur tiu kiu pakas ĝin en gramatike senfulta frazo. Sed la kulpo estas aliloke, pli malproksime, en tio, kion vi donis manĝi al la sistemo monatojn antaŭ ol vi demandis ion de ĝi.

Ĉi tiu observado havas praktikajn konsekvencojn, kiuj kostas monon. La unua tasko de tiuj, kiuj konstruas seriozan entreprenan RAG-on, antaŭ skribi unu linion da kodo, estas fari postmortan ekzamenon de siaj datumoj. De kie ili venas. Kiu tuŝis ilin. Kiuj kampoj estas observataj kaj kiuj estas fosiliaj heredaĵoj de antaŭaj sistemoj. Kiuj metadatumoj havas signifon hodiaŭ kaj kiuj havis ĝin en 2017 kaj neniu plu zorgis pri ilia purigado. Ĝi estas malglamoura laboro, tre arkiva, tute mankanta en la instrumiloj, ofte perceptata kiel "ne teknika" kaj do snobita de la disvolva teamoj. Sed sen tiu ĉi komenca higieno, ĉiu genia arkitekturo, kiun vi metas antaŭe, fariĝas simple tre potenca amplifilo de tre malnova rubaĵo.

En la kazo de la usona firmao, la solvo estis bruta kaj justa: malpleni la kampon "objektoj", rekonstrui la metadatumojn de nulo kun moderna vida modelo aplikita al ĉiu ununura foto, kaj spuri, ĉi-foje, kiam kaj kiel ĉiu metadatumo estis produktita. Enuiga laboro. Rezulto: la serĉado fine komencis funkcii. Ne ĉar ili ŝanĝis modelon. Ĉar ili faris purigadon en la kelo.