Peritty hallusinaatio

Luku 4 — Peritty hallusinaatio

Tämä on ehkä koko tutkinnan opettavaisinta tarinaa, sillä se koskettaa aihetta, jota opetusohjelmat sivuuttavat, mutta joka aiheuttaa enemmän vahinkoa kuin mikään muu yhdistettynä: syöttötietojen laatu.

Amerikkalainen pyöräilyalan yritys — kutsutaan sitä kunnioituksesta — omisti valtavan valokuvakirjaston, tuhansia tuotekuvia, tapahtumia, asiakkaita pyörän selässä, promootiomatkoja. Se oli yrityksen visuaalinen perintö, joka oli kerääntynyt viidentoista vuoden kampanjoiden aikana. Jonkin aikaa sitten joku oli käyttänyt automaattista tunnisteiden lisäyspalvelua lisätäkseen jokaiseen valokuvaan luettelon "läsnä olevista objekteista": "pyörä, kypärä, tie, vuori, henkilö". Metatietoja, jotka olivat teoriassa hyödyllisiä tulevaa visuaalista hakua varten. Ne tallennettiin valokuvien viereen, unohdettiin vuosiksi, sitten palautettiin ja syötettiin uuteen yrityksen RAG-järjestelmään luottavaisesti, että "enemmän metatietoja on parempi".

Syötön jälkeen kuvahaku tuotti surrealistisia tuloksia. Etsit "pyörä kaupungissa" ja sait kuvan järvestä. Etsit "naismalli kypärässä" ja tuloksena oli vanha auto. Etsit "vuori" ja tuloksena oli mitä tahansa – satunnainen näyte koko arkistosta, ikään kuin järjestelmä olisi arponut. Tiimi syytti aluksi visuaalista upotusmallia. Sitten uudelleenjärjestäjää (katso edellinen luku ymmärtääksesi, miksi tämä jälki oli erityisen houkutteleva). Sitten tekoälyn luomien kuvausten laatua.

Oikea tutkimus, joka tehtiin nyt suoralla SQL-kyselyllä tietokantaan, paljasti groteskin asian. 3997 luettelokuvasta kaikki, aivan kaikki, sisälsivät täsmälleen saman objektiluettelon. Luettelo koostui yhdeksästätoista elementistä — "auto, moottoripyörä, järvi, meri, vuori, polkupyörä, kypärä, tie, kaupunki, henkilö..." — jolla ei ollut mitään tekemistä yksittäisen kuvan sisällön kanssa. Se oli tuotu vuosia aiemmin toiselta verkkosivustolta yleisten tunnisteiden sarjana täyttämään CMS:n pakollista kenttää. Kukaan yrityksessä ei enää muistanut sitä. Kuvat siirtyivät järjestelmästä toiseen kantaen mukanaan näitä aavemaisia tunnisteita, jotka olivat uskottavia eivätkä herättäneet epäilyksiä, mutta riittävän myrkyllisiä korruptoimaan kaikki niihin perustuvat haut. Hakukone käytti niitä tunnollisesti sisällön oireena. Ja palautti minkä tahansa kuvan mihin tahansa kyselyyn, tietyn asteen hallusinaatio takuuvarmasti luonnonlain mukaan.

Kova totuus, joka sattuu ymmärtää, on se, että RAG-järjestelmässä "kohinaiset" tiedot eivät aiheuta kuultavaa kohinaa. Ne eivät hidasta järjestelmää, aiheuta virheitä tai sytytä varoitusvaloja. Ne vain hiljalleen kuluttavat tulosten laatua. Ja kun kielimalli vastaanottaa viisi dokumenttia, joista neljä on aiheesta poikkeavia, se ei sano "nämä eivät liity aiheeseen, kysy jotain muuta": se rakentaa huolellisesti vastauksen, joka sekoittaa ne, ja vastaus kuulostaa aina uskottavalta. Aina. Lopullinen hallusinaatio – tuo keksitty vastaus, josta valitamme – ei synny mallista, kuten yleisesti kerrotaan. Se syntyy lähteestä, datasta. Malli vain muotoilee sen kieliopillisesti virheettömäksi lauseeksi. Mutta syy on muualla, kauempana, siinä, mitä olet syöttänyt järjestelmään kuukausia ennen kuin kysyit siltä mitään.

Tällä havainnolla on käytännön seurauksia, jotka maksavat. Ensimmäinen tehtävä vakavan yrityksen RAG-järjestelmän rakentajalla, ennen kuin kirjoittaa yhdenkään koodirivin, on tehdä omien tietojen ruumiinavaus. Mistä ne ovat peräisin. Kuka niitä on käsitellyt. Mitä kenttiä seurataan ja mitkä ovat perintöä vanhemmista järjestelmistä. Mitä metatietoja on merkitystä tänään ja mitä niillä oli vuonna 2017, eikä kukaan ole vaivautunut siivoamaan niitä. Se on epäglamourista, arkistointityyppistä työtä, joka puuttuu tutoriaaleista, usein pidetään "ei-teknisenä" ja siksi ohitetaan kehitystiimien toimesta. Mutta ilman tätä alkuhygieniaa, mikä tahansa nerokas arkkitehtuuri, jonka asetat eteen, muuttuu yksinkertaisesti erittäin tehokkaaksi vanhan roskan vahvistimeksi.

Amerikkalaisen yrityksen tapauksessa ratkaisu oli raaka ja oikea: tyhjentää "objektit"-kenttä, rakentaa metatiedot uudelleen tyhjästä modernilla näkömallilla, jota sovellettiin jokaiseen yksittäiseen valokuvaan, ja seurata tällä kertaa, milloin ja miten jokainen metatieto on tuotettu. Tylsää työtä. Tulos: haku alkoi vihdoin toimia. Ei siksi, että he olisivat vaihtaneet mallia. Koska he olivat siivonneet kellaria.