Strategia dokumenttina — Seitsemäs luku

Luku 6 — Strategia dokumenttina, ei koodina

Päädymme oivallukseen, joka toistuu kaikkein eniten kertomuksissa siitä, miten RAG on rakennettu vuodesta 2023 eteenpäin, ja sitä pidetään "asiat, jotka olisin halunnut ymmärtää heti ensimmäisenä päivänä".

Perinteiset kehykset käsittelevät hakustrategiaa Python-koodina. Haluatko teknisissä luetteloissa ensin hakea tuotekoodilla, sitten avainsanoilla, sitten semanttisilla vektoreilla ja vasta viimeisenä generoida vastauksen? Kirjoita funktio. Haluatko valokuvien albumeissa ohittaa perinteisen semanttisen haun kokonaan ja luottaa erikoistuneeseen kuvien uudelleenjärjestäjään? Kirjoita toinen funktio. Haluatko yritysvideoissa erottaa äänen visuaalisesta raidasta, transkriboida ne erikseen, käsitellä niitä erillisinä lähteinä ja sitten yhdistää ne lopulliseen vastaukseen? Vielä yksi funktio. Jokainen sisällön tyyppi, jokainen toimialue, jokainen asiakas johtaa koodin haaraan, joka poikkeaa muista, kunnes strategian muuttaminen vaatii ohjelmistojulkaisun, koodikatselmuksen, testauksen kierroksen ja käyttöönoton. Aika "Minulla on idea, miten parantaa teknisten käsikirjojen hakua" ja "idea on tuotannossa" mitataan viikoissa. Jokaisen idean kohdalla.

Vaihtoehtoinen oivallus on sanallisesti yksinkertainen, mutta sen vaikutukset ovat syvälliset: tutkimusstrategia ei ole koodia. Se on dokumentti. JSON – jäsennelty tekstimuoto, jonka jokainen toimittaja voi oppia lukemaan puolen tunnin koulutuksella – joka sanoo: "kokeile ensin tätä, sitten tuota, jos ensimmäinen epäonnistuu, siirry kolmanteen, järjestä tulokset uudelleen näin, vastaa tällä mallilla." Tämä dokumentti sijaitsee tietokannassa, ei koodivarastossa. Sitä muokataan käyttöliittymän kautta, ei pull requestin avulla. Sitä versioidaan, kopioidaan ja räätälöidään toimialoittain. Strategia teknisille luetteloille, valokuva-albumeille, asennusohjeille, videoille, audiolle, lakisopimuksille, tilinpäätöksille. Kaikki coexisting samassa järjestelmässä. Kaikki muokattavissa reaaliajassa.

Ne, jotka ovat työskennelleet tämän lähestymistavan kanssa – kutsutaan sitä, ilman suurta mielikuvitusta, Meta-RAG – kertovat nopeuden muutoksesta, joka ylittää pelkän suunnittelun. Tyypillinen asiakaspalvelupyyntö "lisää tietty haku tuotekoodien löytämiseksi, jotka sisältävät lyhenteitä, kuten CMP40M tai RH1M" ei ole enää kahden viikon kehitystehtävä. Se on uusi vaihe, joka on lisätty JSON-prosessiin, testattu kuumana staging-ympäristössä ja siirretty tuotantoon iltapäivässä. Kysymykseen "mitä tapahtuu, jos käytämme eri uudelleenjärjestäjää valokuville, säilyttäen nykyisen tekstille?" vastataan muokkaamalla yhtä konfiguraatioriviä. Kokeilu ei maksa mitään, palautus ei maksa mitään (riittää, että palautetaan dokumentin edellinen versio), ja kertynyt tieto – mikä toimii hyvin tietyn tyyppiselle sisällölle – muuttuu versioiduksi ja siirrettäväksi omaisuudeksi, ei tietyn koodin haaran kirjoittajan hiljaiseksi tiedoksi, joka on nyt lomalla.

Tässä on myös mielenkiintoinen sosiaalinen vaikutus, joka ilmenee organisaatioissa, jotka omaksuvat tämän lähestymistavan. Strategian ollessa dokumentti, raja "kehittäjän" ja "käyttöasiantuntijan" välillä siirtyy. Digitaalinen kirjastonhoitaja, yritysarvistonhoitaja, toimialan asiantuntija – teknisen osaston päällikkö, dokumentaatiovastaava, tuotepäällikkö, joka tuntee asiakkaiden todelliset kysymykset paremmin kuin kukaan muu – voi lukea strategian, ymmärtää mitä se tekee, ehdottaa muutoksia ja joskus kirjoittaa ne suoraan. Hänen ei tarvitse kulkea kehityspyynnön (ticket) kautta, eikä selittää kehittäjälle asioita, joita kehittäjän ei ole ammattinsa puolesta tarpeen tietää. RAG lakkaa olemasta tuote, jota kulutat, ja siitä tulee työkalu, jota muokkaat organisaatiosi tiedon pohjalta. Tämä, niiden kokemuksen mukaan, jotka ovat sen kokeilleet, muuttaa projektin moraalia jo ennen mittareiden lukuja.

Tämä ei ole taikuutta, ja sillä on hintansa. Tarvitaan moottori, joka toteuttaa nämä strategia-asiakirjat tehokkaasti ja turvallisesti. Tarvitaan kuvauskieli, joka on riittävän kattava kattamaan todelliset tapaukset, mutta riittävän yksinkertainen, jotta siitä ei tule toista Turing-täydellistä ohjelmaa naamioituna. Tarvitaan versiohallinta-, testaus- ja palautustyökaluja. Mutta kaikki tämä on moottorin rakentajan ongelma – kerran, ja kaikille käyttäjille. Yksittäinen loppukäyttäjä näkee vain yhden asian: mahdollisuuden kehittää omaa hakustrategiaansa ajatuksen nopeudella, eikä ohjelmistojulkaisusyklin nopeudella. Ja tämä, niille jotka ovat mukana, on hiljainen vallankumous, joka ei ole vielä saanut nimeään alan lehdissä.

Loppuhuomautus – Seitsemäs luku, muutaman kuukauden kuluttua

Vuoden 2026 alussa, yhdistämällä edellisten lukujen opit – kadonneet taulukot, valehtelevat uudelleenjärjestäjät, perityt hallusinaatiot, pilvilaskut, jotka kasvoivat nopeammin kuin arvo, lupaavat mutta jäykät kehykset – joku Italiassa alkoi rakentaa erilaista RAG-palvelinta. Kirjoitettu Pythonilla, suunniteltu toimimaan helposti saatavilla olevalla laitteistolla, kykenevä kommunikoimaan pilvimallien kanssa, kun se on hyödyllistä, ja paikallisten mallien kanssa, kun yksityisyys sitä vaatii tai kustannukset eivät täsmää. Palvelin, jossa hakustrategiat ovat muokattavia dokumentteja, uudelleenjärjestäjä on paikallinen prosessi GPU:lla, taulukot eivät katoa, koska niitä käsitellään ensiluokkaisina kansalaisina, valokuvat eivät peri esineitä muiden aikakausien pölyisistä arkistoista, ja kyselykustannukset – sekä rahallisesti että kolmansille osapuolille vuotavien tietojen osalta – ovat tunnettavissa ja hallittavissa senttiä myöten.

Emme nimeä projektia. Tämä ei ole siihen sopiva paikka, emmekä halua muuttaa tutkintaa mainokseksi. Mutta jos edelliset luvut ovat saaneet sinut tunnistamaan tilanteen, jota koet — yrityksen chatbot, joka vastaa itsevarmasti vääriin kysymyksiin, RAG-projekti, joka ei ole lähtenyt liikkeelle kuukausiin, pilvilasku, joka kasvaa nopeammin kuin sen tuottama hyöty, kasvava epäilys siitä, että luottamukselliset asiakirjasi matkustavat paikkoihin, joita et tunne — silloin on hyvä tietää, että on olemassa toinen tie, jota joku Italiassa on kulkenut, ja joka vuonna 2026 alkoi antaa ensimmäisiä vastauksia, joita odotettiin vuonna 2023.

Hyvä uutinen on, että yritysten tekoäly on vihdoin poistumassa demovaiheesta. Huono uutinen on, että se poistuu mukanaan kaikki matkan arvet: paisuneet kehykset, toimittajariippuvuudet, monoliittiset arkkitehtuurit, likaiset tiedot, hiljaiset virheet ja alan taipumus myydä ratkaisuja jopa ennen ongelman ymmärtämistä. Olemme kertoneet niistä kuudessa luvussa. Seitsemäs — tarina siitä, mitä tapahtuu, kun joku vihdoin tekee asiat oikein, kärsivällisesti, italiaksi ja avoimella lähdekoodilla — kirjoitamme pian, vähemmällä varovaisuudella nimien suhteen ja enemmän lukuja pöydällä.

Sillä välin, jos olet päässyt näin pitkälle, olet jo tehnyt enemmän itsetutkiskelua kuin 90 % päättäjistä, jotka juuri nyt allekirjoittavat sopimuksen yrityksen chatbotista kysymättä yhtään niistä kysymyksistä, jotka sinä olet tehnyt lukiessasi näitä lukuja. Se on parempi lähtökohta kuin heillä. Ja tulevina kuukausina ero niiden välillä, jotka ovat esittäneet nämä kysymykset ja niiden välillä, jotka eivät ole, tulee olemaan hyvin näkyvissä laskuissa – ja vastauksissa, jotka teidän tekoälynne antaa asiakkaillenne.

Tämä tutkinta on laadittu huhtikuussa 2026, perustuen kahdeksantoista kuukauden kokemukseen yritysten RAG-järjestelmien suunnittelusta, rakentamisesta ja optimoinnista vuoden 2024 lopusta vuoden 2026 alkuun.