Halucinația moștenită

Capitolul 4 — Halucinația moștenită

Aceasta este poate cea mai instructivă poveste din întreaga anchetă, deoarece atinge o temă pe care tutorialele o ignoră și care, în schimb, cauzează mai multe daune decât toate celelalte la un loc: calitatea datelor care intră.

O companie americană de biciclete — să o numim așa din respect — avea o arhivă fotografică enormă, mii de imagini cu produse, evenimente, clienți pe biciclete, călătorii promoționale. Era patrimoniul vizual al companiei, acumulat în cincisprezece ani de campanii. Într-un moment de previziune, cineva a folosit un serviciu de etichetare automată pentru a adăuga, la fiecare fotografie, o listă de „obiecte prezente”: „bicicletă, cască, drum, munte, persoană”. Metadate utile, în teorie, pentru viitoarea căutare vizuală. Arhivate alături de fotografii, uitate ani de zile, apoi recuperate și introduse în noul RAG corporativ cu convingerea naturală că „mai multe metadate, cu atât mai bine”.

După ingestie, căutarea de imagini returna rezultate suprarealiste. Căutai "biciclete în oraș" și apărea o fotografie cu un lac. Căutai "model feminin cu cască" și apărea o mașină de epocă. Căutai "munte" și îți apărea, indiferent, orice — un eșantion aleatoriu din întregul arhivă, ca și cum sistemul ar fi tras la sorți. Echipa, inițial, a arătat cu degetul spre modelul de embedding vizual. Apoi spre reranker (vezi capitolul anterior, pentru a înțelege de ce această pistă era deosebit de atractivă). Apoi spre calitatea descrierilor generate de AI.

Investigația reală, realizată de data aceasta cu o query SQL directă către baza de date, a arătat un lucru grotesc. Din 3997 de fotografii din catalog, toate, dar absolut toate, aveau aceeași listă identică de obiecte. O listă de nouăsprezece de elemente — "mașină, motocicletă, lac, mare, munte, bicicletă, cască, drum, oraș, persoană..." — care nu avea nicio legătură cu conținutul fotografiei individuale. Fusese importată, cu ani în urmă, de pe un alt site web, ca set de tag-uri generice pentru a completa un câmp obligatoriu al CMS. Nimeni din companie nu și-o mai amintea. Fotografiile trecuseră de la un sistem la altul, purtând cu ele acele etichete fantomă, suficient de plauzibile pentru a nu trezi suspiciuni, suficient de otrăvitoare pentru a corupe orice căutare bazată pe ele. Motorul de căutare, diligent, le folosea ca simptom de conținut. Și returna orice fotografie pentru orice interogare, cu un anumit grad de halucinație garantat de legea naturii.

Punctul sensibil, cel care doare când îl înțelegi, este că într-un RAG datele "zgomotoase" nu fac un zgomot care să se audă. Nu încetinesc sistemul, nu generează erori, nu aprind semnale de alarmă. Se limitează să erodeze silențios calitatea rezultatelor. Și când modelul lingvistic de la aval primește cinci documente dintre care patru sunt în afara subiectului, nu-ți spune "acestea nu sunt relevante, întreabă-mă altceva": construiește cu sârguință un răspuns care le amestecă, iar răspunsul sună întotdeauna plauzibil. Întotdeauna. Halucinația finală — acel răspuns inventat de care ne plângem — nu se naște din model, așa cum este povestită în narațiunea dominantă. Se naște în amonte, din date. Modelul este doar cel care o ambalează într-o frază gramaticalmente impecabilă. Dar vina este în altă parte, mai în spate, în ceea ce ai hrănit sistemul cu luni înainte de a-i cere ceva.

Această observație are consecințe practice care costă bani. Prima sarcină a celor care construiesc un RAG corporativ serios, înainte de a scrie o singură linie de cod, este de a face autopsia propriilor date. De unde provin acestea. Cine le-a atins. Ce câmpuri sunt observate și care sunt relicve fosile ale sistemelor anterioare. Ce metadate au sens astăzi și care l-au avut în 2017 și nimeni nu s-a mai obosit să le curețe. Este o muncă lipsită de glamour, foarte arhivistică, complet absentă din tutoriale, adesea percepută ca "netehnică" și, prin urmare, ignorată de echipele de dezvoltare. Dar fără această igienă inițială, orice arhitectură genială pe care o pui la punct devine pur și simplu un amplificator foarte puternic de gunoi foarte vechi.

În cazul companiei americane, soluția a fost brutală și corectă: golirea câmpului "obiecte", reconstruirea metadatelor de la zero cu un model de viziune modern aplicat fiecărei fotografii în parte și urmărirea, de data aceasta, a momentului și modului în care fiecare metadată a fost produsă. Muncă plictisitoare. Rezultat: căutarea a început în sfârșit să funcționeze. Nu pentru că au schimbat modelul. Pentru că au făcut curățenie în debara.