Strateji bir belge olarak — Yedinci bölüm

Bölüm 6 — Strateji bir kod değil, bir belge olarak

2023'ten beri RAG'ı inşa edenlerin hikayesinde, en çok tekrar eden içgörüsüne geliyoruz: "İlk günden beri anlamak istediğim şey".

Geleneksel çerçeveler, arama stratejisini Python kodu olarak ele alır. Teknik kataloglar için önce ürün kodu, sonra anahtar kelime, sonra semantik vektörler ve en son aşamada yanıt oluşturmak mı istiyorsunuz? Bir fonksiyon yazıyorsunuz. Fotoğraf albümleri için geleneksel semantik aramayı tamamen atlayıp, özel bir görüntü yeniden sıralayıcıya güvenmek mi istiyorsunuz? Başka bir fonksiyon yazıyorsunuz. Kurumsal videolar için sesi görsel akıştan ayırıp, ayrı ayrı deşifre etmek, bunları ayrı kaynaklar gibi işlemek ve sonra nihai yanıtta yeniden birleştirmek mi istiyorsunuz? Yine bir fonksiyon daha. Her içerik türü, her alan, her müşteri, farklılaşan bir kod dalı oluşturur; bu, bir stratejiyi değiştirmek yazılım yayınlamayı, kod incelemesini, test döngüsünü, bir dağıtımı gerektirene kadar devam eder. "Teknik kılavuzlar üzerindeki aramayı nasıl iyileştireceğime dair bir fikrim var" ile "fikir üretimde" arasındaki zaman haftalarla ölçülür. Her fikir için.

Alternatif içgörü söylemesi kolay, sonuçları derin: araştırma stratejisi kod değildir. Bir dokümandır. Herhangi bir editörün yarım saatlik eğitimle okuyabileceği yapılandırılmış bir metin formatı olan bir JSON — şu diyor: "Önce şunu dene, sonra şunu, eğer ilki başarısız olursa üçüncüye geç, böyle yeniden sırala, bu modelle yanıtla." Bu belge bir depoda değil, bir veritabanında yaşıyor. Bir çekme isteği yerine bir arayüzden değiştirilir. Sürüm oluşturulur, kopyalanır, etki alanına göre özelleştirilir. Teknik kataloglar için bir strateji, fotoğraf albümleri için bir strateji, kurulum kılavuzları için bir strateji, videolar için bir strateji, ses için bir strateji, yasal sözleşmeler için bir strateji, mali tablolar için bir strateji. Hepsi aynı sistemde bir arada bulunur. Hepsi gerçek zamanlı olarak değiştirilebilir.

Bu yaklaşımla çalışanlar — buna fazla yaratıcılık katmadan Meta-RAG diyelim — mühendisliğin ötesine geçen bir hızlanma olduğunu anlatıyor. Tipik bir müşteri isteği "CMP40M veya RH1M gibi kısaltmalar içeren ürün kodları için belirli bir arama ekle" artık iki haftalık bir geliştirme bileti değil. Bu, bir JSON prosedürüne eklenen yeni bir adım, bir staging ortamında anında test edilir ve bir öğleden sonra üretim ortamına aktarılır. "Fotoğraflar için farklı bir yeniden sıralayıcı kullanırsak ne değişir, metin için mevcut olanı korursak?" sorusu bir yapılandırma satırını değiştirerek yanıtlanır. Deneyin maliyeti yok, geri alma maliyeti yok (sadece belgenin önceki sürümünü geri yüklemek yeterli) ve biriken bilgi — belirli bir içerik türü için neyin iyi çalıştığı — versiyonlanmış ve aktarılabilir bir varlık haline gelir, belirli bir kod dalını yazan ve bugün tatilde olan kişinin örtük bilgisi değil.

Bu yaklaşımı benimseyen kuruluşlarda ortaya çıkan ilginç bir sosyal etki de var. Stratejiyi bir belge olarak kabul etmekle, "geliştirici" ve "uzman kullanıcı" arasındaki sınır kayar. Dijital bir kütüphaneci, kurumsal bir arşivci, alan uzmanı — teknik ofis yöneticisi, dokümantasyon sorumlusu, müşterilerin gerçek sorularını herkesten iyi bilen ürün yöneticisi — bir stratejiyi okuyabilir, ne yaptığını anlayabilir, değişiklikler önerebilir, bazen de doğrudan yazabilir. Geliştirme talebi sürecinden geçmesine gerek yoktur, geliştiricinin bilmediği (çünkü bu onun işi değildir) şeyleri bir geliştiriciye açıklamak zorunda kalmaz. RAG, tükettiğiniz bir ürün olmaktan çıkar ve organizasyonel bilginize göre şekillendirebileceğiniz bir araç haline gelir. Bunu deneyimleyenlerin görüşüne göre, bu durum projenin moralini metriklerin sayılarından önce değiştirir.

Bu bir sihir değil ve maliyeti var. Bu stratejileri-belge olarak yürütmek için verimli ve güvenli bir motora ihtiyaç var. Gerçek durumları kapsayacak kadar zengin, ancak başka bir Turing-tam maskelenmiş hale gelmeyecek kadar basit bir açıklama diline ihtiyaç var. Sürümleme, test etme ve geri alma araçlarına ihtiyaç var. Ancak tüm bunlar, motoru inşa edenlerin sorunu - sadece bir kez ve tüm kullanıcılar için. Son müşteri yalnızca bir şey görür: arama stratejisini yazılım sürüm döngüsünün hızı yerine düşünce hızıyla geliştirme yeteneği. Ve içeride olanlar için, henüz sektör dergilerinde adını bulmamış sessiz bir devrim bu.

Kapanış — Yedinci Bölüm, birkaç ay içinde

2026'nın başlarında, önceki bölümlerden alınan dersleri toplayarak — kaybolan tablolar, yalan söyleyen yeniden sıralayıcılar, miras kalan yanılsamalar, değerden daha hızlı büyüyen bulut faturaları, umut vadeden ancak katı çerçeveler — İtalya'da birileri farklı bir RAG sunucusu inşa etmeye başladı. Python ile yazılmış, erişilebilir donanımda çalışmak üzere tasarlanmış, gerektiğinde bulut modelleriyle ve gizlilik gerektirdiğinde veya maliyetin uygun olmadığı durumlarda yerel modellerle konuşabilen bir sunucu. Arama stratejilerinin değiştirilebilir belgeler olduğu, yeniden sıralayıcının GPU üzerinde yerel bir işlem olduğu, tabloların kaybolmadığı çünkü birinci sınıf vatandaşlar gibi ele alındığı, fotoğrafların diğer çağlardan tozlu arşivlerden nesneleri miras almadığı ve sorgu başına maliyetin — hem para hem de üçüncü taraflara sızdırılan veri olarak — kuruşuna kadar bilinip kontrol edilebildiği bir sunucu.

Projenin adını vermeyeceğiz. Bu, bunu yapacağımız parça değil ve bir soruşturmayı reklama dönüştürmek istemiyoruz. Ancak önceki bölümler, yaşadığınız bir durumu tanımanızı sağladıysa — yanlış sorulara güvenle yanıt veren bir şirket sohbet robotu, aylardır kalkmayan bir RAG projesi, ürettiği faydadan daha hızlı büyüyen bir bulut faturası, gizli belgelerinizin bilmediğiniz yerlere gittiğine dair artan bir şüphe—, o zaman başka bir yolun olduğunu, İtalya'da birileri tarafından izlendiğini ve 2026'da 2023'te beklenen ilk yanıtları vermeye başladığını bilmeye değer.

İyi haber, şirket içi yapay zekanın sonunda demo aşamasından çıktığıdır. Kötü haber ise, yolculuğunun tüm yaralarını beraberinde getirmesidir: şişirilmiş çerçeveler, sağlayıcı bağımlılıkları, monolitik mimariler, kirli veriler, sessiz hatalar ve sektörün problemi tam olarak anlamadan çözümler satma eğilimi. Bunları altı bölümde anlattık. Yedinci — sonunda birinin sabırla, İtalyanca ve açık kaynaklı olarak işleri doğru yapmasının hikayesi—, yakında isimler konusunda daha az ihtiyatlı ve masadaki sayılar konusunda daha fazla olacak şekilde yazacağız.

Bu arada, eğer buraya kadar geldysen, şu anda bir şirket chatbot'u için sözleşme imzalayan karar vericilerin %90'ından daha fazla otopsi yapmışsın; bu bölümleri okuyarak kendine sorduğun soruların hiçbirini sormadan. Bu, onların başladığı noktadan daha iyi bir başlangıç. Önümüzdeki aylarda, bu soruları soranlarla sormayanlar arasındaki fark, faturalarda – ve yapay zekanızın müşterilerinize vereceği cevaplarda – çok belirgin hale gelecektir.

Bu araştırma, 2024 sonu ile 2026 başı arasında onsekiz ay boyunca kurumsal RAG sistemlerinin tasarımı, inşası ve optimizasyonu deneyimine dayanarak Nisan 2026'da hazırlanmıştır.