RAG Nedir ve Uçtan Uca Nasıl Kurulur? Pratik Bir Mimari Rehber

Bir yapay zekâya “şirket politikamıza göre yıllık izin kaç gün?” diye sorduğunuzda, modelin ezberinden uydurmasını değil, gerçek belgenize bakıp cevap vermesini istersiniz. İşte RAG tam olarak bunu yapar: önce ilgili belgeyi bulur, sonra o belgeye bakarak yazar. Bu yazıda RAG’in ne olduğunu sezgisel olarak anlatacak, ardından belgeden cevaba kadar tüm hattı uçtan uca, küçük kod örnekleriyle kuracağız.

RAG nedir? (Açık kitap sınavı)

RAG, “Retrieval-Augmented Generation” yani “Erişimle Güçlendirilmiş Üretim” demektir. Karmaşık duruyor ama fikri son derece basit.

Önce ilgili belgeleri bul, sonra o belgelere bakarak cevabı yaz.

İki tür öğrenci hayal edin. Birincisi sınava yalnızca ezberiyle giren öğrenci: çoğu şeyi bilir, ama hatırlayamadığında kendinden emin biçimde uydurur. İkincisi açık kitap sınavına giren öğrenci: önce kaynaktaki ilgili sayfayı bulur, sonra ona bakarak yazar ve nereden bulduğunu söyleyebilir. Sade bir büyük dil modeli birinci öğrenci, RAG ise ikincisidir.

Bu basit ayrım önemli bir sorunu çözer: halüsinasyon, yani modelin gerçekte olmayan bir bilgiyi emin bir tavırla uydurması. RAG, cevabı modelin önüne konan gerçek metinlere demirlediği için hem doğruluğu artırır hem de “bunu nereden buldun?” sorusuna yanıt verilebilir hale getirir.

Boru hattının beş adımı

Bir RAG sistemi iki zamanda çalışır. Hazırlık zamanı (offline): belgeleri bir kez işleyip aranabilir hale getirirsiniz. Sorgu zamanı (online): kullanıcı soru sorduğunda ilgili parçaları bulup cevabı üretirsiniz.

1. Belge: PDF, sözleşme, wiki sayfası, e-posta arşivi — ham kaynak.
2. Chunk (parçalama): Uzun belgeyi anlamlı, küçük parçalara bölersiniz.
3. Embedding: Her parçayı, anlamını temsil eden bir sayı dizisine (vektöre) çevirirsiniz.
4. Vektör arama: Soruyu da vektöre çevirip, anlamca en yakın parçaları bulursunuz.
5. Bağlamla üretim: Bulunan parçaları soruyla birlikte modele verir, cevabı yazdırırsınız.

Akışı tek bir şemada görmek faydalı olur:

Hazırlık (bir kez):
  belgeler ──► parçala ──► embedding ──► vektör veritabanına yaz

Sorgu (her soruda):
  soru ──► embedding ──► en yakın K parçayı getir
        └─► [parçalar + soru] ──► LLM ──► kaynaklı cevap

Belge → chunk: parçalama sanatı

Neden belgeyi olduğu gibi vermiyoruz? Çünkü bağlam penceresi sınırlıdır ve aramada isabet önemlidir. 80 sayfalık bir sözleşmenin tamamını getirmek yerine, sorunun cevabını içeren tek paragrafı getirmek hem daha ucuz hem daha doğrudur. Parçalama, “aranabilir en küçük anlamlı birim”i tanımlama işidir.

Pratik ipuçları: paragraf veya başlık sınırlarında bölün, parçalar arasında küçük bir örtüşme (overlap) bırakın ki cümle ortasında kopan bağlam korunsun, ve her parçaya kaynağını (dosya adı, sayfa, başlık) metadata olarak ekleyin — cevapta kaynak göstermek için bu şarttır.

def parcala(metin, boyut=800, ortusme=120):
    parcalar, i = [], 0
    while i < len(metin):
        parcalar.append(metin[i:i + boyut])
        i += boyut - ortusme   # bir önceki parçayla örtüşsün
    return parcalar

Embedding ve vektör arama

Embedding, bir metni anlamını temsil eden bir sayı dizisine çevirir. “Evden çıkarma” ile “tahliye” farklı kelimelerdir ama anlamca yakın oldukları için vektörleri de birbirine yakın olur. Klasik anahtar kelime araması bu ikisini eşleştiremez; anlamsal arama ise tam olarak bunu yapar. İşte RAG’in kalbi budur.

Parçaların vektörlerini bir vektör veritabanına (FAISS, pgvector, Qdrant gibi) yazarsınız. Sorgu geldiğinde soruyu da aynı embedding modeliyle vektöre çevirir, veritabanından en yakın K parçayı (örneğin 4–6) getirirsiniz. Yakınlık genellikle kosinüs benzerliğiyle ölçülür.

# Kavramsal akış (sözde kod)
veritabani = VektorDB()
for parca in tum_parcalar:
    veritabani.ekle(embed(parca.metin), metadata=parca.kaynak)

def getir(soru, k=5):
    q = embed(soru)
    return veritabani.en_yakin(q, k)   # anlamca en ilgili k parça

Önemli bir kural: belgeleri vektöre çevirirken kullandığınız embedding modeli ile soruyu çevirirken kullandığınız model aynı olmalıdır. Farklı modellerin vektör uzayları birbiriyle kıyaslanamaz.

Bağlamla üretim (prompt kurgusu)

Son adımda, getirilen parçaları soruyla birlikte modele verirsiniz. Buradaki kritik nokta talimattır: modele yalnızca verilen bağlamı kullanmasını ve bilgi yoksa “bilmiyorum” demesini söyleyin. Bu tek cümle, halüsinasyonu büyük ölçüde keser.

SISTEM = """Yalnızca aşağıdaki BAĞLAM'ı kullanarak yanıt ver.
Cevap bağlamda yoksa "Belgelerde bulamadım" de. Kaynak numarasını belirt."""

def cevapla(soru):
    parcalar = getir(soru, k=5)
    baglam = "\n\n".join(f"[{i+1}] {p.metin}" for i, p in enumerate(parcalar))
    mesaj = f"BAĞLAM:\n{baglam}\n\nSORU: {soru}"
    return llm(sistem=SISTEM, kullanici=mesaj)   # kaynaklı cevap döner

Üretim katmanı için modern bir dil modeli yeterlidir; örneğin Claude (Anthropic) gibi modeller uzun bağlamı işleyip kaynağa sadık kalma konusunda iyidir. Mimari açıdan model seçimi takılabilir bir parçadır — embedding ve arama hattınız aynı kalır, üretim modelini değiştirebilirsiniz.

Üretime alırken dikkat edilecekler

Demo kurmak kolaydır; güvenilir bir sistem kurmak biraz daha titizlik ister. En sık karşılaşılan noktalar şunlardır:

• Kaynak gösterimi: Her cevabın yanında hangi parçadan geldiğini gösterin. Güven, izlenebilirlikten doğar.
• Değerlendirme: “İyi görünüyor” yeterli değildir. Bilinen soru-cevap çiftlerinden bir test seti hazırlayın ve isabeti ölçün.
• Getirme kalitesi: Cevap kötüyse genellikle suç üretimde değil, getirmededir. Önce hangi parçaların geldiğine bakın.
• Tazelik: Belgeler değiştikçe vektörleri güncelleyin; bayat indeks bayat cevap üretir.

Kısacası RAG, yapay zekâyı “hayal kuran” bir anlatıcıdan “kaynak gösteren” bir araştırmacıya dönüştürür. Doğruluğun önemli olduğu her alanda fark tam buradadır. Bu mimarinin gerçek bir üründe nasıl hayat bulduğunu görmek isterseniz, İçtiHub’a göz atabilir; arkasındaki yaklaşımı ise EcoFluxion sayfasında okuyabilirsiniz.