HBR’de yayınlanan güncel bir yazı beni bu satırları yazmaya itti.
Lütfen yapay zekâ hakkında yazılan içerikleri, başarı hikâyelerini ve devrim anlatılarını okurken çok dikkatli olun.
Çünkü yazılanlarla gerçek dünya arasında genellikle çok az bağlantı var.
Az sonra size bunu RAG sistemleri ve bahsi geçen HBR yazısı üzerinden açıkça göstereceğim.
Ama önce çok kısaca şunu ifade etmeme izin verin:
💬 Yapay Zekâ Yazılarının Temel Sorunu:
- Mühendis olmayan C-level yöneticilere yazılıyorlar.
– Teknik değil, “parlayan cümle” odaklılar. - Amaç, kavramı “büyü” gibi sunmak.
– “Araştırmacı yapay zekâ” deyince herkesin gözü parlıyor. Gerçekten araştırma yapmasa bile. - Teknik sınırlar kasten belirsiz bırakılıyor.
– “RAG” ile “agent bazlı araştırma” gibi bambaşka kavramlar tek bir potada eritiliyor. - Yazıyı yazanların çoğu sistemi ya duymuş, ya özet okumuş – gerçek deneyim hiç yok.
– 18 MB’lık 3 PDF’i bile embed edemeyen sistemleri “derinlemesine araştırma yapıyor” diye anlatıyorlar.
“Büyük Dil Modelleri Her Şeyi Bilmiyor: RAG Neden Yeni Süper Güç?”
İlgili makalenin başlığı bu, içerisinden küçük bir alıntı yapayım:
“”RAG ile Yapay Zekâya Araştırma Yeteneği Kazandırmak RAG, büyük dil modellerine adeta bir “Araştırma Asistanı” entegre ederek onları çok daha bilgili hale getiriyor. Çalışma prensibi iki aşamalı: Bilgi Getirme: Sorunuzla ilgili en uygun belgeler, vektör tabanlı sistemler aracılığıyla çağrılır. Tıpkı kütüphaneci gibi, yapay zeka da doğru kitabı bulur. Yanıt Üretme: LLM, bu çağrılan belgeleri dikkatlice analiz eder ve size güvenilir, kaynaklara dayalı bir cevap oluşturur. Yani RAG sayesinde yapay zekâ sadece bildiklerini söylemekle kalmaz; doğru ve güncel yanıtı bulmak için derinlemesine araştırma da yapar. Avantajlar ve Zorluklar: RAG Neleri İyileştiriyor? RAG’ın getirdiği yenilikler sayesinde yapay zekâ sistemleri çok daha yetenekli hale geliyor. Ancak her yeni teknolojide olduğu gibi, RAG da bazı dezavantajlar içeriyor. Artı ve eksileri şu şekilde sıralanabilir : + Güncel bilgiye erişim imkanı sunar. + Halüsinasyon oranını büyük ölçüde azaltır. + Kaynak göstererek şeffaflık ve güven sağlar. + Sistemi güncellemek daha kolaydır. Yanıtın kalitesi, çağrılan belgelerin doğruluğuna ve ilgililiğine bağlıdır. Cevap süresi klasik LLM’lere göre biraz uzayabilir. Mimari yapısı, standart LLM sistemlerine göre daha karmaşıktır.””
Öyle yazmışlar ki, gerçekten deneyerek bilmesem müthiş bir icat ile karşı karşıyayız diyeceğim. Ama gelin birlikte bakalım gerçek uygulamalarda RAG nedir ve nasıl çalışır:
RAG Nedir?
Retrieval Augmented Generation kelimelerinin kısaltılmış hali olan RAG kabaca “Veri çekme ile geliştirilmiş üretim” gibi bir anlama geliyor. Yani siz arkada bir veritabanı oluşturduysanız ve bunu sisteme bağladıysanız, dil modeliniz kendi bilgisi ya da öngörüsüne göre değilde arkada sizin yüklediğiniz dökümanları baz alarak içerik/cevap üretiyor.
NASIL Çalışır?
Çok teknik detayına girmeyelim ama aıtındaki sihihrli teknoloji “embedding” dir. Vektörleştirme. Vektörler halinde saklanan data büyük dil modellerinin erişimide çok uygundur ve birçok avantajı vardır. Ama bir pdf dosyasını bile vektör veritabanına atmak için şu yolu izlemeniz gerekir:
1. Dosya yükleme: Sisteme dosyayı bir “yükleyici” ile yüklersiniz. Herhangi bir dosya türü olabilir
2. Embedding : Genellikle ücretli (ücretsizleri de var) bir Embedding aracı ile dosya parçalara ayrılır. Bu parçalara “chunk” denir. Dosyanın nasıl parçalandığı, parça büyüklüğü, “,/(),[]” gibi ayırıcıların ayarlanması gerekir. Özellikle Türkçe için daha da büyük bir zahmettir.
3. Bu vektörler bir veri tabanına (Örneğin Pinecone) yüklenmeli ve “querry methots” yani sorgu metotları tanımlanmalıdır. Veri içinde eşleştirme ve aramalar nasıl yapılacak?
4. Harici bir veritabanı: Sizin sisteminiz üerinde ya da SQLite gibi bir bulutta veri tabanı olmalıdır.
Kısıtlar:
1. Flowise da 3 adet 18 Mb. Lık dısyayı RAG sistemine atamadım. Defalarca “timeout” hatası geldi. Binlerce dosya ile yapacaklara başarılar diliyorum.
- Ücretsiz araçların erişimleri o kadar kısıtlı ki birkaç dosyadan fazlasını işlemek imkansız gibi
- Herşey çalışsa bile chunk ebatları, ayrım metodu yanlışsa hala aradığınızı bulamayabilir ya da yanlış sonuçlar alabilirsiniz.
- Tüm dosyalarını benim bulup arka tarafa yüklediğim bir sisteme “güncel araştıma asistanı” demek kibarca ahmaklık olur. Sistem tamamen arkada yüklenen dosyalara, onların doğruluk ve güncelliğine bağlıdır.
Peki Gerçekte Ne Oluyor?
Sözde “araştırmacı yapay zekâ” diye sunulan RAG sistemlerinin gerçek işleyişi şu şekilde:
- Sen onlarca dosya buluyorsun.
- Sen bu belgeleri chunk’lara bölüyorsun.
- Sen bu parçaları vektörleştirip veritabanına atıyorsun.
- Sen LLM’e “şu embed edilmiş şeylere göre cevap ver” diyorsun.
- Ve sonra dua ediyorsun: 🙏
“Umarım doğru chunk geldi, LLM de doğru anladı.”
İşte bu kadar.
Araştırma yok. Otomasyon yok. Sürpriz yok. Hatta bazen doğru cevap bile yok.
Yani gerçek adını koyalım:
Embed. Chunk. Pray.
🎭 HBR Yazısındaki Sihirli Gözbağcılık
HBR’deki yazı aynen şöyle diyor:
“RAG sayesinde yapay zekâ sadece bildiklerini söylemekle kalmaz; doğru ve güncel yanıtı bulmak için derinlemesine araştırma da yapar.”
Gerçekten mi?
– Hayır.
Çünkü RAG sistemi tek başına araştırma yapmaz.
Kendi başına Google’a gidip en yeni verileri çekmez.
Hiçbir yeni PDF’i kendiliğinden download edip analiz etmez.
Web’i taramaz. Gelişmeleri izlemez.
O sadece daha önce senin koyduğun bilgi kırıntılarına bakar ve “işte bildiğim bu” der.
Bu durumda RAG, araştırmacı değil, daha organize bir ezbercidir.
Üstelik çalışması bile garanti değildir.
🧠 RAG Ne Zaman Faydalıdır?
Yanlış anlaşılmasın. RAG faydasız değil.
Ama doğru yere koymalıyız:
Gerçek Fayda Alanı |
Efsaneleşmiş Anlatı |
Kurumsal bilgi tabanı kullanımı |
“Derin araştırma yapıyor” |
Halüsinasyonu azaltma |
“Güncel bilgiyi kendi getiriyor” |
Kaynak göstererek şeffaflık sağlama |
“Her konuda seni up-to-date tutar” |
Belge tabanlı özetleme |
“Kendi kendine gündemi takip eder” |
🚨 Sonuç:
RAG, yapay zekâyı araştırmacı yapmaz.
Sadece beslenmiş bir bilgi kümesinden daha doğru cümleler kurmasını sağlar.
Eğer sen beslemezsen, o hâlâ 2021’de kalmış birer tahmin motorudur.
RAG sistemleri değerlidir ama onları anlamadan kutsallaştırmak, hem sektörü yanıltır, hem karar vericiyi hayal kırıklığına uğratır.