Modelin cevap üretmeden önce harici bir bilgi kaynağından ilgili bilgiyi çekip kullanması tekniği. Halüsinasyonu azaltır, güncel ve kuruma özel bilgi sağlar.
RAG, dil modelinin sınırlı ve tarihli eğitim bilgisini, dış kaynaklardan (şirket dokümanları, veritabanları, web) getirilen güncel bilgiyle tamamlar. Soru geldiğinde önce ilgili dokümanlar aranır, bulunan parçalar prompta eklenir, model cevabını bu kaynaklara dayandırır.
Kurumsal yapay zekâ uygulamalarının (şirket içi asistanlar, destek botları) fiilî standardıdır; kaynak gösterebilme imkânı güven sağlar.
Bir şirket asistanına "yıllık izin politikamız nedir?" diye sorduğunuzda, asistanın İK dokümanından ilgili bölümü bulup ona dayanarak cevap vermesi RAG'dir.
Kurumsal asistanlar, müşteri desteği, bilgi yönetimi
Metnin (veya görselin) anlamını sayısal bir vektöre dönüştürme yöntemi; anlamca benzer içerikler benzer vektörler alır.
Embedding vektörlerini saklayıp benzerlik araması yapabilen özel veritabanı türü.
Yapay zekânın gerçek olmayan bilgiyi kendinden emin bir dille üretmesi.