RAG Nedir ve Yapay Zeka Kendi Verinizden Nasıl Cevap Verir?
RAG sistemlerinin dokümanlardan bilgi bulup bunu dil modeline nasıl verdiğini kolay biçimde anlatıyoruz.
Hakan E. · · Akademi
RAG, bir dil modelinin cevap vermeden önce dışarıdaki bir bilgi kaynağından ilgili parçaları bulmasını sağlayan yaklaşımdır. Örneğin şirket belgeleriniz bir arama sistemine eklenir. Kullanıcı soru sorduğunda önce ilgili belgeler bulunur, sonra bu bilgiler modelin prompt'una eklenir.
Böylece modeli her yeni belge geldiğinde yeniden eğitmek zorunda kalmazsınız. Bilgi kaynağını güncellemek çoğu zaman yeterlidir. Model hâlâ hata yapabilir ama en azından cevap vermeden önce dolaba bakmayı öğrenmiştir.
RAG sistemlerinde embedding, vector database, chunk boyutu ve retrieval kalitesi çok önemlidir. Yanlış belge bulunursa çok iyi bir dil modeli bile yanlış malzemeyle yemek yapmak zorunda kalır.