שליפה משולבת ביצירה (retrieval-augmented generation, RAG)

שליפה משולבת ביצירה: איך AI עונה על סמך המסמכים שלכם?

אתם שואלים כלי AI: "מה כתוב בנוהל החזרות של העסק שלי?" כדי לענות, הכלי צריך למצוא את הנוהל הרלוונטי, לקרוא אותו ולנסח תשובה. דרך נפוצה לבנות יכולת כזאת נקראת שליפה משולבת ביצירה, או RAG.

מה זה RAG?

ראשי התיבות RAG הם Retrieval-Augmented Generation: יצירת תשובה שנעזרת במידע שנשלף ממקור. במקום להסתמך רק על מה שהמודל למד בעבר, המערכת מחפשת קטעים רלוונטיים במסמכים או במאגר מידע, מוסיפה אותם לבקשה ומבקשת מהמודל לענות על פיהם. Microsoft מסבירה את הרצף הזה כשליפה, הוספת המידע להקשר ויצירת תשובה.

איך זה עובד?

ראשית, המערכת מכינה את החומר כך שאפשר יהיה לחפש בו. לעיתים מחלקים מסמכים לקטעים ושומרים אותם באינדקס, כלומר מבנה שעוזר למצוא קטעים מתאימים במהירות. החיפוש יכול להתבסס על מילות מפתח, על דמיון במשמעות או על שילוב ביניהם.

שנית, כשמגיעה שאלה, המערכת מחפשת קטעים שנראים קשורים אליה. אם שאלתם על החזרות, היא עשויה למצוא את סעיף "ביטול עסקה" ואת סעיף "מוצרים פגומים". שלישית, היא מעבירה את הקטעים האלה למודל יחד עם השאלה. המודל מנסח תשובה ויכול לצרף הפניות למקורות, אם המערכת שומרת את פרטי המקור ומציגה אותם. כך מתאר תיעוד Microsoft את התהליך.

דוגמה מחיי היום-יום

במועדון ספורט יש עשרות מסמכים: שעות פעילות, הרשמה, ביטולים והנחות. חבר שואל אם אפשר להקפיא מנוי בזמן חופשה. מערכת RAG טובה תשלוף את סעיף ההקפאה מתוך מסמך המנויים ותנסח תשובה עם קישור אליו. היא אינה צריכה לאמן את המודל מחדש בכל שינוי במסמך. אבל אם המסמך הישן נשאר במאגר, או שהחיפוש שולף סעיף על סוג מנוי אחר, התשובה עדיין עלולה להיות שגויה.

מתי זה מועיל ומה בודקים?

הגישה שימושית כאשר התשובה תלויה בחומר מקומי, פרטי או משתנה: נהלים, מסמכי צוות, שאלות שירות ומדריכים. לפני שסומכים על תשובה, בדקו שלושה דברים: האם המקור המצורף אכן רלוונטי; האם הוא עדכני; והאם המשפט בתשובה נתמך בקטע המקורי. כשאין מקור מתאים, עדיף שהמערכת תאמר זאת במפורש.

הטעות הנפוצה היא לחשוב ש-RAG "מחסן" את המודל מפני שגיאות. איכות התשובה תלויה גם באיכות המסמכים, בחיפוש ובאופן שבו המודל משתמש בקטעים שנמצאו. RAG נותן למודל חומר לעבוד איתו; הוא אינו מחליף בדיקה של התוצאה.