עיגון למקורות (grounding)

עיגון למקורות: מתי תשובת AI באמת נשענת על מקור?

שאלתם כלי AI מהו נוהל ההחזרות המעודכן של חנות מסוימת. אם הוא עונה מתוך ידע כללי בלבד, ייתכן שיחמיץ שינוי בנוהל. אם הוא קורא את הנוהל הנוכחי ומתבסס עליו, התשובה יכולה להיות מעוגנת במקור. זהו הרעיון מאחורי עיגון למקורות.

מהו עיגון למקורות?

עיגון, Grounding באנגלית, הוא תהליך שבו מערכת מנסה לבסס תשובה על חומר מסוים שניתן לה או שנשלף ממקור. מילון המונחים של Google מגדיר עיגון כהסתמכות על מקורות מידע ומדגיש ש-RAG, שליפה משולבת ביצירה, הוא דרך נפוצה לעשות זאת. במילים פשוטות, במקום "ענה ממה שאתה יודע", מבקשים "ענה לפי המסמך הזה".

איך זה עובד ולמה זה לא מספיק לבדו?

ראשית צריך לבחור או למצוא מקור מתאים. זה יכול להיות קובץ שהמשתמש העלה, עמוד באתר רשמי או קטע ממאגר מסמכים. שנית, המערכת מעבירה למודל את החלקים הרלוונטיים. שלישית, המודל מנסח תשובה שאמורה להישען עליהם ולעיתים מצרף קישור או הפניה לקטע המקורי.

השלבים האלה יכולים להפחית ניחושים, אבל יש כמה נקודות כשל. ייתכן שהמקור עצמו שגוי או ישן. ייתכן שהחיפוש בחר קטע לא מתאים. ייתכן שהמודל פירש נכון את רוב הקטע אך שינה פרט אחד. לכן אפילו תשובה עם קישור דורשת בדיקה שהטענה אכן מופיעה במקור ושאותו מקור רלוונטי לשאלה. גם ההגדרה של Google לעיגון מציינת שמקור בעל שגיאות יכול להוביל לתשובה מעוגנת שאינה נכונה עובדתית.

דוגמה מחיי היום-יום

אתם מחפשים כמה ימי חופשה מגיעים לעובדים לפי נוהל פנימי של חברה. כלי AI מחזיר תשובה מתוך מסמך משנתיים קודמות, עם קישור אליו. התשובה עשויה להיות נאמנה למסמך הישן, אך אינה בהכרח משקפת את הנוהל התקף. הבדיקה הנכונה היא לפתוח את המסמך, לבדוק תאריך וגרסה, ולוודא שאין עדכון חדש.

מה כדאי לבקש מהכלי?

הגדירו על איזה מקור או קבוצת מקורות לענות. בקשו לציין ליד טענות חשובות את המקום המדויק שממנו הן נלקחו, ולהגיד כשאין מקור מתאים. אם יש כמה מקורות סותרים, בקשו להציג את הסתירה במקום למזג אותם לטענה אחת. לפני החלטה מעשית, פתחו את המקור בעצמכם.

הטעות הנפוצה היא לחשוב שעיגון הוא אישור אוטומטי לנכונות. בפועל הוא יוצר מסלול בדיקה: אפשר לראות מאין באה התשובה ולבחון אותה. זו התועלת המרכזית שלו.