אימון לעומת הסקה (training vs. inference)

אימון לעומת הסקה: האם המודל לומד בכל פעם ששואלים אותו?

נתתם למודל דוגמה לסגנון הכתיבה שלכם, והוא חיקה אותה בתשובה. האם בכך אימנתם אותו מחדש? בדרך כלל, מה שקרה הוא שימוש בדוגמה בזמן יצירת התשובה.

מהו אימון ומהי הסקה?

באימון, מערכת מעדכנת את הפרמטרים של המודל על בסיס נתוני אימון. בהסקה, משתמשים במודל שכבר אומן כדי להפיק תשובה לקלט חדש. אלה שני שלבים שונים, כפי שמגדיר מילון המונחים של Google ללמידת מכונה.

למה קל להתבלבל?

כשמוסיפים דוגמה לשיחה, התשובה עשויה להשתנות מיד. אבל שינוי התשובה אינו אומר שמשקלי המודל השתנו. הדוגמה נמצאת בקלט שהמודל רואה כעת. ייתכנו גם מנגנוני זיכרון או התאמה אישית במוצר, אך הם אינם בהכרח אימון של המודל עצמו.

אתם מבקשים מהמודל: "כתוב כמו שלושת המשפטים הבאים". המודל מייצר טקסט דומה במשימה הנוכחית. אם תפתחו שיחה חדשה בלי הדוגמאות ובלי מנגנון זיכרון מתאים, אין סיבה להניח שהסגנון יישמר.

מה עושים עם ההבחנה?

למשימה חד פעמית, תנו הוראות ודוגמאות בקלט. להתאמה שחוזרת על עצמה, בדקו אם יש במוצר זיכרון, הוראות קבועות או אפשרות לכוונון עדין. בחרו לפי הצורך ואל תניחו ששימוש רגיל משנה אוטומטית את המודל עבורכם.

אפשר ללמוד מהשיחה על מה עובד לכם; המודל עצמו אינו בהכרח מתאמן מכל שאלה.