פלט מובנה (structured output)

פלט מובנה: איך גורמים לתשובת AI להתאים לטבלה או למערכת?

ביקשתם מכלי AI להוציא מרשימת הודעות את שם הפונה, נושא הבקשה ומידת הדחיפות. אם בכל תשובה הוא מסדר את המידע קצת אחרת, קשה להעביר אותו לגיליון או למערכת אחרת. פלט מובנה נועד להפוך את צורת התוצאה לצפויה יותר.

מהו פלט מובנה?

פלט מובנה, Structured Output באנגלית, הוא תשובה שהמבנה שלה מוגדר מראש: למשל שדות בשם "שם", "נושא" ו"דחיפות", עם סוג נתון מתאים לכל שדה. במערכות למפתחים אפשר להגדיר סכמה, כלומר כללים לשמות השדות, לסוגי הערכים ולערכים המותרים. תיעוד OpenAI מתאר דרך לדרוש תשובה שתתאים לסכמת JSON שהוגדרה מראש. JSON הוא פורמט נפוץ להעברת נתונים בין תוכנות.

למה המבנה חשוב?

כשאדם קורא תשובה, הוא מסוגל להבין גם אם הסדר מעט משתנה. תוכנה שמקבלת את התשובה צריכה בדרך כלל לדעת בדיוק איפה למצוא כל פרט. אם היום הכלי כותב "שם לקוח" ומחר "פונה", חיבור אוטומטי עלול להיכשל. פלט מובנה מקטין את אי-הסדר הזה בכך שהוא מגדיר מראש את הצורה שבה הנתונים צריכים להופיע.

אבל התאמה למבנה אינה בדיקת אמת. אם המודל ממלא את השדה "תאריך" בתאריך לא נכון, התשובה עדיין יכולה לעמוד בסכמה. סכמה בודקת את הצורה ואת סוגי הערכים; אמינות התוכן דורשת השוואה למקור. גם שדה חובה אינו אומר שהמידע באמת הופיע בהודעה המקורית. לעיתים נכון להגדיר ערך ריק או סימון "לא ידוע".

דוגמה מחיי היום-יום

עמותה מקבלת עשרות פניות לסיוע. המטרה היא להפיק מכל פנייה שורה בגיליון: שם, דרך יצירת קשר, סוג הבקשה והאם חסר מסמך. במקום לבקש "סכם את הפנייה", המערכת מבקשת את ארבעת השדות במבנה קבוע. אדם עובר על השורות לפני שמשתמשים בהן. כך אפשר לזהות במהירות פנייה שבה המודל שייך פרט לשדה הלא נכון או מילא מידע שלא הופיע במקור.

איך משתמשים בזה?

הגדירו קודם אילו שדות באמת נחוצים, אילו מהם יכולים להישאר ריקים ואילו ערכים מותרים. אם משתמשים בכלי שיחה רגיל, אפשר לבקש טבלה עם עמודות קבועות; אם בונים חיבור בין מערכות, כדאי להשתמש ביכולת רשמית של פלט מובנה כאשר היא זמינה. בדקו כמה דוגמאות, ובמיוחד מקרים חסרים או חריגים.

הטעות הנפוצה היא לחשוב שטבלה מסודרת היא בהכרח נתון מהימן. פלט מובנה עוזר לתוכנות לקרוא את התוצאה; הוא אינו מחליף בדיקה של מה שנכתב בתוך השדות.