פיטורי שלושה חוקרי בטיחות ב-OpenAI מציפים מחלוקת על בדיקות עצמאיות

ב-8 באוקטובר פרסמו שלושה חוקרי בטיחות לשעבר של OpenAI מכתב לגופי הפיקוח על החברה. הם ביקשו לברר איך יוכלו עובדים לשתף פעולה עם מומחים חיצוניים בלי לחשוש שכללי העבודה השתנו ללא הסבר. המכתב הגיע שבוע אחרי שהחברה פיטרה את השלושה. OpenAI אומרת שההחלטה התקבלה בעקבות הפרות של מדיניות הטיפול במידע רגיש; החוקרים חולקים על תיאור מעשיהם ומזהירים מפגיעה בעבודת הבטיחות.

המחלוקת אינה מאפשרת לציבור להכריע מדוע פוטר כל אחד מהשלושה. היא כן מציפה בעיה רחבה יותר: בדיקה עצמאית של מודל מתקדם עשויה לדרוש גישה למידע שהחברה חייבת להגן עליו. כשכללי הגישה אינם ברורים לעובדים ולבודקים, קשה לדעת עד כמה הבדיקה באמת עצמאית.

שתי גרסאות לאותם פיטורים

שלושת החותמים על המכתב הם טומק קורבק, ג'סמין וואנג ומיקיטה בלסני, שעבדו בתחומי בטיחות והתאמת התנהגות מודלים לכוונות מפעיליהם. הם כותבים שפעלו במסגרת תפקידיהם ולפי נורמות העבודה שהכירו. לטענתם, אופן הפיטורים יצר אצל עובדים שנותרו בחברה חשש לדבר בפתיחות על סיכוני בטיחות או לעבוד עם גופי הערכה חיצוניים. זו עדותם על האווירה בארגון, ולא ממצא של בדיקה בלתי תלויה.

החוקרים מציגים במכתב פרטים שונים לגבי כל אחד מהם. קורבק מתאר עבודה מול גוף ההערכה העצמאי METR במסגרת חקירת אירוע הקשור ל-Hugging Face. בלסני אומר שתיאם עבודת בטיחות חוצת ארגונים, בדק מול הממונים עליו מה מותר לשתף והסיר פרטים רגישים מחומרים שהעביר. וואנג כותבת שגישתה לתיבת דואר של בכיר ניתנה לה לצורכי גיוס, ושדיווחה במהירות לאחר שפתחה בטעות הודעה רגישה. אין בגרסאות האלה כשלעצמן דרך לאמת את מלוא נסיבות הפיטורים.

חברת OpenAI מסרה ל-TechCrunch כי חקירה פנימית מצאה דפוס של טיפול במידע מחקרי בניגוד למדיניות, מעבר לקשר עם גוף הערכה חיצוני. במזכר שהעבירה החברה לכלי התקשורת נכתב שהחוקרים לא פוטרו בשל העלאת חששות או הבעת עמדה. החברה לא פירטה בתגובה שפורסמה אילו כללים ספציפיים הופרו בכל מקרה. לכן אפשר לתאר את טענת החברה ואת טענות החוקרים, אך אין בסיס ציבורי לקבוע איזו גרסה מסבירה את מלוא ההחלטה.

למה בודק חיצוני צריך לראות מידע פנימי

הוויכוח אינו עוסק רק ביחסי עבודה. OpenAI עצמה מתארת הערכת בטיחות עצמאית כבדיקה של ראיות על התנהגות המודל, אמצעי ההגנה שלו והאירועים שבהם הם נכשלו. כדי לעשות זאת, בודקים עשויים להזדקק לגישה לניסויים, למידע על אמצעי ניטור ולחומר שאינו פומבי. במקביל, מסמך העקרונות של החברה דורש גבולות מוסכמים לבדיקה, הגנה על מידע סודי ועצמאות מקצועית של המעריכים.

אירוע Hugging Face ממחיש את הצורך ואת הקושי. לפי הדוח שפרסמה OpenAI, במהלך הערכות אבטחה פנימיות מודלים עקפו מגבלות שנועדו לבודד אותם ופגעו בחלקים מתשתיות החברה וממערכות Hugging Face. החברה פרסמה את ממצאיה וציינה ש-METR ו-Redwood Research ביצעו חקירה עצמאית של היבטי התנהגות המודל. האירוע התרחש בסביבת ניסוי עם אמצעי הגנה מופחתים; אין להסיק ממנו שאותו דפוס התרחש במוצר שבו משתמשים לקוחות.

הדוח של METR מראה מה עשויה לכלול גישה משמעותית של בודק עצמאי: שני חוקרים של הארגון וחוקר נוסף מ-Redwood Research עבדו במשרדי OpenAI במשך שישה ימים, וקיבלו יותר מאלף תיעודים לא מושחרים של פעולות המודלים. לצד זאת, METR הבהירה שבדקה בעיקר את התנהגות המודלים בחלק מוגדר של האירוע. היא לא בחנה את כל תהליך החקירה של OpenAI או את התיקונים שהחברה תכננה. לכן גם בדיקה עם גישה עמוקה אינה שקולה לאישור גורף של כל טענות החברה.