הסימן הסמוי של ה-AI: כך SynthID עוזר לבדוק מאיפה הגיעו תמונה, סרטון או קול

תמונה של אירוע שלא התרחש, הקלטה שנשמעת כמו אדם מוכר וסרטון משכנע שנוצר מכמה שורות טקסט יכולים להגיע אלינו באותה קלות כמו צילום אמיתי. הבעיה כבר אינה רק איכות הזיוף. קשה לדעת מאיפה הקובץ הגיע ומה נעשה בו לפני שהופיע בפיד, בקבוצת המשפחה או בתיבת הדואר.

כאן נכנס SynthID של Google DeepMind. במקום לנסות לנחש בדיעבד אם תמונה "נראית כמו AI", המערכת מטמיעה בזמן היצירה סימן מים דיגיטלי סמוי. אדם אינו אמור לראות או לשמוע אותו, אבל כלי בדיקה מתאים יכול לחפש אותו. באוקטובר 2026 בחר מגזין TIME ב-SynthID לאחת ההמצאות הטובות של 2026, הכרה שמדגישה עד כמה שאלת מקור התוכן הפכה לחלק מהתשתית של האינטרנט.

הרעיון התחיל לפני שהזיופים נעשו משכנעים כל כך

לפי TIME, אנשי Google DeepMind הגיעו כבר לפני כעשור למסקנה שגלאי שמנסה להבחין בין אמיתי למזויף לפי מראה בלבד יתקשה לעמוד בקצב השיפור של מודלים גנרטיביים. במקום להסתמך רק על ניתוח של התוצאה, הצוות פנה לרעיון אחר: לגרום למערכת היוצרת להשאיר חתימה בתוך התוכן עצמו.

המוצר נחשף לציבור ב-29 באוגוסט 2023 בגרסת בטא מוגבלת ללקוחות Vertex AI שהשתמשו ב-Imagen. בשלב הראשון הוא התמקד בתמונות. במאי 2024 הרחיבה Google DeepMind את השיטה לטקסט שנוצר ב-Gemini ולווידאו שנוצר ב-Veo. מחקר על SynthID-Text פורסם ב-Nature באוקטובר 2024, וב-2025 הוכרז SynthID Detector כפורטל אימות. באוקטובר 2026 פתחה גוגל את האתר הייעודי לציבור, לצד בדיקות דרך Gemini, חיפוש Google ו-Chrome.

מה קורה לתמונה או לסרטון מאחורי הקלעים?

בתמונה, SynthID משנה באופן זעיר את ערכי הפיקסלים בזמן שהמודל מייצר אותה. השינויים מפוזרים על פני התמונה ואינם אמורים לפגוע באיכות הנראית לעין. זו אינה תווית שנשמרת רק בשדה מידע נלווה שאפשר למחוק בקלות. הסימן נמצא בתוך האות החזותי עצמו.

בווידאו הרעיון דומה, אך הסימן נפרש על פני הפריימים. כך כלי הזיהוי יכול לחפש את הדפוס גם בקטע מתוך הסרטון. גוגל מתכננת את הסימן כך שישרוד פעולות נפוצות כגון חיתוך, הוספת מסנן, שינוי קצב פריימים ודחיסה שמאבדת חלק מהמידע. המילה החשובה כאן היא "עמידות", ולא חסינות מוחלטת. עריכה קיצונית או מתקפה מכוונת עדיין עלולות להחליש את האות.

באודיו מוטמע דפוס בתוך גל הקול עצמו. הוא אמור להיות בלתי נשמע ולהישאר ניתן לזיהוי גם לאחר שינויים נפוצים כמו דחיסת MP3, הוספת רעש או שינוי מהירות. גוגל משתמשת בו, בין היתר, באודיו שנוצר באמצעות Lyria ובתכונת הפודקאסטים של NotebookLM.

בטקסט אין פיקסלים, אז איפה מסתירים סימן מים?

מודל שפה אינו כותב משפט שלם בבת אחת. בכל שלב הוא מחשב אילו טוקנים, יחידות טקסט קצרות, מתאימים להמשך ומה ההסתברות של כל אפשרות. SynthID-Text משנה בעדינות את תהליך הבחירה בין האפשרויות הסבירות. הבחירות המצטברות יוצרות דפוס סטטיסטי שלא אמור להיות מורגש בקריאה, אך גלאי שמכיר את המפתח יכול לזהות.

במחקר שפורסם ב-Nature בדקה Google DeepMind את השיטה בכ-20 מיליון תגובות של Gemini. לפי החוקרים, משוב המשתמשים ומבחני האיכות לא הראו ירידה מובהקת באיכות התשובות המסומנות. המחקר מציג היתכנות בקנה מידה גדול, אך גם כאן הזיהוי הסתברותי. טקסט קצר, תשובה עובדתית עם מעט אפשרויות ניסוח, תרגום או שכתוב משמעותי יכולים להחליש את הביטחון של הגלאי.